金研院看世界－AI是否将成人类信任体系主导者？

随着AI计算能力的快速发展，未来一波波袭来的冲击，正挑战着我们对于AI普及后的社会想像。图／FreePik

在美国旧金山的Waymo自驾计程车开放叫车两年后，中国武汉也开始有上千台「萝卜快跑」自驾计程车开始提供服务。同样的，这两项服务都遭到原有司机的强烈抗议，却也象征人工智慧（AI）从人类手上又抢占了一个新工作领域。随着AI计算能力的快速发展，未来一波波袭来的冲击，正挑战着我们对于AI普及后的社会想像。

■自驾计程车上路 突破演算法信任问题

因为，这些自驾计程车的上路，代表了社会对于演算法信任问题的突破。

毕竟，这些车辆不仅需要获得乘客的信任，也需要让其他司机和行人信服其演算法的安全性。在这个自驾计程车商业化的过程中，必须证明出自驾安全性不亚于人类司机，从而推动社会向未来城市模式的转型。而在这波浪潮中，金融业也跟进了自驾计程车的发展，保险龙头瑞士再保险（Swiss Re）在分析各种碰撞数据后，与Waymo和百度（萝卜快跑母公司）订立了自驾计程车的保险合约，这些保险数据帮助了Waymo申请上路的程序。

这一转变，从最初对人类的信任到对机器的信任，最终形成了一种独立于人类的对AI的系统性信任。延伸来看，就犹如人类也将从对医疗仪器的机器信任，进一步跨入依赖AI诊断、开药甚至开刀的时刻，也将指日可待。

信任的这种转移将对金融行业产生深远的影响。

例如，ETF与机器人投资顾问的成功已经使许多人选择信任演算法进行投资，而不是专业投资顾问。未来，随着数位原住民一代成为经济的主力，个人储蓄、信贷交易，以及后台的审计工作等，都将在新的信任时代中被重新评估，以确定它们是否仍具有价值，是否仍需要依赖真人类来完成各项工作。

■人性的多变性 凸显AI的局限性

然而，从自驾计程车的实践中，我们也看到了AI的局限性，特别是在处理人性问题上。例如，画面中有些AI车辆只按照演算法开车而互不相让形成路口僵局，或者是因为人类「猪队友」，也就是不按章法开车的人类驾驶，拖累而发生事故。这都表示AI演算法仍然难以掌握开车道德相互礼让，更无法察言观色的认知出危险驾驶。这就像在金融服务上的AI缺乏同理心，也就不可能如同我们现在的优秀行员，在柜台对受到爱情诈骗的汇款户苦口婆心，这种人性的掌握将是未来AI信任体系中最重要的瑰宝。

毕竟，服务的核心在于洞察人性，过分仰赖演算法和机器可能会让我们忽略了初衷：丰富和美化人们的生活。无论虚拟世界多么迷人，它都无法替代真实互动的温度。

在个人的Waymo体验中，油门增减的顺畅与舒适度过弯，让我舒适地打起瞌睡，但事后回想，开着车的只是一个技术高超、却不懂开车伦理的程式而已，我不能跟他闲话家常，更不能跟他请教旧金山的点点滴滴；反过来说，在程式的眼里，我也许不是游客，只是一个要送到目的地的包裹罢了！