前OpenAI高管：当前人工智能面临三大障碍

鞭牛士报道，10月26日消息，据福布斯报道，人工智能未来学家、OpenAI 前市场负责人扎克·卡斯 (Zack Kass)表示，在后台运行的人工智能将使我们能够像人与人之间互动一样轻松地与机器和应用程序进行互动。

「我预测，在取得重大进展之前，事情会变得很奇怪。」卡斯说。「我们必须接受这一点。所有进步都有代价。但在这个转变过程中，我们需要开始准备的最有趣的事情之一是理解技术门槛和社会门槛的概念。」

他解释道，技术门槛只是在问机器能做什么？社会门槛则在问我们想让机器做什么？或者我们愿意让它做什么？

与此同时，他警告称，有三个障碍可能会减缓或阻碍进步：人类对失去控制的恐惧、对人工智能风险的不合理看法以及对机器故障的低容忍度。

这些挑战与自动驾驶汽车的兴起息息相关，卡斯认为自动驾驶汽车是人工智能应用的风向标。正如奥的斯电梯在 19 世纪末和 20 世纪初努力缓解人们对电梯的恐惧一样，人们对自动驾驶汽车也抱有同样的恐惧和厌恶。

他说：在自动驾驶汽车领域，我认为我们即将解锁一种令人难以置信的理解，即我们如何看待与人工智能相关的技术。

他指出了自动驾驶汽车（以及人工智能）面临的三大挑战。

第一，失去控制。 「人类喜欢控制。」他解释道。「我们喜欢坐进车里，把脚踩在油门上，转动方向盘，控制这台庞大的机器。」

第二，不成比例的恐惧。 「在美国，害怕飞行的人比害怕开车的人多 15 倍。」卡斯说。「飞行从经验上来说是安全的，而开车从经验上来说是危险的。此外，人们并不了解自动驾驶汽车有多好。大多数人不知道，今天，亚利桑那州将有 5 万人驾驶自动驾驶汽车，不会发生事故。湾区则有 1 万人。」

第三，对机器故障的容忍度低。 「人类对人为故障的容忍度极高，而对机械故障则完全没有容忍度。」他观察到。「这就是为什么每年有 20,000 人死于醉酒驾驶，我们非常愿意说，这只是做生意的成本。但如果一辆自动驾驶的特斯拉汽车转向错误的车道，每个人都会要求关闭该项目。」

他补充说，对机器或人工智能保持更高的标准并不一定是坏事。「这就是为什么我所在的大楼永远不会倒塌，这就是为什么我们驾驶的飞机不会从天上掉下来。而且，飞行从未像今天这样安全。我们正在为我们的机械系统构建如此多的稳健性。我们对这些技术的交付抱有非常高的期望。」

卡斯表示，现在的情况是，技术已经超越了人类应对它的能力。以奥的斯电梯为例，人们害怕乘坐电梯，但该公司以人性化的方式做出回应——音乐、镜子和人工电梯操作员。“这招奏效了。人们开始使用电梯。技术门槛已经达到，社会门槛的模拟调整也随之更新。”

同样，随着我们看到解决方案中加入了更多人性化元素，人们对人工智能的恐惧或困惑也会逐渐减少。例如，有代理人工智能，或自主代理。「我们将为人工智能分配任务或目标，并让这些系统在我们的应用程序和浏览器上执行任务和目标。想象一下，我们不再依赖手机上的 100 或 150 个应用程序。」

自然语言操作系统正在推动这一进程，卡斯解释道，「我们将进入一个以人与人互动的方式与机器互动的世界。原因在于我们今天所处的数字鸿沟。我们设计的系统（如个人电脑）实际上并不是第二天性。你必须花大量时间熟悉机器，才能充分发挥其潜力。」

卡斯表示，即使是谷歌关键词搜索对某些人来说也不是很明显。 「ChatGPT 让我们首次看到了未来的世界，你可以像与他人互动一样与机器互动。我们认为自然语言操作系统可能会在未来 10 年或 15 年内问世，它将从这种尴尬的与机器的交流转变为一种更自然的交流。」