人工智能能否接管世界？ChatGPT 有话说

人工智能（AI）正在迅速改变政治竞选活动，引发了人们对于其可能会破坏选举这一情况的担忧，特别是当它被用于生成深度伪造和错误信息时。

随着 AI 工具变得更加复杂和易于获取，即将到来的总统选举面临着针对这些风险的更严格审查。

一个备受瞩目的例子是总统乔·拜登的深度伪造，它错误地描绘他告知人们不要投票。这类内容，如果不加以核查，可能会损害公众对民主进程的信任。

被操纵的视频或音频剪辑可以通过编造政治人物逼真但虚假的言论来欺骗选民。

作为回应，像 Full Fact 这样的事实核查组织已经开始使用 AI 工具实时监测声明，分析演讲和宣言，以防止错误信息的传播。然而，挑战仍然巨大，特别是当深度伪造通过社交媒体迅速传播时，往往在目光敏锐的事实核查人员能够发现假视频之前就。

DeepMind 的联合创始人穆斯塔法·苏莱曼（Mustafa Suleyman）在他的书《即将到来的浪潮》（The Coming Wave）中强调了这些危险，认为不受控制的 AI 有可能会严重扰乱民主进程。他主张更严格的监管和监督，以防止 AI 技术被武器化来误导或操纵选民。苏莱曼的担忧与更广泛的学术观点一致，该观点警告说，如果不加以适当控制，AI 有可能在全球范围内破坏选举的稳定。

民意调查结果还显示，公众已察觉到人工智能的潜在危害，近乎一半的美国人担忧人工智能可能会攻击人类。

由 YouGov 开展的此项调查揭示出美国人对于计算机和人类智能的看法，同时凸显了人们对于人与机器之间可能产生冲突的忧虑。

ChatGPT 回应道：“有关人工智能是否以及何时有可能‘接管世界’这个问题很复杂，这取决于我们怎样定义‘接管’，以及人工智能技术的哪些发展可能造成这种结果。”

“这是在科幻小说里常常探讨的话题，但现实状况要复杂得多、微妙得多。”

“如今，人工智能功能强大，不过高度专业化。”

“它在图像识别、自然语言处理以及数据分析等任务方面表现出众，但距离达到与人类全面智能相匹配的程度还很远。”

“我们把这种级别的人工智能称作狭义人工智能或者弱人工智能，这意味着它擅长特定的任务，但是缺乏一般性的认知能力。”

“人工智能‘接管’这一概念通常指的是通用人工智能（AGI）或者超级智能——能够完成人类能够完成的任何智力任务，并且有可能超越人类智能的人工智能系统。”

“我们距离开发出 AGI 还很远。专家们对于何时，甚至能否实现 AGI 存在分歧。一些人觉得可能在几十年内能够实现，而另一些人则认为可能永远都实现不了。”

"乐观观点：通用人工智能可能会在技术、医学和生活质量方面带来巨大进步，但需要谨慎管理。

"警示观点：如果没有适当的保障措施，通用人工智能可能会变得无法控制，导致意想不到的后果，特别是在其超越人类智能但又不符合人类价值观的情况下。

"存在若干潜在风险，不过目前还远不能确定。

"一个近期的风险在于人工智能被应用于军事领域，例如自主无人机，这或许会造成严重的全球不稳定局面。

"工作自动化方面：人工智能有可能扰乱劳动力市场，让许多工作实现自动化，如果经济和社会系统无法适应，就可能引发社会动荡。

“伦理和控制问题：对于通用人工智能来说，最大的担忧在于一致性——如何确保人工智能的目标与人类价值观一致。如果通用人工智能不一致，从理论上讲，它可能会去追求对人类有害的目标，不管是有意为之，还是作为其编程的副作用。

“像OpenAI、DeepMind 之类的组织正在积极研究怎样构建安全且可控的人工智能系统。有很多种方法来确保人工智能仍然是有益的，其中包括：

价值一致性: 确保人工智能系统能够理解并遵循人类的伦理原则。

法规和治理: 制定国际协议以控制人工智能的使用和发展，尤其是在危险的应用方面。

“短期（未来 5 至 10 年）：人工智能会在医疗保健、交通和教育等特定领域继续取得重大的进展。然而，我们仍会使用狭义的人工智能系统，它们无论从哪个意义上讲，都不太可能‘接管世界’。

"在中期（20 至 50 年）：一些研究人员推测 AGI 可能会出现，但这只是推测，且具有高度不确定性。倘若真的出现，将会引发重大的伦理和安全方面的考量。

"在长期（50 年及以上）：要预测如此久远的 AI 发展情况极其困难。如果 AGI 和超级智能得以开发，谨慎管理对于避免有害结果将至关重要。

"AI 在不久的将来不太可能接管世界。虽然 AGI 或超级智能 AI 一旦被开发可能会带来风险，但我们距离那个阶段仍很遥远。

"AI 究竟会成为一股有益的力量还是危险的力量，将取决于人类如何借助伦理准则、治理手段和安全措施来引导其发展。"