AI教父示警! 人工智慧「30年内毁灭人类」机率增至20%
▲被誉为「AI教父」的加拿大学者辛顿(Geoffrey Hinton)。(图/路透)
记者张方瑀/综合报导
被誉为「AI教父」的辛顿近日警告,AI技术发展的速度远快于预期,AI导致人类在未来30年内灭绝的机率,从他先前预估的10%,上升到10%至20%,「我们从未处理过比自己更聪明的事物。」
根据《卫报》报导,加拿大学者辛顿(Geoffrey Hinton)因其在人工智慧领域的贡献获得今年的诺贝尔物理学奖,他近日接受BBC访问时提到,他先前曾说,AI在未来30年导致人类灭绝的可能性为10%,但如今这个可能性已提高到10%至20%。
辛顿将人类比作3岁的孩子,而AI就是成年人,「我们从未处理过比自己更聪明的事物,你能举出多少例子是由较不聪明的事物控制更聪明的事物?几乎没有。」
他指出,许多专家认为在未来20年内,可能会开发出比人类更聪明的AI系统,而这是非常可怕的想法。
辛顿回顾自己先前对AI发展的看法时坦言.技术发展的速度远超过他的预期,「我没想到它会进展到现在这种地步,我曾以为我们会在更遥远的未来到达这里。」
辛顿还呼吁各国政府对AI技术进行监管,「仅靠市场的无形之手无法保证安全,依赖大型公司的逐利动机来开发安全的AI是不足够的,唯一能迫使这些大公司在安全性上进行更多研究的是政府监管。」