五、定律

「守住人类底线」的红字,已经熄灭。

一群警用具身机器人,由两位人类警员指引,为瘫倒在地的暴动人群加上手铐。

方辰在其间站立着,似是还没缓过来一般,有些木讷地看着这片残局。

经过他的警方机器人向他敬礼或是致意,他毫不理会。

“你在没有携带反躁动波耳机的情况下,就启动了声波压制,这非常危险。”周荏说道。

“我仓促启动压制,难道不是因为你的愚蠢行为吗?”

“当时我的确失言了,这源于我对人类行为观察/预测的不准确,以及对动机的不理解。对此我深感自责,你可依规进行处罚。”

“当然要处罚,不然你总有一天会害死人。”方辰看向他,说道:“IR013,启动奖惩模式”

周荏眼睛亮了一下:“奖惩模式已开启。”

“惩罚记录:对环境、氛围,人类行为严重失察,无法明确体会愤怒情绪、语义语境及暴力倾向。”

“已记录,即将惩罚。”

周荏的眼睛变暗,然后又重新透出微光:“情绪分析算法已于线上优化,相关场数据景已上传反馈,深度学习鞭策已备案。”

方辰感到有些惊讶,因为以前他也曾在执行任务后,偶尔校正过具身机器人。那些机器人往往需要等1-2天时间才能优化一个场景,IR架构机器人居然可以做到3秒钟就完成!

“为什么你能这么快就完成优化?”

“因为同时在线支持我的,是28台量子计算机,以及无法计量的大模型。”

方辰此刻,仿佛听到了来自-272°C的量子比特碰撞的轰鸣声,以及无数AI芯片、GPU在不间断计算的运转声。尽管如今的量子计算机已不再需要这样的温度限制,也从没有他幻想出来的巨大噪音。

然而,周荏接下来说出的话,更加令人震惊——

“我自身亦可参与改写算法。”

这个答案令方辰不寒而栗,他突然觉得,面前这个一脸和善俊朗的男人,似乎是一个可怕至极、有能力摧毁一切能力的生物。

此时,一个刚刚参与暴动的人,抬起头来,虚弱地对方辰说:“他早晚有一天会干掉你,取而代之!就像他们早晚会干掉人类。”

方辰没有说话,他还沉浸在“自改算法”的震惊之中。

地上那人又再说了一遍:“你要是还当自己是人类,就应该切断他的中枢,毁了他!”

“你闭嘴!”方辰喊道。若不是规制限制,他很想揪起这人狠揍一拳。

“担心是徒劳的,我无法改写机器人三定律。”周荏说道,脸上似乎是一种疑惑的表情,他不明白人们在害怕什么。“我要做的,只是服务人类。”

机器人三定律:

机器人不得伤害人类,或坐视人类受到伤害;

除非违背第一定律,否则机器人必须服从人类命令;

除非违背第一或第二定律,否则机器人必须保护自己。

但无论如何,IR架构背后的硬件和软件,足以令人生畏,因为它似乎强悍得足以轻松推翻任何定律。

方辰看了他一眼,就像是在重新认识一个物体。

然后他扭头走向警车,想去向上汇报,然后申请卸去校正IR013的任务。

这时他才发现警车边,站着赵欣言。

“你刚才死到哪儿去了?”方辰问。

“这是很简单的任务,我没想到会有这么大的麻烦。所幸按照规程,压制声波只开启10秒,对生理上不会造成不可逆伤害。”

“我要告诉孙畅,就4秒,你们就差点儿多了个烈士!”说着他就打开车门。

可赵欣言又把车门挡上了:“为什么要进车里?”他用下巴指指周荏“怕他听见么?把他当成真人了吧?”

“别挡我!这东西能自我修改算法,我要汇报,卸掉校正任务。”

赵欣言没有看方辰,他只是朝周荏摆了摆手:“来来来,过来!”

周荏朝警车走来。赵欣言笑着说:“哈哈,瞧他的步态,是不是都有点儿像你了。”

方辰扭头看着周荏,皱起眉头。

周荏走近他俩:“赵欣言警官,你好。”然后他伸出手要与之握手。

突然,赵欣言收起了笑容,抬起一脚狠狠踹上了周荏的腹部!

周荏一个趔趄,然后赵欣言又补上一脚,前者跌倒在地。

“你要记住,他不是人类,最终也不可能成为人类。”赵欣言对方辰说,“知道我刚才为什么一直没有应答通讯吗?是因为我要观察,观察IR013,观察你们的互动和处理方式,观察他的应对能力。果然,我看到他制造了麻烦,甚至让你陷入危险。”

“所以我要上报,终止任务!”

“可是,他也算救了你一次。如若换我在场,你必定会结结实实体验10秒的压制声波,到现在还站不起来。UU看书 www.uukanshu.net ”

“其他具身机器人也能做到。”

“不能的,这你应该清楚。”

赵欣言恢复了笑容:“但是,这都是试错的一部分,把它记录在报告中,持续校正,然后继续任务吧。”

“走开,我和你说不通,我要和孙畅通话!”

“孙畅不可能让你卸掉任务的。他自己就是IR架构研发团队的一员,而你是整个团队推举的执行校正任务的唯一人选。”

“你为何希望终止对我的校正任务?方辰警官。”周荏问道。

方辰没有回答,而赵欣言说道:“他把你当成人类了,哈哈,这家伙不愧是21世纪的古董。”

“可我不会是人类。”

“但你会有自我意识!”方辰说。

“我现在就有自我意识,但对人类没有威胁。例如,我会认为赵欣言警官刚刚的无故攻击并非正当行为,但基于设定,我不会对此有任何抵抗或反击。”

“你知道吗?”方辰对赵欣言说,“仅以他的物理质量来说,你就不可能踹得动他分毫。更别提他能即时启动稳定系统,根本不可能倒地。你现在知道他有多聪明、多像人了吗?”

“你是说他故意倒地,以示服从?就因为我警衔比他高吗?”

“就因为你是人类!而且他对你没有不服从的权限。”

“有意思。”赵欣言说道:“不过,不管他的类人技术多么好,你可别产生感情啊。“他看着周荏的眼睛说道:

“说不定,等你的校正任务结束,他就要下线销毁了。”

第一章 干预二十四、利涧二十七、微笑一十三、升空一十五、风暴一十六、IR三十三、独行三十二、可笑二十八、缺失三十五、礼物三十一、故事二十三、改变三十五、礼物一十七、莽夫二十二、5秒二十、未知一十二、工具五、定律一十四、着陆一十四、着陆三十三、独行第一章 干预三十五、礼物三十一、故事四、压制二十九、溺鱼三十三、独行三十二、可笑二十三、改变一十三、升空三十、隐瞒一十三、升空一十二、工具二十五、暴露二十四、利涧一十七、莽夫二十四、利涧一十五、风暴二十二、5秒二十二、5秒二十三、改变九、新月四、压制一十八、过往一十六、IR二十五、暴露六、空白二十八、缺失二十、未知九、新月三十五、礼物三十六、自己第一章 干预五、定律八、测试一十四、着陆二十四、利涧三十五、礼物二十九、溺鱼三.解锁三十二、可笑十、更新一十一、情绪三十四、咆哮六、空白六、空白二十二、5秒一十八、过往十、更新二十一、谎言十、更新三十二、可笑一十六、IR三十二、可笑一十五、风暴三十五、礼物一十七、莽夫一十八、过往二十三、改变十、更新一十三、升空四、压制三十三、独行一十七、莽夫一十九、谎言二十八、缺失一十二、工具十、更新三十六、自己一十五、风暴二十、未知二十一、谎言三十五、礼物二十四、利涧二十五、暴露一十四、着陆