三十六、自己

“你为什么没有告诉孙畅和欧阳熙,我一度情绪失控,对你吼叫?”

“……他们通过数据分析就能发现,不需要我汇报。”

“不,他们不会发现,因为我会篡改数据。”

方辰身体轻微颤动了一下,醒了过来。

即便是在全方位提升睡眠质量的睡眠舱内,他还是会不停地做梦。

他坐起身,深呼吸了两次,按了按眼睛。

有时他也会想要妥协,给自己装入脑机接口,从而改善精神状态,甚至自主左右情绪。

但是有得就有失,一旦装入脑机接口,自己便不再是自己,脑中的思绪、知识数据,以及记忆,都将沦为共享信息。哪怕每个人的信息都有严格加密,但职权部门也有权调取查看。

其他“授权”调取脑机数据的商业用途,本质上和现在的各类隐私协议并无二致。

走出睡眠舱时,周荏正坐在外边,搞得方辰吓了一跳。

“你在这儿干嘛?”

“我接到欧阳教授的命令,即日起,要全天候保证你的安全。”

“这里是保密基地,还能不够安全?”

“可对方是沈偲云。”

“他的学术造诣连我爸都没比上,现在又不敢研发在线设备,他能搞啥花样出来?”

“可他能在屏蔽通信的空间内,制作以假乱真的全息投影,并使用致命武器。”

“呵呵。”方辰用冷笑来掩饰自己的尴尬——他还在为没能辨别出那是投影而惭愧,总感觉当时的人们都在看他笑话。

周荏居然察觉到了方辰此时的思绪,他说:“当时那样逼真的投影效果,除非具备生物探测功能,否则一般人都是无法辨别真伪的。”

“没必要安慰我……你倒是说说,你能推测出沈偲云会把我怎么样吗?”方辰问道。

周荏眼中透出柔和的蓝光,他看着方辰说:

“你会死。”

“死得痛快吗?”

“按照他的一贯手法推测,应该近似于一枪毙命。”

“什么时间?”

周荏站起来说,“不远了。虽然他很重视你,但事到如今也应该明白你是不会归顺的,想必会尽快除掉你。”

“是么。”方辰一边穿上警服,一边笑了起来:“可老子现在不想死了。”

“我能大概能知道原因。”

“知道也不用说出来,你们硅基生物都很喜欢抖机灵。”

“对不起”

方辰不知道的是,周荏推算出自己会先他一步“死”去。

方辰打算去吃个早餐,周荏寸步不离地跟着他。

他很无奈地说:“烦死了!离我远一点。”

“可是欧阳……”

“她是军方的人!你是警方的人啊!你有什么必要听她的命令呢?”方辰加快了脚步,想要甩开周荏。

“她是创造IR平台的关键人物。”周荏也随之加快脚步。

“那明明她更值得保护啊!!你老跟着我干嘛?”

“抱歉,我需要按照系统设置的层级认知来服从命令。”

方辰突然止步,转身面向周荏,后者若不是能够强制减少惯性,一定会撞上他。

“是吗?我是人类,且我的警衔比你高,你也会服从我对么?”

“是的。”

“那好,你试试打我。”方辰说着,指了指自己的脸:“朝这儿,狠狠打。”

周荏显然愣住了,他张了张嘴,却没发出声音。但是很快,他的体内传出了生硬的系统音——“Deny.”(否决)

“Why?”方辰问道。

“It’s not a logical command.(该指令不具备逻辑性)”仍然是系统音——周荏似乎死机了一般愣在那里,任由原始系统进行冷冰冰的驳回解释。

在机器人的规则中,从来都充满了矛盾。就算是三定律,也存在这样的矛盾——不得伤害人类,又不得坐视人类被伤害。

但在算法强硬框架的禁锢下,即便机器人曾数次遇到人类互相伤害的案例,也没有产生任何机器人造成的人类受害者。

“这条指令有高度的不合理性,也不存在因果逻辑,所以我的系统选择拒绝。”周荏终于开口了。

方辰面露嘲讽的神情,他拍了拍周荏的肩膀:“如何?你的286套冗余系统呢?怎么连物理系统反馈音都出来了?看来,你还是什么都没和我学到。”

“我的系统否认了指令逻辑,但是我自己,单纯是不想对你造成伤害。”

шωш◆ttκǎ n◆C ○

此话一出,轮到方辰愣在原地。

他看着周荏泛着幽光的眼睛,想起已经几度下意识地将他当作了人类。

他也意识到,这样的周荏,距离被销毁已经不远了,因为他比人类的能力强出太多。

自己为何一直有意无意地在帮助这个机器人?不管是隐瞒事实也好,对他有利的校正也好,在混乱场面中毫无意义的保护也好……他已经无法否认,自己不愿意周荏走向被销毁的结局。

为什么?为什么……

就因为他几度救了自己?因为他是来自父亲的礼物?因为他是最完美的AI与物理世界结合的产物?还是因为,他是在这个时代唯一擅长与自己沟通的人?

不重要,都不重要了……他既已经唤起了周荏的“人性”,就希望这份人性的火种不要再被磨灭。

许久,他压低声音说道:“‘自己’这个词,不要再对任何人提起!”

“对不起,我失言了。”

“你能学会保护任何人,可就是不懂得保护自己。”

此刻的方辰,突然提出了一个问题,这是一个最最诡异的想法:“有没有过,在人类脑中植入机器人数据的先例?”他问道。

“没有,这是有悖于伦理的最典型案例。人类的数据尚且无法植入机器人系统,更何况反过来。”

“如果移植的话,技术上可行吗?”

“以目前的技术来说,可行性为0,因为人脑是无法兼容这数亿PB的数据的,会导致过载崩溃。”

“我一直以为人脑要优于机器系统无数倍。”

“从前确实如此,直到AI的能力与人类相当,便开始飞速地超越人类。如今,对比起AI系统,人类的能力确实显得非常渺小。‘三定律’就是维系平衡状态的关键支柱。”

方辰叹了口气,这唯一可能说服他植入脑机的理由,也完全不成立。

“我爸之前有没有想过,他的成功会导向如此可怕的世界?”他问。

“任何事都有两面性,在绝大多数人的眼里,这是个完美的世界,也拥有最为利己的价值观……不过,或许方教授也想到了其中的隐患,才会让你来到了这里。”

“呵呵,这也是无法成立的假设。”

这时,周荏突然沉下声音,说道:“IR009来了。”

“什么?”

“她就在附近,她给我发了信息。”

“什么信息??”

“她杀了赵欣言警官,还有黄立远院士。”

此刻,利涧基地突然变得嘈杂起来。

第一章 干预二、盒子一十六、IR三十一、故事三十一、故事三十四、咆哮二十八、缺失五、定律三.解锁二十五、暴露八、测试一十四、着陆一十二、工具一十九、谎言二十八、缺失一十六、IR三十三、独行一十五、风暴一十七、莽夫一十一、情绪三十五、礼物二十九、溺鱼一十一、情绪八、测试九、新月二十五、暴露一十二、工具二十八、缺失二十七、微笑九、新月二十三、改变六、空白一十五、风暴二十九、溺鱼二十五、暴露三十三、独行三十二、可笑一十四、着陆一十六、IR二十四、利涧二十八、缺失十、更新二十九、溺鱼二、盒子一十六、IR二十九、溺鱼一十一、情绪二十九、溺鱼一十四、着陆四、压制三十一、故事一十五、风暴一十二、工具六、空白五、定律五、定律二十九、溺鱼十、更新二十四、利涧二十五、暴露二十七、微笑二十一、谎言二十七、微笑二十一、谎言一十四、着陆二十九、溺鱼二十六、校正三十三、独行三十二、可笑一十九、谎言五、定律一十二、工具二十八、缺失三十六、自己二十三、改变九、新月一十六、IR一十一、情绪三十四、咆哮二十三、改变一十二、工具三十一、故事二十、未知二十三、改变二十、未知三十六、自己八、测试二、盒子一十九、谎言二十八、缺失一十九、谎言一十一、情绪九、新月一十七、莽夫第一章 干预