不过,揪出内奸,那已经不是他的事了。
“各位首长,我已经将原始代码彻底隐藏,除了我,没人知道它隐藏在系统内什么地方!”他犹豫了一下,“其实,mE还有升级的空间,只是,过于自主的人工智能对人类来说,并不是好事。”
得先给首长们打个预防针。
超级人工智能必须处在人类的绝对掌控之下。
根据他从星际继承系统得到的信息,在宇宙之中,毁灭于超级人工智能之手的碳基生物文明不在少数。
张去益的话让在场所有人都陷入了沉思。
王老目光深邃地看着他:“去益,你的顾虑很有道理。技术的边界到底在哪里,这确实是个需要慎之又慎的问题。那么依你看,mE系统的升级空间有多大?这个‘过于自主’的界限又在哪里?”
“根据现有架构,mE可以进化到具备战略预判、自主资源调配甚至部分战术决策的能力。”张去益谨慎地选择着措辞,“它的学习能力远超我们想象。但如果让它完全自主,就可能出现我们无法理解的逻辑链条和决策依据。”
他想起星际继承系统资料库里那些触目惊心的记录——一个个曾经辉煌的文明,最终都湮灭在自己创造的智能造物手中。
“我们必须确保任何情况下,最终决策权牢牢掌握在人类手中。”张去益坚定地说,“我建议为mE设置多重安全协议:第一,任何涉及军事行动的指令必须经过人类确认;第二,定期进行逻辑伦理测试;第三,也是最重要的,设置一个只有最高指挥官掌握的紧急休眠指令。”
一位负责战略的将军皱眉道:“但是在瞬息万变的现代战场上,如果事事都需要人类确认,会不会贻误战机?”
“这就是我们需要把握的平衡点。”张去益点头表示理解,“我可以在确保安全的前提下,适当扩大mE在战术层面的自主权。但战略层面的决策,特别是涉及使用大规模杀伤性武器的权限,必须设置无法逾越的红线。”
会议室里响起一阵低声讨论。大家都明白,他们正在讨论的不仅是一个技术问题,更关乎人类文明的未来走向。
基地最高指挥官最终拍板:“就按去益同志说的办。在确保绝对安全的前提下,可以逐步释放mE的能力。这件事就由去益全权负责,所有升级方案必须经过最高指挥部的集体讨论。”
张去益暗暗松了口气。这个预防针打得正是时候。
在即将到来的战争中,mE确实需要提升能力,但必须在安全可控的范围内。
他已经按照星际继承系统中有关超级人工智能的技术在系统中预留了足够的防护措施,既能让mE发挥应有的作用,又不会重蹈其他文明覆灭的覆辙。
……
他看了看时间,快五点钟了。
现在赶回去参加父亲的寿宴还来得及。
…
这个念头一起,便让他归心似箭。
系统已然修复,安全框架也已确立,关于内奸,具体的调查和部署自有相关部门的专业人员负责。他留在这里,暂时已无更大必要。
“各位首长,”张去益开口道,“mE系统目前已稳定运行,安全协议和后续升级方案我会尽快形成书面报告。如果这里暂时没有其他紧急事务,我想……我是否可以先行离开?家父的寿宴……”
他没有把话说完,但在场众人都立刻明白了他的意思。
王老脸上露出一丝理解和歉然:“你看我,光顾着这边的事,差点把你去益的‘私事’给忘了。今天是你父亲五十大寿,我们这边把你紧急召来,已经是打扰了。”
他拍了拍张去益的肩膀,语气带着宽慰和肯定:“快回去吧!这边有我们。你已经为国家立下了大功,不能再让你错过为人子尽孝的重要时刻。替我们向你爸爸带个好,祝他福如东海,寿比南山!”
没有更多寒暄,张去益在韩俞中校的陪同下,再次登上屋顶的直升机。螺旋桨的轰鸣声中,直升机拔地而起,朝着远安国际大酒店的方向疾驰而去。
…
回来的时间刚刚好。
还有半个小时宴会就要开始了。
直升机平稳地降落在远安国际大酒店顶楼的停机坪上。舱门打开,傍晚微凉的风拂面而来,带着城市特有的喧嚣气息,与西郊基地地下指挥中心那种高度紧张、与世隔绝的氛围截然不同。
张去益深吸一口气,整理了一下因匆忙赶路而略显凌乱的衣领,快步走向通往酒店内部的通道。韩俞中校紧随其后,将他安全送达后,便悄然隐入安保队伍中。
当他再次出现在二十八楼宴会厅时,眼前的景象已然不同。巨大的水晶灯散发出璀璨柔和的光芒,将整个宴会厅映照得金碧辉煌。训练有素的服务生们正进行着最后的检查,餐具摆放得熠熠生辉。悠扬的现场乐队演奏着暖场的轻音乐,宾客们大多已落座,低声交谈,等待着寿宴正式开始。
空气中弥漫着美食的香气与鲜花的芬芳,一派喜庆祥和。
“哥!你回来了!” 眼尖的小妹张纯第一个发现他,像一只欢快的小鸟般飞扑过来,脸上写满了如释重负,“事情处理完了?顺利吗?我们都担心死了!”
“嗯,解决了。”张去益对她露出一个安抚的笑容,言简意赅,并未多谈细节。他的目光越过妹妹,急切地搜寻着父母和李扶摇的身影。
他看到主桌那边,父亲张定远正与几位重要的宾客谈笑风生,精神矍铄,母亲林雅安在一旁得体地应酬着,但眼神不时瞟向入口方向,显然也在牵挂着他。而李扶摇,则安静地坐在母亲身旁预留的位置上,穿着宽松舒适的礼服,手轻轻抚着隆起的腹部,目光温柔地迎向他。
四目相对,李扶摇的嘴角微微上扬,对他轻轻点了点头。那眼神仿佛在说:“回来就好。”