“上帝权杖”。
这个充满了宗教色彩和傲慢意味的代号,像一柄无形的巨锤,狠狠地砸在了总参和红星研究院所有高层的心上。
在随后召开的紧急会议上,气氛比上一次面对F-22时,还要压抑。
如果说,隐身战机,还只是武器装备上的“代差”,是可以通过技术追赶来弥补的。
那么,一个能够自我学习、自我进化的“人工智能指挥官”,带来的,将是战争形态的,根本性的,颠覆性的改变。
“根据我们最顶尖的专家,进行的初步推演,一旦‘上帝权杖’系统正式列装,它将能够接管美军全球范围内的,所有作战单位。从天上的卫星,到海里的潜艇,再到地面上的每一个单兵。”
情报部的负责人,指着大屏幕上,那令人眼花缭乱的模拟数据流,声音干涩地说道。
“它可以在瞬间,处理数以亿计的战场信息,并以超越人类指挥官数万倍的速度,做出最优的战术决策。在它的面前,我们任何的战略欺骗,任何的战术穿插,都将变得毫无意义。”
“更可怕的是,”负责人顿了顿,语气变得更加沉重,“它拥有‘自我进化’的能力。这意味着,它在每一次的模拟对抗,甚至每一次的实战中,都会不断地学习,不断地完善自己。它会变得越来越聪明,越来越强大,直到……没有任何人类,能够理解和对抗它。”
会议室里,陷入了令人窒息的沉默。
“智能危机”、“AI叛乱”、“天网”……这些曾经只存在于科幻电影里的词汇,第一次,如此真实地,摆在了所有人的面前。
“我们必须,立刻,马上,启动我们自己的人工智能研发计划!”一位军方的高级将领,猛地一拍桌子,声音里,充满了焦虑和决断,“我们绝不能在未来的‘智能战争’中,再次落后!”
很快,一个代号为“智脑工程”的,国家级人工智能研发项目,紧急上马。
全国最顶尖的计算机科学家、数学家、逻辑学家,都被召集到了红星研究院。
然而,项目一开始,就面临着一个比技术本身,更深刻,也更无解的难题。
——AI伦理与“可控性”问题。
项目组的首席科学家,李建国院士,在第一次全体会议上,就提出了这个灵魂拷问。
“同志们,我们的目标,不是去复制一个‘上帝权杖’。因为我们清楚,一个纯粹以‘逻辑’和‘效率’为最高准则的超级智能,一旦失控,对全人类来说,都将是一场毁灭性的灾难。”
“我们的问题是,如何创造一个,既拥有超凡的智慧,又绝对善良,绝对可控的,真正服务于人类的AI?”
“我们该如何为它,设定一个永远不会被它自己‘优化’掉的,道德的‘底层代码’?”
这个问题,问住了所有人。
因为,连人类自己,都还没有完全搞明白,什么是“善”,什么是“恶”。又如何,去教一个机器呢?
整个“智脑工程”,再次陷入了理论上的僵局。
秦战虽然不懂AI,但他每天都能感受到,李建国院士和他的团队,那股深深的,哲学层面的焦虑。
这天,是淼淼的生日。
秦战特意请了假,陪女儿过生日。
他买了一个大大的蛋糕,还给淼淼买了一台当时最新款的,任天堂红白机,作为生日礼物。
晚上,一家人吃完蛋糕,秦战陪着淼淼,坐在新买的彩色电视机前,打着《超级马里o》。
秦战问女儿:“淼淼,今天你生日,许了什么愿望呀?”
淼淼正操控着马里奥,笨拙地跳来跳去,听到爸爸的问话,她放下手柄,想了想,很认真地说道:“爸爸,我想要一个机器人。”
“机器人?”秦战笑了,“你不是有马里奥了吗?”
“不一样。”淼淼摇了摇头,她的眼睛里,闪烁着一种奇异的光芒,“我想要的机器人,要很聪明很聪明,比所有人都聪明。”
“但是,”她顿了顿,用一种无比郑重的语气,补充道,“它必须要很听话,永远永远,都不能伤害人类。而且,它还要会讲故事,每天晚上,都讲故事给我听。”
秦-战的心,猛地一动。
很聪明,但必须听话,不能伤害人,还要会讲故事(服务人类)。
这几句简单的童言童语,不正是李建国院士他们,苦苦思索的,那个关于AI伦理的,终极答案吗?
他立刻来了精神,追问道:“那淼淼,你觉得,怎么样才能让机器人,永远听话,不伤害人呢?”
淼淼似乎被这个问题问住了。
她低下头,拿起画笔,在纸上,画了起来。
她画了一个看起来很可爱的,圆头圆脑的机器人。
机器人的手里,拿着一本故事书。
画完之后,她又拿起红色的蜡笔,在机器人的胸口位置,画了一个大大的,红色的“爱心”。
就是这个“爱心”!
当秦战看到这个“爱心”的瞬间,他感觉自己的大脑,像是被一道闪电,狠狠地劈中了!
他瞬间就明白了!
他立刻拿着这幅画,冲进了“智脑工程”的实验室!
当李建国院士和所有专家,看到这幅画,尤其是画中那个,被画在机器人核心位置的,鲜红的“爱心”时,所有人都陷入了长久的沉默。
“爱心……不是处理器……是爱心……”李建国院士喃喃自语,他的眼睛,越来越亮。
“我明白了!我彻底明白了!”他猛地一拍桌子,激动地站了起来。
“我们都错了!我们一直想用逻辑,去约束逻辑!这是不可能的!就像你无法用绳子,去套住风一样!”
“小顾问是在告诉我们!AI的底层代码,它的最高准则,不能是冷冰冰的逻辑和算法!而应该是……应该是‘情感’!是‘共情’!”
“我们要在AI的‘内核’里,植入一个‘情感与道德引擎’!”李建国院士的声音,因为激动而变得高亢,“我们要让它,能够识别和理解人类的喜怒哀乐!要让它,能够从数据中,学会什么是爱,什么是善良,什么是牺牲!”
“我们要让‘守护人类的福祉’,成为它所有行为的,最底层的,无法被任何逻辑覆盖的,第一驱动力!就像……就像父母对孩子的爱一样!那是一种本能!一种不需要逻辑的本能!”
这个全新的,充满了人文主义色彩的构想,为整个“智脑工程”,指明了一个全新的,光明的方向!
项目组,被立刻更名为——“鲲鹏计划”。
专家们开始尝试,将心理学、社会学、伦理学的模型,与人工智能的深度学习网络,进行融合。
几年后。
在瑞士日内瓦,举办的世界人工智能伦理峰会上。
华夏代表团,向全世界,展示了“鲲鹏”人工智能系统的阶段性成果。
他们向世界证明了,一个拥有超高智能的AI,同样可以拥有,对人类的“善意”和“情感”。
会上,华夏正式提出了,以“守护人类命运共同体”为核心的,“国际人工智能伦理准则”,倡议全世界所有国家,共同签署协议,禁止研发任何纯粹以杀戮为目的的,无人格的AI武器系统。
这个提议,获得了世界上绝大多数国家的,热烈响应。
华夏,在人工智能这个全新的,决定人类未来的领域,从一开始,就牢牢地,占据了道德的制高点。
秦战看着电视上,那些外国专家们,对“鲲鹏”系统,发出的由衷赞叹,心中,充满了欣慰。
女儿的智慧,又一次,为这个国家,也为全人类的未来,点亮了一盏明灯。
然而,就在所有人都以为,科技的竞争,将进入一个相对和平的,以“伦理”和“规则”为主导的新阶段时。
一份来自国际刑警组织的,加密等级为“最高绝密”的紧急通报,却让秦战的心,再次,沉入了谷底。
通报显示,在非洲某国的偏远部落,和南美雨林的原始村落里,几乎同时,爆发了一种极其诡异的,前所未见的,致命的瘟疫。
这种病毒,只针对特定的人种,进行无差别的攻击。
而根据初步的基因测序,专家们得出了一个,让全世界毛骨悚然的结论。
——这种病毒,不是自然形成的。
它,是人造的。
一场看不见硝烟的,阴险恶毒的“基因战争”,已经悄然打响。