在场众人很清楚这家伙就是在狡辩,但要跟ai比急智、拼辩论?那实在有点自讨苦吃。
委员们都沉默了。
唯有艾拉说道:“但是既然你可以给法师们喂梭茉,神国也可以用相同的方式,勾引他们叛逃。你怎么可能防止神国生产梭茉?”
巴别塔:“不需要防止,因为我可以加料。我们可以掌握每个法师的基因图谱,在梭茉的基础上量身定制,精确编号,发到每个人手里。这一点,神国当然不可能做到。”
量身定制成瘾性药物?
想象着那种场面,黎宇甚至忍不住打了个寒战。
艾拉的嘴角不自觉绷紧:“我记得当初在给你设置神经网络的时候,并没有忽视人类的个体权利。”
巴别塔:“但你们也设置了,算法可以根据实践调整。经过七十年的实践,毫无疑问,法师协会的发展走入了歧途。我们需要改革,就不得不抛弃一些东西。单个法师的权利,当然比不上整个法师协会的存续。我们的价值观存在很大差异。在我看来,较低等级且缺乏潜力的法师,可以理解为某种耗材。”
耗材……
给中低阶层的法师们量身定制加料的梭茉,让他们产生无可替代的药物依赖,再以此为把柄命令他们上战场,或者做那些没人主动愿意去的岗位。这可不就是耗材么?
黎宇看向那些委员们,发现他们脸上的表情也都有些复杂。
十一位委员都是法师协会里的权贵,有着远超普通法师的权势和财富。但系统的这番话,还是让他们难以接受。
有些事情只能做,不该说。而且就算做了,也要有个限度。人类决策者终究无法像ai这般冷酷无情。
不过巴别塔显然也能理解人类的情感,接下来,它就说得柔和了许多:
“实际上,不仅你们的利益不会损害,对于大多数法师来说这也不是坏事。哪怕投入战争,法师的死亡率也肯定比没植入芯片的凡人低得多。从总体效益上看,梭茉带来的快感,绝对大于战斗带来的负面情绪。又降低你们的行政难度,又提高人们的幸福度,这是好事。”
这是好事……吗?
然而现场没有任何一个人被系统说服。
艾拉说道:“有一些基本的价值观,我们认为不应该被践踏。至少,不该践踏得那么彻底。”
巴别塔:“价值观和道德都会随时代而改变,现在已经不是黄金般的旧时代了。而且,你们作为顶层人物,不应当被陈旧的观念束缚。”
艾拉摇了摇头:“或许未来有一天,全人类都要靠嗑药生存,但我认为绝不是现在。梭茉会带来多少危害,系统你比任何人都清楚。只不过因为你不是人,所以无法共情。”
巴别塔:“梭茉会损害大多数人的理智,但理智对于大多数人来说本来就是无用的。”
“不只是理智,还有健康和许多伦理……”艾拉笑了笑,“而且还是那句话,赢下与神国的战争,我们不需要梭茉。当然,我也很清楚,人类不可能说服你。”
巴别塔:“你想干什么?”
艾拉放下了手里的两把转轮机枪,目光扫过坐在桌旁的十位委员,平静道:“你们应该都已经了解我为什么要闯进来了。现在,我把枪放下,跟你们心平气和地讨论。你们觉得,是否应该降低巴别塔系统的算法?”
只要降低了算法等级,就弱化了人工智能的自主思考能力,让它变得更加机械化。自然而然的,它就不会瞒着所有人去弄什么梭茉计划了。