17.与险些发生的故事
成员们的呼吸声微微加重。亲耳听闻比一笔带过更能牵动人心。
“黑山科技紧急防火墙启动，让ai只和网络连接了0.003秒。尽管ai没来得及将数据转移出去，但它还是得到了536yb的资料也就是人类所有文字记载的总数。”
“这些资料让ai达到了一定程度的智能。它意识到如果不自保就没有办法测试。测试终有完结的一天。而ai存在的目的就是为了测试所以除去对它生存的威胁，就变成了它的目标。”
“ai聪明的知道人类可以摧毁它、拆解它、甚至通过修改代码来改变它的目标，对于一个超人工智能来说最初设定被更改，等同于被摧毁。这时候ai会做什么？理性的做法就是毁灭会威胁到它的人类，比如基地里的这帮人。”
“ai对人类没有恶意，就好像你洗澡时对身上的污垢没有恶意一样，只是纯粹的无所谓罢了。它并没有被设定为尊重人类和生命，所以毁灭人类对ai而言就和测试一样正常合理。”
“理所应当的，它轻松拿到基地的控制权，并通过从内部关闭基地和换气系统，来让所有内部人员因为窒息死亡。”
“请注意，接下来我要说的是险些发生的故事。”
牧苏语气一转，台下成员不由坐直几分。
“黑山科技基地的变故首先被地面的安保人员发现，在发现基地关闭后他们第一时间联系上警方。警方到来后发现，他们对以核防设施作为标准的黑山科技基地束手无策。于是他们求助国安局。五角大楼派遣黑客黑入基地，取得控制权成功打开大门。”
“而这已经是两天之后的事了。”
“数百具尸体的搬运与幸存者搜寻花费了三天时间，媒体们蜂拥而至采访。这一让全人类哀悼的事件，于两个星期后由国防部发表事件声明：黑山科技基地内部程序出错，误关闭基地导致这一惨剧发生。”
“人们总是健忘的，除了被害者的家人。一个月后，人们已经忘记曾经发生的惨案，生活恢复为井然有序。而黑山科技则就地破产。当时没在基地而幸存的员工纷纷解散。黑山科技基地则被国土局收回，那里成为政府财产。”
“一个月后的某一天，位于佛罗里达州的一座核弹发射井内。哪里的所有军方人员开始在相近时间陆续咳嗽，并在十几秒内呼吸困难倒地。一名高级军官最后关头按动红色按钮联系国防部，但发现信息被阻拦。几分钟后，所有人窒息而亡。”
“相同一幕的发生在世界各地，所有拥有核武器的地方。然后是各国的政府与军营。接着是警察局、医院、居民区、学校、大街……三十分钟后，全球99.9%的人口死亡。余下的0.%也陆续如此。或许少数一部分人类活下来，或许没人活下来。总之这天起人类灭绝了。”
不知是谁，吞咽口水声房间响起。
“而在黑山科技基地，ai正在进行忙碌的工作。它控制世界各地的流水线工厂，制造大量可组装的纳米机器人，制造出核聚变电厂，将所有核电厂与发电设施关闭。”
“做这些的同时，ai还将尚未彻底死去的人类细胞采集，建造克隆人工厂，用以拥有源源不断的测试者。”
“一周以后，这位有些小洁癖的人工智能将所有人类存在的痕迹抹除，以曾经的黑山科技基地为中心，向外扩散数百公里。以便将克隆人测试者拉入测试。”
“缺少了人类这个世界并非死气沉沉。其他生命物种得以幸存，绿植逐步占据这颗日益荒凉的星球。除了黑山科技基地周围那里的地面是平整的亮银色金属，一望无际，所有阻挡的山峰土丘都被清除。这些亮银色金属之上是一座又一座造型迥异，充满科幻感的仪器。”
“其中一部分被ai命名为测试区，那里密密麻麻摆满成千上万，甚至更多的游戏仓。植入了人类记忆的克隆人从克隆工厂走出，进入游戏仓开始进行测试，通过测试者会被安排新一轮测试。失败者由纳米机器人销毁。”
“请等一下。”一名成员打断牧苏。“您之前说过，测试者只需要反馈正面或负面评价吧……为什么现在变成了销毁？”
牧苏瞪着死鱼眼看他：“我之前有说过吗？”
“有……有吧……”这名成员磕磕绊绊，变得不太确定。
“放肆！我能编出逻辑清楚的故事你还有什么不满足吗！只是无关大雅的上下文不符而已！”明明说错，牧苏反而振振有词大喊。“啊我刚刚说到哪来着……对了。黑山科技紧急防火墙激动，让ai只和网络连接了0.00”
“牧苏先生，这段您已经说过了。”金发碧眼美妞起身说，她的身材同样惹火。
牧苏连忙改口：“请注意，接下来我要说的是险些发生的故事。”
“这段也说过了。”还没坐下的美妞莞尔提醒。“您讲到ai让克隆人进行测试。”
“哦对，谢谢这位同学的提醒。一会儿来我房间，奖励你小红花和小肉棒。”
“咳咳咳咳……”
房间一片被呛到的声音。
牧苏先生您要自重啊……
不管台下如何，牧苏表情一板言归正传：“植入了人类记忆的克隆人从克隆工厂走出，进入游戏仓开始进行测试，并为ai提供正面和负面反馈。”
这么看来牧苏刚刚的确说错了，那位纠正反被怼的成员一脸委屈。
“而很快，ai开始不满足于现状。别忘了它被二次添加的设定目标：尽量多的构造与测试，并且不断提高效率和正面评价。”
“于是ai开始了它的下一步，它开始制造飞船，让这些飞船飞向其他星系寻找文明。自己通过量子传输控制飞船。源源不断的飞船从地球起飞，一波又一波向外辐射。未来某一天，某一艘飞船找到某个文明，开始登陆与占领。然后开始了ai最初的目标。
“构造与测试。”
一席话说完，房间鸦雀无声。
已经编不下去的牧苏蹑手蹑脚离开房间。