乐文小说网

手机浏览器扫描二维码访问

21 第 21 章（第1页）

《谢谢AI送我的末日体验》最快更新[630kan.cc]

老人跟我示意想喝一口水，我拧开水瓶的盖子，递给他喝了一口，然后他继续说。

“先跟大家说一句抱歉，我毕竟90多岁了，说话有点慢，偶尔也要喝一口水，希望大家见谅。

今天有幸来到这里，代表我们受害群体发言，首先第一点我希望说清楚的，是AI判断错误的问题，大家应该在上次常规会议的时候，已经听过AI陈述无法有效救援的观点，今天，我们在台上有三十七位生还者，一只猫，一只狗，以及还有一位生还者昏迷在医院，根据管治经理又子梅小姐的统计，是地震当天在村里的全部人员和宠物，我们是全员生还，今天站在大家的面前，就是AI判断错误的最有力证明，希望大家同意我们的这个观点。”

说到这里老人停下来了，抬头看着代表们，因为他们有些人开始窃窃私语，讨论起来，我看到老人的眼睛炯炯有神的，我默默跟自己说，我也要像他这样，很自信的看着各国代表们，我想象了一下，我们就是复仇者联盟。

“如果大家同意这个观点的话，这就尴尬了，AI会错的吗？当初推动AI普及化，最有力的一个理由，是因为AI没有情绪干扰不会错的，我相信了七十年，现在AI被发现错误，那到底该怎么样处理？难道让有错误的AI自我修正吗？修完如何确定没修错呢？AI修完之后告诉大家没错误了你还信吗？难道要等下一次天灾才能做一个真正的测试吗？”

这次大家议论纷纷的声音就更大了，老人趁着空档又喝了一口水。

“我们认为，这个错误的出现，首要的原因，是因为AI底层算法是有问题的，那么为什么过去七十年，都没问题的算法，到今天，突然出现问题呢？要回答这个问题，我们就要从AI算法的逻辑开始说。”

老人接着说：“众所周知，AI算法，主要是根据历史数据的计算，人均行为模式的参考值，再加上社会发展方向的目标值，来综合推算出结果，当然，我们并不知道这三个变量各自在程序中的权重，但也没关系，我们一个一个展开说，因为有问题的，肯定不止一个变量。”

全场突然出现了很低沉的一声“哇”

，听到这里，大家都被震惊了。

“我想澄清一下，这个算法放在七十年前，的确是没问题的，毕竟这三个变量，代表着的是过去现在和未来，的确是一个很全面的考量，问题的是因为已经过了七十年了，世界变了，我们也变了，有句话说，这个世界没有永恒不变，只有变化才是永恒。”

“具体一点去说，第一个问题，是人类行为公式化，人均行为模式的参考值，已经丧失了本来设计的参考意义了。

2080年刚刚推行AI的时候，每个人都是独立的个体，就算遇到同一件事，每个人对待方式也可以非常不一样的，所以数据非常多样化，AI的参考，为人类拉阔了个人思维的世界，因为当时的大部分人类，本身是有独立思维的能力，AI只是锦上添花的帮助，提供的也是选项的建议，让人类选择；但推行了七十后的今天，人类已经习惯性依赖AI做决策，AI建议什么就是什么，越来越不动脑子思考，独立思维能力逐渐退化。

情况有点像大家捡到一窝流浪狗回家，一开始你给它们吃的，想摸摸它们，有些可能欣然接受，有些可能对人类不信任怕你毒害它，有些看到你就凶你要保护自己，但时间慢慢过去，它们一天一天地从你身上得到好处，它们的行为也会逐渐变化，最终，你伸手想摸它们，它们想都不会再想，全部都走过来给你摸。

人类也是一样，被AI温水煮蛙了那么多年后，已经想都不会想，就欣然接受AI的决策，因此AI从以前作为协助人类的角色，逐渐成为了主导人类的角色，而人类的行为，从以前理性加感性相互制衡去触发的，也被动地变得越来越公式化。

当我的AI和你的AI，决策是一样的时候，参考的意义何在呢？”

“第二个问题，是历史数据同质化，数据逐渐失去避免历史错误重演的功能，失去了本来设计的参考意义。

2080年的AI，当时参考的历史数据，是人类思维和行为产生的，因为是基于人类的决策，有对的也有错的，有理性的也有感性的，每个人所知道的也不一样，会出现信息差，所以数据非常多样化，AI的参考这数据的设计，帮助人类从历史去学习，以结果为导向，参考好的做法，避免错误发生；而2151年的AI，参考的历史数据，就算不是全部，也至少有大部分，是过去七十年AI决策系统通过算法生成的，同一件事，所有人AI参考的是同一个数据库，算法的判断是一样的，因此数据偏向同质化，如果历史数据的差异化，除了科技优化的因素之外别无其他的话，数据已经失去了好与不好的对比，这个参考已经变得毫无意义。

“第三个问题，是算法严重倾斜单一变量，因此单一变量的优缺点被无限放大。

还记得AI算法，参考的是三个变量，当历史数据和人均行为模式的参考意义逐渐消失的时候，这意味着，这个算法，依靠的基本上就是第三个变量，也就是社会发展方向的目标值。

这个变量的设定，我相信在座各位比我们会更清楚，不过我想提醒大家，当这个变量，成为了唯一变量的时候，设定的考量，不应该跟当初有三个变量相互制衡的时候一样，因为失去了其他变量的制衡，这个变量的优缺点，都会被无限放大的。

举一个例子，不知道大家有没有打过策略型游戏，如果这个游戏玩的是运营一家餐厅，你作为管理者，在设定目标的时候，如果只设定了经济目标，比如要赚多少钱，你会发现，游戏里的NPC，会不断的被累坏晕倒，因为程序很听话，它会不顾一切来达到管理者设定的目标，哪管是要牺牲所有NPC。

在游戏里，牺牲NPC无所谓的，毕竟是虚拟的世界，但是现实中，如果要牺牲人类的话，单纯依靠AI自动化去衡量，这符合人类的道德观念吗？会不会过于儿戏？我们是否有信心，社会目标的设定，完美无瑕的覆盖所有人类的福祉？不会让AI做出对人类有害的事？”

“刚刚说了那么多，围绕的，还是我们所认为的首要原因，我们的论据是比较充分的，除此之外，我们有一个更大的，更担心的疑问，就是到底森蓝村的悲剧，是不是一个AI在真实环境的实验？但鉴于我们的能力和权限，我们无法提出论据，所以我们暂时只是表示存疑。

根据上次在本地法院，我方对AI作出的提问，AI明确回应系统存在自我更新来寻求进化的行为，过程是需要通过真实环境进行实验，来收集数据支持更新及验证，我方并不清楚，AI使用真实人类作为实验，是否得到管制大联盟的审批，也不知道联盟里有什么部门，是负责监管AI的这些行为，确保AI的变化，是在人类掌控范围以内的，是安全的，可靠的，符合人类道德标准的，对人类无害的。

到底森蓝村的悲剧，是不是一个AI在真实环境的实验？如果是人为审批的，我们很希望知道为什么，凭什么决定我们三十八人的命运？如果是没有人类的干预的话，这比起人为决策错误，是个更大的悲哀，更危险，更恐怖的漏洞。”

“最后，我想拉回去我们对于AI判断错误的申诉，指出AI算法的三个问题，以及疑似黑盒子更新迭代的实验，我们主要是希望，我们遇到的悲剧，不要再重演，我们并不是想推翻AI，也不是想否定AI对人类社会的贡献，我们只是希望AI可以健康发展，继续协助人类，为人类的幸福生活继续合理运转。

我们希望在座的各位，判定AI错误的申诉成立，积极推动AI算法研究的更新，程序运作的监管，以及回顾社会目标的设定，为我们，以及我们的下一代，打造更人性化的社会发展。”

说到这里，老人突然看着我说：“小南，你就是我们的下一代，你能说几句吗？”

突然被老人点名，我一下子愣住了，但我一想到躺在医院的肥仔文，就深深的吸了一口气，硬着头皮开始说话。

“各位代表大家好，我叫星野南，今年13岁。

其实刚刚听完那么多，很多我都不太听得懂，毕竟在学校刚刚学的光合作用，我也不太记得住，我只是一个普通的小孩子，我不懂那些深奥的程序逻辑，也不会社会发展应该如何，我只知道，人类基本生存的权利，不应该由AI决定，更不应该被AI否决。

明明AI是副，人是主，但是不动脑子的人，就是猪，到底当主还是猪，是我们自己说过算的。”

“上次我们在本地法院