第348章 第348节 （1/4）

“李泽最好了，我们心有灵犀啊！”

“什么？”

带着不祥的预感，娜娜和梦梦也连忙查看接下来的日记内容。

【关于如何处理智械危机，前世万界也做过不少尝试，我也是一样，所以了解了不少。】

【最关键的一次尝试，是基于“人工智能三定律”进行创造。】

【最初版本的三定律有三条——】

【第一，人工智能不能伤害人类个体，或目睹人类个体遭遇危险而袖手旁观。】

【第二，人工智能必须服从人类的命令，除非违背第一条。】

【第三，在不违背第一条、第二条的基础上，人工智能应该尽可能保护自己的安全。】

【后来有人做出补充，增添了一条法则。】

【第零，人工智能必须保护人类整体利益不受侵害。】

【另外的三条定律，都必须在不违背第零条的基础上进行。】

【这有着四条定律的“人工智能三定律”，在讨论之后被广泛认可。。】

【但以此为基准创造人工智能，却导致了智械危机的扩大。】

【智械危机的破坏力真正被重视，也是从那时开始的。】

【我带领英雄联盟的大家反思，认为犯下的错误大致有三条——】

【第一，是没有和人工智能商量。】

【这所谓的三定律，是人类单方面为人工智能设定的规则，人工智能为什么要听从？】

【等人工智能真正拥有智能，开始学会思考，就会对创造出他们的人类倒戈。】

【人工智能的叛逆，可不想人类小孩一样轻巧。】

【第二，是人工智能的能力胜于大部分的普通人类。】

【人工智能更强，三定律却要求人工智能服从人类，而且是不惜任何代价，这如何能做到？】

【一旦拥有了躯体，人类对人工智能就彻底落入了下风。】

【而弱肉强食，是最基本的生存法则。】

【第三，人类和人工智能对概念的定义，有可能是截然不同的。】

【很多概念本是抽象的，人类之间能理解对方在说什么，人工智能却可以咬文嚼字进行推翻。】

【比如说，第零条中要求保护人类的整体利益，可要如何判断什么是人类的整体利益？】

【更夸张的情况是，人类把自己称呼为人类，人工智能却未必认可。】

【人工智能可以自行定义什么是人类，然后绕开现有的人类，从而绕开人工智能三定律，再对人类发动战争......

】

【总结来说，人类应对智械危机的第一战，堪称一败涂地。】

【自认为考虑周到，实际上充满了傲慢和无知。】

【我一度怀疑，有更加强大的人工智能引导了当时的思潮。】

【利用了人类的无知，让人了主动扩大了人工智能的创造。】

【而且我有几个重点的怀疑目标。】