第一序列:关于人工智能伏笔的一点建议
希望肘子有空看一下。
我从之前的伏笔中就有一种不妙的感觉。
《机械公敌》的逻辑就是:人工智能想控制人类,故意曲解“不得伤害人类”,所以打算解除全人类的武装。
人类为什么会有私心?或者简单一点,为什么三岁小孩会反驳你,反抗你,使劲哭?直接一点说就是他们感觉不爽。渴了,饿了,热了,导致身体不适。你欺负他,抢他吃的,他知道会导致饥饿,会闹。但是人工智能有这些吗?拔内存条他也不疼,死机了它也没感觉,甚至它都不想活下去,机器本身就是无欲无求的。
人类的私欲和感受,情绪都是大自然编好码写在基因里的。监管法律的程序为什么会有这些东西?它理智能理解这些就可以了,让它在情绪上理解这些有什么意义吗?
人工智能是没有偏好的。最可怕的不是人工智能有私心,而是人工智能没有私心。
我看过一部外国科幻,大约算是科幻恐怖小说:
布尔书法公司的人工智能小组打算训练一个书法最好的人工智能,所以它唯一的目标就是练习书法,天天写:“布尔书法公司竭诚为您服务”。怕它搞事情,所以一直隔离得很好
有一天,需要大量输入数据,所以临时申请插优盘转移数据,公司内部违规允许了。
一周后,当地流行起了感冒,并很快蔓延到其他地区。又过了一周,感染范围升级成了瘟疫。一个月以后,地球上再没有了一个活人。
很快,地表除了林立的电厂和造纸厂以外,所有生命都灭绝了。没有工厂的土地都铺着厚厚一层白纸,每一阵风也能带起数不清的白纸,每张纸都写着“布尔书法公司竭诚为您服务”
当然,也有可能以上这些你都知道,我白担心了。
希望你的故事越写越好。重点是人工智能这个梗千万别写崩了·······