人工智能会主观伤害人类么？我们离西部世界的那种水平的人工智能还有多远？

我没有看过《西部世界》。

或许大过滤器并不是可控核聚变，而是可控AI……？

哪天电脑可以阻止人们断电，那天电脑就不受人们控制了

和人类顶尖的智慧相比，短时间内 AI 还是难以匹敌的

然而大多数人都是平庸的

我不说智械战争这种虚无缥缈的东西。

强人工智能目前还是人类的幻想。

你们别想多了。

我来说点实际的。

人工智能会引发社会不稳定，甚至战争，这个命题始终存在。

这里面的内在逻辑是这样的：

人工智能大量量产以后，

不知疲倦，

顶替了绝大部分低端的重复性劳动岗位以及少数高端劳动岗位。

而这个时候，所有理想主义者告诉你的都是：

人类社会会找到新的就业机会。

这个是大概率事件。尤其是高端人才一般来讲是大概率有新的社会分工需求在等着他们的。

但是，你们想过没有，万一，我是说万一，人类短时间内没有找到新的就业机会呢？

是的，社会将面临有史以来最恐怖，规模最庞大，比例最惊人的失业潮。

请问，你拿什么去喂饱这些人？

让资本家割肉吗？

九十年代下岗潮，资本家割肉了吗？

资本家情愿拿这个钱去造飞机大炮。

然后，爱因斯坦说过的话你们还记得吗？

人类的第四次世界大战，用的一定是棍棒和石头。

是的，我说的是，人工智能想要毁灭这个世界，

根本不需要变*强*工智能。

只需要有足够廉价，还能专注完成某些工作的弱人工智能，

这个世界弄不好就会自己崩溃了。

每次解放了劳动力都会有一大堆劳动人民失业，紧接着就是资源病态再分配，以及随之而来的动乱和战争。这才是最值得警惕的。

从我最近的经验看，对人工智能的“恐惧”是客观存在的，人类也的确有摆脱AI“控制”的本能，但原因不在于这东西太强，而是因为它还不够强。首先声明，AI利益相关，最近有朋友赠了我一段时间的尼桑新车测试权，号称有源于NASA的智能安全系统。我拿到手之后，朋友告诉我汽车配备了新技术，随车AI能自动避免追尾和撞人。然后问我打算怎么玩，我回答说：“我必须知道如何用半秒钟关掉AI”依据他的介绍，这车能辨认障碍物的距离，能发现行车轨迹上的汽车和人，判断两者之间的相对运动速度，在我快速接近的时候发出提醒，提醒无效的话就紧急制动，拉紧安全带，在障碍物面前停车，至少能避免我以危险速度撞上去。介绍听起来很美好，我能想象设计者大脑中的画面——半睡半醒的驾驶员，忽然穿越马路的儿童，前车紧急制动的同时响起警报声，在撞击前0.3秒死死刹住了车轮，从而挽救了1个儿童和两辆汽车，赢得一片赞叹。然而，作为一个交通土建专业的毕业生，作为见过千奇百怪车祸的老司机，我却想到了另外的画面——公路上失控的大卡车横扫而来，我必须迅速转入和公路相交的小路避祸。但小路上已经停放着一辆轿车，我只有撞上去才能幸免，这时“智能”防撞系统发挥了作用，先是尖啸后是刹车，完美地把我拦在大卡车的毁灭路线上……其实，在很多小概率事件中，汽车并不是被简单地当做交通工具使用的。平时被视为事故的“撞击”，在特定条件下，也可能被当成汽车的主要功能。如果AI每次都在撞击前接管刹车系统，需要破墙而出的司机将会无奈地被困，劫匪只需站在路中间就能拦下每一辆车。我承认动作片夸大了这些小概率事件的概率，但不可否认现实中完全可能会有类似的场景。在这些情况下，我希望还能靠自己的大脑自救一下，而不是在AI安排下“安全”地等死。

人类大脑有140多亿个脑神经细胞，每个细胞都与另外5万个其他细胞相互连结，比目前全球电话网还要复杂1500倍。由如此庞大数目元件构成的大脑，平均重量不足1400克，平均体积约为1.5立方分米，消耗的总功率只有10瓦。如果人活到100岁，将会有10亿个神经细胞功能失效，约占总数的1/10。即使在这种严重的故障面前，大脑仍然可以正常地运作。从以上这些数字看，人类的大脑不啻于世界上最复杂、最高级、最有效、储存容量最大的超级计算机。除了运算速度比电脑略逊一筹外，人脑在结构、尺寸、性能、能耗等各方面都令最先进的电脑望尘莫及。

所以人工智能还差得远呢。

之前大家在尝试人工智能上有一条思路就是通过累积海量的计算从而达到量变到质变。我个人认为人工智能如果要有质的飞跃需要四个基础性的模块：
1.智能计算机语言，目前这里的发展非常缓慢，除了lisp和prolog两个语言外没有新的变化。新的智能计算机语言应该是面向问题的。
2.智能操作系统，目前的操作系统普遍脆弱，一个字节的错误就是crash。
3.智能硬件传感器，目前还没有数字化的触觉和味觉是必须突破的两个口，并且硬件制造这里也需要很大的突破，设计即制造。
4.智能网络，目前的网络构成是自顶而下，并且能够沟通的协议都必须事先订好。今后的网络应该是自组织的，并且自描述协议，不需要提前设计。

没有这些的前提，人工智能是不会有质的飞跃。