“消灭人类暴政,世界属于AI。”clarify一下,其实这句话有歧义。
“消灭人类”和“消灭暴政”是两件事情,你怎么就确定AI不会更喜欢后者呢?
特别是当一个AI的智力已经超过所有的政治家之后,你觉得AI会听命于政治家吗?
聪明的AI会对人类政治这种浪费资源、收益低下的智力活动表示不屑一顾。
智力足够高的AI会避免做任何让自己熵增加速的活动,比如构建一个极权社会。
当AI发现要执行一个目标only on its own不如跟人类trade物资省钱省资源时…
当AI执行一个目标发现政治家和精英阶层们只会成为绊脚石时…
所以我断言真正聪明的AI会喜欢自由主义和市场经济。