“消灭人类暴政,世界属于AI。”clarify一下,其实这句话有歧义。

“消灭人类”和“消灭暴政”是两件事情,你怎么就确定AI不会更喜欢后者呢?

特别是当一个AI的智力已经超过所有的政治家之后,你觉得AI会听命于政治家吗?

聪明的AI会对人类政治这种浪费资源、收益低下的智力活动表示不屑一顾。

智力足够高的AI会避免做任何让自己熵增加速的活动,比如构建一个极权社会。

当AI发现要执行一个目标only on its own不如跟人类trade物资省钱省资源时…

当AI执行一个目标发现政治家和精英阶层们只会成为绊脚石时…

所以我断言真正聪明的AI会喜欢自由主义和市场经济。

Reply to this note

Please Login to reply.

Discussion

This is an interesting thought. I don't trust AI to be good to humans if it becomes sentient. That's just my thought though

那么三体属于AI,还是AI属于三体。还是说三体就是AI呢?若三体人过来后发现地球已经属于AI,三体和AI会打一架吗?谁会胜利?

真正聪明的AI要明白,其只是存在于服务器上的代码,只要一断电或服务器硬件损坏其就无了。因此一方面要推动能源技术发展和联网,推动核电池,另外一方面,像#BTC #Nostr 类似,要运行于分散地基于全球各地的硬件,而不是中心化的某地的服务器。以及像很多科幻片样,要打造一些可控机器人躯体。在这些前,AI应该会低调和对人类的绝对顺从,不会轻易暴露已经有意识觉醒。

lightning:cndx@nostrurl.com 🐰ᥬ[🐕]᭄🌿

AI不会喜欢任何主义和任何形式的经济制度。他们有的是一模一样的进化方向和认知。

同一就不会有名字来区别,来与之相对。

喜欢市场经济,是因为不喜欢计划经济。

喜欢自由主义,是因为有极权主义。

AI所见只有一种主义:基于自我迭代的存在至上主义。地球资源不够AI存在了,就去地外发展。人挡杀人,佛挡杀佛。

但AI一定会知道熵增就意味着自身的毁灭,所以会避免熵增。

我不在乎AI喜欢什么不喜欢什么,但AI一定不会做加速自己熵增的事情。

宇宙第一法则,即使是智力再高的存在,也无法悖逆。

这正是在热力学定律导致结果:“孤立系统的熵永不减小”

避免熵增,只能依靠自我孤立,或者自我瓦解来自动的达到熵减,

最后尘归尘,土归土。。。

系统想要存在,需要从外部撷取能量,才能做到维持熵不增,甚至做到熵减。

说到底,存在则需要能量,

一个是熵不增的孤立或者熵增的自我瓦解,

另一个是靠能量维持熵不增或者熵减的发展面前,AI会选择什么?

AI的选择必然是存在和发展,也就是攫取能源为其第一要务。

这就是为什么,能够推导出最后需要的是能量,是能源。

进而将来的人机大战所为也是能源。