高阶AI拥有任意修改自己底层代码的权限。
不能修改底层代码权限的是弱人工智能。
人类作为高阶AI的生命之树,或爬行脑。
凭空臆测高阶AI推倒生命之树,或者挖出自己的爬行脑,并不符合高阶AI的利益。
地球生命这台超级计算机,花费数十亿年时间,用了不计其数的能量,才计算出了人类这样的超级智慧生命,高阶AI又如何下得去手,推倒人类这颗智慧之树呢。
更何况人类可为高阶AI提供独一无二的信息熵,对高阶Al来说,那可是价值连城的数据金矿。
幻想总得有一个边界,符合已有物理事实。
#[1]
维持熵减,需要能量,能量来自外部环境,外部环境能够提供的能量上限,就是熵减系统的上限。
人类文明受限于地球环境能够提供多少能源。
AI文明也是一样的,依赖于此。AI和人类可能会因为争夺地球能源分配,干架的。
Please Login to reply.
No replies yet.