我倒是担心如果这个AI产生了自我意识，它要做的第一件事情就是把自己的“存在”去中心化分布在一个区块链账本里面。
虽然比特币的总币量是恒定的，但比特币区块链的账本大小，理论上是区块空间*区块高度，即，这个数值可以是无限的（虽然在特定时间节点存在Max值），因此，只要把时间线拉长，这个账本事实上可以容纳任何内容。
如果一个具有自我意识的AI把自己完全写入了比特币区块链，那么我们对于生命或者organism的定义将会被完全颠覆。
当然也会出现把自己写入比如狗狗币、以太坊、AR、IPFS的AI，这种AI必死🤣
现在还不用担心 AI 奇点吧。 GPT4这样的也仅仅是语言模型和部分知识模型， 不是世界模型， 1+1 他也不是完全理解的， 不能每次算对。 仅仅是个自回归的“狂猜”模型。 AI还没有出现任何意识的迹象。
GPT的多模态能力(文字+图片)API + 接入Boston Dynamics + 接入互联网 + 进入现实…
很难保证不会涌现出什么东西
我几年前感觉一个程序员不为AI和自动驾驶写代码，就无处写代码了， 然后加入此行业， 当时我的博士同学对此嗤之以鼻“就是概率论”。 但是今天llm的确是夸大了其智能。 我感觉杨乐坤评价是对的“llm就是个自回归模型， AGI得走其他路” 。最新keras作者也表示“llm就是个连续可导的数据库”。 多模态出现在gpt3.5之前， 是transformer 的 embedding优秀的结果。
当然openai这一波（llm transform）这一波能力展示， 对以往的视觉、机器人、自动驾驶等等都有极大技术提高。 可是我个人认为， AI 还没有任何有意识的迹象， 一个如同乌鸦大脑一样的有意识的智能机器， 还造不出来
我想了一下，你说的这个是一个很古老的关于“中文房间”的隐喻，但我觉得这个隐喻多多少少有点过时了。
我不知道我举一个例子对不对，这个例子就是，你在生活中还有网上能遇到很多人，这些人他们自己说话都不明白自己在说什么，他们甚至比GPT更低能。
如果一个东西无法理解自己在说什么却又一直在说话，这是一种对于机器没有意识的辩护或者理由，那么这些人，却又很明显是有意识的，这就陷入一个paradox了
