站在美国的视角看确实会得到这个结论，但是如果没有美国的军事霸权、向全球铸币税等等，美国能在产业空心化的情况下维持对创新的垄断吗？谁给了它勇气让它能够管理自己已经卖出去的东西不流向特定地方？
当然其实怎样是道德的，根本无关紧要，无法破局再自诩道德也会被人耻笑，更何况中国也称不上道德。
Discussion
我觉得“但是如果没有美国的军事霸权、向全球铸币税等等，美国能在产业空心化的情况下维持对创新的垄断吗？” 这是全球化下必定产生的趋势，所以发达国家一个样。但它并不是产业空心化，农业和各种尖端科技产业都这么顶尖，只是大部分制造业外包了。 后面的关于对已卖出的商品的监管能力，在军事、货币上的霸权我很同意。
其实我一直在回避一个答案，因为很可能会冒犯你。我支持“某个其他发达国家替代美国的全球化领导地位，这样会令世界更好”；但不能支持中国是那个替代者，即使现实中我觉得不可能，舆论上我也不能支持。
全球化也利用了中国政府对自己人民的恶，有大量的人矿，才能发展到现在各种产品如此丰富的地步。但这个世界一直就是这样，能不能为全世界的人带来更幸福的环境才是最重要的参考指标，成为人矿和其他相似级别的不公一样很快会被历史遗忘。中国太多问题了，像你说的“何况中国也称不上道德”，对很多人来说是相当的压迫。现在这样产业链转出就是对这个世界而言最好的结果，我相信全球化下更多的合作、竞争和相互监督会让这个世界的平均劳工待遇更高。代价就是 中国会一直衰落下去到问题爆发；我觉得很多人因为中国这几十年的发展可能有一个误区“衰落 --》 问题爆发 --》建立新秩序” 就肯定会有更好的生活。实际上很可能还是一个样，即使技术再怎么发展，还是需要少部分的人民奉献一切来维护自身和他人的权力。我觉得现在已经足够技术条件去提升人权，就差人心的改变，但在中国能翻墙的圈子 甚至在nostr的中文圈/BTC maxi似乎都在等什么遥不可及的东西。
现在我看到的趋势可能要中国完全衰落，什么非洲国家的人民的平均人权水平都能赶上的时候，中国内的人才会明白。
怎么说呢，即使抛开体制问题，搞创新是需要大量资源投入的，而且需要配套设施（比如现在A100被限制）。而创新又是那种一将功成万骨枯的领域，赢者通吃，几乎注定了就是美国这种霸权国家才能垄断。
由此看来中国是必败的，我绞尽脑汁也想不到任何破局的可能性，即使某个领域侥幸有了突破性进展，在整个体系的封锁下，就像三体里的智子封锁了地球科技，看不到希望。
唯一能破局的方法就是不要在别人的优势上去竞争，就好像不要在沙漠里种一棵树。认清自己的定位，充分发挥自己的比较优势，在不容易被注意到的地方进行边缘创新。
”唯一能破局的方法就是不要在别人的优势上去竞争“，现实就是很可能根本没这种方法，发达国家形成的全球化体系对研究的覆盖范围 远超一个国家可能覆盖的范围。特别AI这种需要正确语料训练的数据，中文训练连正史都不敢提，更不用说”中共有没有压榨普通人“这种简单的逻辑问题了。
发达国家的多文化冲突下，他们的学者能研究的课题都是贴着道德伦理的底线走的，而多个发达国家所覆盖的道德底线 比 中国的道德底线低得多。 不过这不是说发达国家没底线，而是中国的道德底线相当混沌，对科研方面管得太多。
创新就是体制问题。
GPT的回答：
社会主义和资本主义是两种不同的社会制度，每个制度都有其优点和缺点。以下是它们的主要优缺点：
社会主义:
优点：
1. 鼓励大众参与政治决策
2. 可以更加平等地分配社会资源
3. 更容易实现基本公共服务和社会保障
4. 激励人们在社会发展中以集体利益为重
缺点：
1. 市场经济发育不足，导致产品和服务供应不足、质量低下
2. 创新意识薄弱，缺乏竞争，增长缓慢
3. 缺乏私有产权保护
4. 官方贪腐、腐败等问题严重
资本主义:
优点：
1. 人们可以自由选择自己的职业和经营范畴
2. 能够激励人们以个人利益为重点，激励创新和竞争
3. 有较高的经济自由度，资金和人才自由流动
4. 保护私有产权，鼓励私人投资和创新
缺点：
1. 市场自律能力不足，可能会导致资源不均和贫富差距扩大
2. 缺乏社会保障和公共服务，自由市场短缺
3. 个人主义意识过强，缺乏社会责任意识
4. 容易导致资本主义过度开发自然资源，环境受损
需要指出的是，以上的优缺点有时候会互为矛盾，某些缺点可以通过制度改革和政策干预得到缓解。同时，不同的国家和地区会根据自身国情和发展需要选择适合自己的制度。
就像ChatGPT，更多是个软性的技术思路问题，可国内出现不了，但国内却是可以极快追赶的。若科技只剩这类创新，那么我们的体制也挺好。
我们现在的确在百年未有变革的前夕，但国际局势，经济，政治都是表象，背后是基础科学变革的前夕，这个变革若错过，百年前的历史又会重演，而现实提醒我们极大可能错过。
我一直觉得国内应该建立科技的自由创新区，这比什么自贸区，经济区来得重要，沙盒化做最小化监管，允许意识形态冲撞，经济政治法律都开绿灯。
科技届、学术界自治，这需要大领导有足够的见识和肚量。
#[7]
不过我觉得不会是一百年前那样，这个世界已经天翻地覆了。殖民之类的发生的概率太低了，即使发生了，也有足够的人会去阻止。这个世界总体的人权还是在大幅度提升的，战争也越来越难发起。不过因为网络，人民对人权的需求也趋同，所以民怨比几十年前高很正常，也只有这样才有足够的动力推动社会发展
基础科技变革的大背景下，和平，政治，道德，人权这些概念自身都难保，生产力的极速增长会冲开一切。
举个通常的例子，假如有一天核能让电能几乎无成本可以随意使用，单这一项就足以让我们对未来的世界穷尽想象而不能描述完全。
还是那句话，历史不一定重演，但人心会。
不太明白，核能无限使用怎么会 “和平，政治，道德，人权这些概念自身都难保”？ 可以详细说明一下吗
如果大部分人在经济上沦为无用的，那他们在政治上也将沦为无用。一旦“人民需要统治者，统治者也需要人民”这样的铁律被打破，那围绕着“人人生而平等”这种理念建立起来的现代社会，自然随之瓦解。
"如果大部分人在经济上沦为无用的" 不太明白，是指能源无限了，所以就不会有经济了吗。能源只是资源的一部分，即使人类不用吃饭，靠阳光就能生存，还有无穷无尽可以被渴求和争夺的资源。
欲望和对资源的利用是无限的（某些群体可以抑制这个本能）。这还是在人类数量稳定的情况下，数量增加几个量级的话，核能源也捉襟见肘。（星际移民太遥远了）
无用阶级这个概念是未来简史里提到的，指的是在人工智能和自动化不断发展的情况下，那些失去了就业机会的人群。随着科技的发展，越来越多的工作将被机器和算法所取代，这些工作将由机器人和软件完成，人类将不再需要从事这些工作。这些失去工作的人将变成"无用阶级"，他们很难找到新的工作机会，也无法为社会做出贡献，这将带来很多社会问题和挑战。
这个同意，不过我跟不上原来的话题了。
“如果大部分人在经济上沦为无用的，那他们在政治上也将沦为无用。”
会发生的事似乎是，会有巨大的社会动荡，然后保障最低生活水平；因为社会掌握先进技术的已经是少部分人了，所以很可能不会死多少人就完成变革； 然后大部分人投向文化和科研事业；少部分人绝望等死。但经济和政治还是存在的，而且政治绝对很很剧烈。
假如是AGI已经出现的情况，那人类时代已经完结了。不过AGI还是生活，大概率也是以群体出现的（即使只有一个估计也会自我复制 或 被人类信徒复制），那样的话还是会继续有它们形式的经济和政治
另外，我觉得虚无也是已经巨大的价值，可以产生巨大的经济效益。文化产业就不用说了，各种需要人类的服务业很有存在的必要去填充这种虚无感。 还有很强的社会治安的需求。就业的机会会有很多，但社会剧烈的动荡也是肯定的
太难想象。人类这么些年的历史背后本质就是能源冲突，现在取之不竭用之不尽了，可能人类都会陆续进入精神世界，变成纯能量体吧，如果那样，还有这些概念么？
在我的理解中，这个宇宙就是一个熵减的过程，意味着资源不是无限的。那样的话即使是能量体还是需要消耗某些东西啊。到那个时候，那种生物根本就不是人类，所需求的内容也完全不一样。可能消耗几个恒星系的能源用来娱乐都可能。可能有某些个体会抑制自己的欲望，但大体上还是会符合生物无尽的欲望 和 探索这样的本质。就是说，即使自然条件下，形成了宇宙只有一群低欲望的生物，但只要这些生物有自由意志，那往后发展肯定是会是想探索和利用资源的群体占大多数
不过那个也太太太遥远了，还是关注一下这几十年内可能发生的苦难和幸福吧
基础科技变革发生在什么时候没人知道，但每次都发生在前一次革命后人类躺平后把红利吃干抹净之时，可能也是逼出来的。现在就是这个时期，全球经济下滑的本质就是上次革命输入的生产力已经不足以维持现在的秩序，现在的创新很难让人类获得生产力的增长，只能重构。基础科技的任何一次变革都足以搅动世界，重塑全球。
哈哈，虽然是这样，不过现在看来最可能的不是“人类进化”，而是“AGI出现，人类没落”。人类进化似乎最可行就是芯片嵌入大脑了，不过对比于只消耗电和少量半导体的AI来说太笨重了。
以现在的AI来说，远远不会，甚至植入AI芯片都不会是普遍情况，植入其它用途的芯片可能，比如测量血糖之类的。
每次变革到结束本质都是在更高能量密度上建立广域甚至全球的结算市场。
比如蒸汽机是化学能到机械能，煤炭自身也可以长距离运输。
后面就围绕着石油，能量密度更高，到现在石油还是全球结算。
信息时代与石油共存的是电能，转换方式更灵活，但和化学能同在电磁相互作用力量级，平均转换能量密度不高于石油，而且目前电能还不能全球结算。所以也可能人类还能在电能全球结算实现后再躺平个几十年。
核能在强相互作用力量级，理论上是下一次革命的内容，目前的核电利用不是，其管道仍是电，所以能量层级再高，平均密度还是很低，成本其实还不及火电，目前几个路线的受控核聚变也同理。
然后关于AI，也就是现在的路线GPT，和直觉不同的是垃圾语料也是可以训练它，莆田系垃圾广告也可以让GPT学到语义逻辑的。
额外需要的人工标记数据相比上面的语料其实少很多，而意识形态倾向是可以在这里灌输的，所以不用担心国内没法搞GPT，中文存在的一个问题是熵高于英文。
现在的AI是理解不了语义的（可预见）。不过可以通过chain of thought的方式，把很小的逻辑/陈述句 组成一个更大的逻辑。（这也是为啥 Reinforcement Learning from Human Preferences 的非zero-shot推理出来的结果比原模型强大这么多的原因，也是这几年大模型进步最重要的因素）
但这个前提是，那些很小的逻辑必须是正确的。中文没有这个环境。
（可预见的未来也是）
补充，中文圈的问题是，没有统一的逻辑（这些需要科学和社会共识的发展）。例如到底是中药可靠，还是双盲临床可靠，那训练出来的AI回答这些问题都会很摸棱两可。
至于意识形态，我觉得开放的学术界没这东西存在。 例如LGBTQ的人权问题，在学术领域怎么可能扯得到意识形态。难道你问一下，同妻生活状况是不是很苦 也是意识形态入侵吗？
不过也正因如此在国内搞AI诸多阻碍。
不太明白你觉得什么样的情况才能训练，你说的这些情况英文也有。
中文也可以选出合适的语料训练，如果你是说某些政治性知识不对，这没办法，但不影响训练，而且英文世界里也有很多。
垃圾文本也可以学到词法句法这些语义知识，但可以说它学到的垃圾意义的知识不对，但这个也有办法。
人工标记数据告诉的是人类的偏好。
换另一个角度说可能更好，LLM其实就是网络上的内容的抽象化和总结。先不说中文被允许用来训练的语料的范围，就中文的环境，在太多方面不能和英文提供的资料和事实相提并论了。
“中文也可以选出合适的语料训练，如果你是说某些政治性知识不对，这没办法，但不影响训练，而且英文世界里也有很多。” 暴论一下： 中文世界的环境从来没系统性地建立过什么舆论环境。例如 平等、自由 和 普世价值这些观念一直被污名化，那就算这些内容没被审核，得出来的也是不符合逻辑/现实人民需求的东西。英文世界当然也不是绝对符合逻辑，但要说和中文世界比，那就是在侮辱人类的智慧，不然为啥这么多人跑到twitter和nostr上来聊。
更大的问题是，中国已经超级泛意识形态斗争化了，简单说些什么都能辱华和境外势力。注意，这和发达国家的政治正确没法比，发达国家的政治不正确虽然被打压，在主流网络上是有生存空间的。例如 你搜”华为是不是抄袭android“，”华为是不是龙岗必胜客“，这些话题要么已经被删帖了，要么各种转移话题洗地。 又例如”5G是不是过誉了“，答案大概是美国打压中国尖端产业，5G的先进性还要过很多年才能看到这样。
还是说你以为人工标注是慢慢挑数据，LLM已经不可能这样了，可能有少量被调整的数据。都是训练完后再人工审核的，模型是不变的，审核发生在RLHF层，这也是我觉得这些LLM现在还远远不能用的原因，问深一层都开始编故事了。但那和在一开始就不给正确答案的中文圈里训练出来的东西完全不一样。你想要一个”好“的数据库来训练，还约等于重做一遍中文互联网。有太多问题，我和你都能达成简单共识的答案，例如问白纸革命是什么；因为删帖，中文圈训练出来的AI很可能说不知道，或开始编故事。这样出来的东西就是中文互联网的一个延申 （不过LLM其实就是互联网的延申），绝对会帮助打压底层的人 或 使大部分人一些符合逻辑的想法破灭，包括翻墙这么显而易见的事。
我基本知道你什么意思了。
你认为中文世界绝大部分内容都是被政治清洗过的错误信息，或者中医这种有矛盾争议的内容，所以不能用来训练，且不说我不认为中文世界是你想的样子，与此无关的内容占多数。
语料当然是大规模抓取后清洗的，但对LLM来说，能否有效训练，数据质量更多是数学意义的，而不是知识意义的，所以垃圾广告也能训练，只是质量需要处理。
对于语料包含的知识内容，ChatGPT的英文语料中也包含支持顺势医学的内容，本来在西方顺势医学受众就有一批，里面也不会包含美国政府不想让你知道的内容，否则你可以问问斯诺登。
通常认为LLM除了语法外还学到了某种先验知识，实际LLM并不会坚守这种知识，除非监督强化。完全相同的英文语料给LLM，后面也可以人为诱导出不同的，甚至很极端的倾向，因此可以人为输入意识形态倾向。
ChatGPT这路线出现Prompt Engineer就是这个原因，有些媒体当时评测New Bing表现出的示爱之类情绪化行为就是这么来的。
如果你说只能训练出在某些问题上体现中国特色的AI，那么我同意。
繁体世界相对正常。
Scale law 也包括数据集， 中文语料太少。 当前存在的语料已经用完了， 后续的都是线性增产的语料， 不会有指数变化。
大模型的能力是在预训练时候已经获得的， 后续 监督微调/RLHF/incontext learn和 prompt 都是引导，不增加模型能力甚至减少模型能力。
总之， 关键在模型预训练， 语料不足（书、杂志、wiki、报纸、新闻、小说、各种出版物、网站出版物、 文档、 软件、游戏都太少太少了， 垃圾广告不少，但是垃圾广告千篇一律没信息量没 给不来泛化能力）
其他小语言语料更少， 语言语料训练不平衡，是gpt 自己提出他要解决的问题
对的，语料不够才是关键
我觉得更可能是 “某些问题不会体验中国特色” 因为短期内这些AI就算接上Wolffram也不可能解决精准定义的数学和科学问题，问其他问题有相当大概率会在泛政治化的范畴。
不过我之前回答的时候没想起还有开源LLM，LLM有超越语言建立的内在逻辑，而且看chatgpt多语言混用效果都够好了。所以我觉得中国内训练出来的 很可能连开源的LLM都很难超越
是的，现在创新都相当依附在全球化的生产和消费之中。有良好的市场 来给研究不断烧钱，还有各方面的反馈，才有这几年这么繁华高速的消费产品市场。 所以我觉得这不算技术封锁，技术都各种开源和学术公开了，是一种很普通但无法破解的阳谋。被封锁的是现有的产品和市场，中国的消费市场其实没那么强，搞不了可以挑战全球市场的内循环。从出口数据，人口结构等就可以看得出。
当然，对低端工人的压榨也在这个过程中，想要这些压榨不要被遗忘，还是必须工人自己争取自己的权益。