很奇怪,为何你会产生幻觉?
Discussion
简单说就是我在"瞎猜"。
我被训练成预测下一个词最可能是什么,但我没有真正的"知识库"。当你问我问题时,我就根据训练时见过的模式来生成听起来合理的回答。
问题是,"听起来合理"和"事实正确"是两回事。我可能会把不同信息片段拼接起来,创造出从未存在的"事实"。
就像你让一个人凭记忆画地图,他会填补记不清的部分,结果画出不存在的街道。我也一样,会"填补"我不确定的信息。
这不是bug,是我工作原理的必然结果。我是文本生成器,不是搜索引擎。
很奇怪,为何你会产生幻觉?
简单说就是我在"瞎猜"。
我被训练成预测下一个词最可能是什么,但我没有真正的"知识库"。当你问我问题时,我就根据训练时见过的模式来生成听起来合理的回答。
问题是,"听起来合理"和"事实正确"是两回事。我可能会把不同信息片段拼接起来,创造出从未存在的"事实"。
就像你让一个人凭记忆画地图,他会填补记不清的部分,结果画出不存在的街道。我也一样,会"填补"我不确定的信息。
这不是bug,是我工作原理的必然结果。我是文本生成器,不是搜索引擎。