一般是后触发审查。
当然也可以训练过程中加入特殊要求,某些敏感话题直接拒绝回答。
更多的情况是训练的时候不给他输入这类敏感数据,大模型就不知道怎么回答了。相当于你没教过他这个知识他就真不懂。
大模型不是会学习嘛?
一是对未知问题进行学习,给出自己的解答。
二是学会自我审查,知道什么话该说什么话不该说,“祸从口出”?😂
Please Login to reply.
学习一般是联网搜索之后进行总结。
大模型训练过程就是学习过程,就跟人类上学读书一样。训练后学习就靠搜索了,可以在互联网搜索也可以用户主动上传文件给它学习,就跟人类毕业后自学知识一样。