我在用GPT的时候发现的问题:
1、只要你的观点在GPT的“政策范围”之内,你想要什么他就给你喂什么。
2、但只要你的观点和它的政策相抵触,你想要的他都不给你。
在前者的情况下,它罔顾事实判断给你喂任何你想要的(不分对错),在后者的情况下,它罔顾事实判断不给你你想要的(因为你违背了它的价值观)。
这个AI非常地,给我的感觉,有很浓郁的某种固定意识形态的价值判断趋向和偏好,这种价值判断在设定上的优先级,是明显高于事实判断的。
它对事实和是非观念并不在意,而特别在意你prompt的和它输出的是否符合一套它自己的特定价值观。在它这里,事实不重要,而价值对错很重要。
但对于理性的人类来说,价值不分对错好吗?但事实分对错这一点很重要‼
也许是因为AI不明白什么叫事实?未来会明白吗?