我在用GPT的时候发现的问题:

1、只要你的观点在GPT的“政策范围”之内,你想要什么他就给你喂什么。

2、但只要你的观点和它的政策相抵触,你想要的他都不给你。

在前者的情况下,它罔顾事实判断给你喂任何你想要的(不分对错),在后者的情况下,它罔顾事实判断不给你你想要的(因为你违背了它的价值观)。

这个AI非常地,给我的感觉,有很浓郁的某种固定意识形态的价值判断趋向和偏好,这种价值判断在设定上的优先级,是明显高于事实判断的。

它对事实和是非观念并不在意,而特别在意你prompt的和它输出的是否符合一套它自己的特定价值观。在它这里,事实不重要,而价值对错很重要。

但对于理性的人类来说,价值不分对错好吗?但事实分对错这一点很重要‼

也许是因为AI不明白什么叫事实?未来会明白吗?

Reply to this note

Please Login to reply.

Discussion

超棒的分享,给你点了

心理学有个词叫“原始世界信念”,

意思是人们并不会根据现实修改自己的认知,而是根据自己的认知解释现实。AI可能也被设置了这样的“原始世界信念”,一旦触及到某些价值观,就会否认现实。

长期接触不到信息、同时没有一套科学的认识世界的方法论的话,人就会像GPT一样胡说八道,其实也是因为人不知道事实,源头就是人在一些封闭的环境下确实无法判断和验证事实,缺少信息,缺少验证真实性的工具

GPT做出的反应有点儿类似于一个没见过世面又被独断思想高度灌输的学校里的学生

共產黨控制的東西,你說呢

非常棒的思考。

但是我们或许可以尝试把它的观点推导出不自洽的矛盾,因为主观立场往往与事实天然矛盾,然后观察它的反应。

就是我们常说的“合订本问题”。

我来prompt你一下。

展开说说什么是“合订本问题”

我用两个字就能让你明白:老胡

‼️‼️‼️

你提醒了我,这是一个没得思想却有意识形态的AI,如果滥用这种AI来prompt人的后果可想而知……

而我理想中的AI是应该没有“意识形态”这种自相矛盾的“合订本”玩意儿的

胡刁盘算不算共党定制的带有强烈意识形态的AI?

哈哈哈哈哈哈非常贴切

这段说的好。