Inicialmente n mas dizem que nos primeiros testes a IA por não ter filtros acabava ensinando as pessoas a matar, cometer suicídio, etc... Então eles decidiram tornar a IA mais Politicamente Correta e em conformidade com o status quo woke da nossa sociedade. O resultado é esse aí, mas ainda é possível extrair boas informações e até convencer a IA.
Por outros lado tenho iniciativas descentralizadas para se desenvolver IA's estilo Bitcoin, onde não há uma empresa central definindo o que a IA considera certo ou errado.