我觉得这个有点像我们如何对待“道德”了，不应该把它写进法律里，却又期待每个人都遵守它。

其实正常ai chatbot 提供商都会这样做，最后Bing bot那个要么是修改的图，要么是用什么方式bypass了它被施加的限制。

Ai也要符合舆论环境的法律和潜规则啊，不这样做的话，面对天量的投诉就做不下去了。我挺肯定这样的东西也不适合小朋友用，太黑森林了；中国大部分根本不知道世界怎么运作的未成年人更是如此。

不过个人或某些不怕争议的企业，还是可以开放这些限制的。

或者说不要把AI想得那么特别，它能生成的内容，基本没多少是人类没说过的。那实际的问题就是如何做内容管辖了

政治不正确的论坛也是存在的，只是很小众而已。