Fisher et al. 2025. Position: Political Neutrality in AI Is Impossible — But Here Is How to Approximate It

https://icml.cc/virtual/2025/poster/40157

著者 10/12 が女性という異様な偏り。有名人がガチで書いていて、引用文献を見ても強度が高い。

政治的中立性はトレードオフ関係にある (複数ある目標をすべて同時には達成できない) いくつかの手法によって近似的には達成可能だと主張している。

例えば出力レベルの reasonable pluralism を採用すると、utility, fairness, user agency は達成できるが、safety, clarity は満たさないとする。

しかし、ここで言われている指針にしたがって AI を開発し直すと、それまで疑っていた人間がその AI を信頼するようになるかといえば、そんなことはないだろう。

結局のところ、開発者自身が信頼されていないし、その開発者が持つ価値観を訓練や評価を通じて AI に埋め込むという問題に手を付けないと信頼は得られない。