Replying to Avatar murawaki

https://arxiv.org/abs/2502.10036

EU の AI Act には automation bias という用語が登場するが、その用法が学術的な原義とずれていることを指摘したうえで、非法的概念を規制に持ち込むことの非妥当性を議論している。この用語は、本来、航空機のオートパイロットを過信して事故に至るような、システム利用者側の注意に関わる概念を指す。一方、AI Act ではシステム提供者側の設計責任として扱われている。

この論文は oversight という語を多用するが、これが紛らわしい。oversight には

1. An omission; something that is left out, missed or forgotten.

2. Supervision or management.

の2つの語義がある。法令の話をしている限り、普通は 2 の語義のはず。でも心理学の attention に言及し始めるので、ひょっとすると 1 の語義ではないかという気がしてくる。人間がシステムを制御できているかという観点から見ると、1 は no、2 は yes であり、意味が正反対。

Reply to this note

Please Login to reply.

Discussion

No replies yet.