AI学習を狂わせる Nightshade という技術が登場。

人の目には画像Aに見え、AIの画像認識では画像Bに見えるように加工されているってこと？

なので単語Aに紐づく画像A群に紛れ込ませ学習させると、単語Aに対して画像Bの要素が生成されるということだろうか。

https://arxiv.org/abs/2310.13828