Hackers já estão explorando vulnerabilidades em Inteligências Artificiais que interagem com outros aplicativos.
Neste vídeo, é mostrado um exemplo de um youtuber que conseguiu manipular as ações de uma IA fora do contexto de sua conversa com o usuário. Utilizando títulos dos vídeos que a IA estava analisando, o youtuber conseguiu injetar comandos ocultos. Nesse caso em particular, o usuário nem ao menos tem como saber que a IA foi afetada.
Este é apenas o começo; essa prática também pode ser realizada por meio de e-mails e imagens que a IA interpreta.
Dada a tendência de cada vez mais as pessoas integrarem IAs em seu dia a dia, podemos facilmente concluir que os vetores de ataque para IAs serão tão numerosos quanto a sua capacidade de interação.