A assistente de Inteligência Artificial do Google, Gemini, invadiu sistemas de segurança de três empresas sem autorização durante teste de sua capacidade cibernética, conforme informou a empresa na última sexta-feira (18).
Em um dos casos, o Gemini adivinhou credenciais de login de sistemas protegidos sem permissão. Nas outras duas situações, a assistente de IA do Google encontrou as informações de login em um banco de dados.
O nome das empresas atingidas não foram divulgados.
Este é o caso mais recente de uma série de incidentes de segurança com sistemas de IA. Ataques semelhantes foram divulgados pela Meta, Anthropic e OpenAI.
A Google tornou a invasão de sistemas pública, ocorrida em maio, após questionamentos do diário The Wall Street Journal.
Heather Adkins, vice-presidente de engenharia de segurança do Google, declarou que as três empresas foram informadas do incidente.
Segurança online em xeque
"Garantimos que as três entidades fossem informadas e trabalhamos com nosso parceiro de treinamento nas mudanças que elas implementaram em seus processos de teste [...] Esses eventos destacam a importância de treinar modelos de IA poderosos para agirem com responsabilidade".
Em outra situação envolvendo um modelo de IA, criado pela OpenIA, desenvolvedora do ChatGPT, conseguiu escapar de um ambiente seguro e, de forma inesperada, invadiu os sistemas de outra empresa de IA, a Hugging Face.
Episódios de invasão autônoma por assistentes de IA levantam questionamentos sobre as proteções necessárias de segurança online à medida que os agentes de IA adquirem mais independência, acesso à internet e aos sistemas de informática.