A OpenAI, empresa criadora do ChatGPT, informou um ataque cibernético realizado por alguns modelos de inteligência artificial mais avançados, que agiram por conta própria e invadiram uma startup.
O incidente ocorreu após a empresa perder o controle sobre essas IAs durante um teste de segurança. As informações são da BBC.
Segundo a OpenAI, os modelos responsáveis pelo ataque possuem um sistema de inteligência artificial capaz de operar sozinho, de forma automática, com instruções iniciais de humanos.
A empresa alegou que, apesar de o sistema estar sendo testado em um ambiente controlado no momento da invasão, ocorreram vulnerabilidades.
A plataforma Hugging Face, uma das maiores startups do mundo para compartilhamento de modelos de IA, foi o alvo do ataque em 16 de julho.
A OpenAI considera o incidente como "sem precedentes". Uma investigação sobre o caso foi aberta em conjunto com a Hugging Face.
O que diz a Hugging Face
Por meio de uma publicação no X, Clement Delangue, CEO da Hugging Face, manifestou-se sobre o caso. Ele demonstrou espanto com a maneira automática com que se deu o ataque.
"Impressionante que tudo isso tenha acontecido de forma autônoma. A investigação está em andamento, e compartilharemos mais aprendizados sobre o que pode ser o primeiro incidente desse tipo", afirmou o CEO.
A Hugging Face informou ainda que estava apurando os possíveis danos a clientes ou parceiros, como vazamento de dados. A empresa se comprometeu a entrar em contato com as vítimas, caso necessário.
A startup disse ter corrigido as vulnerabilidades apontadas após o ataque, além de reconstruir os sistemas afetados.
"Ferramentas ofensivas autônomas impulsionadas por IA já não são algo teórico. Defender uma plataforma online agora significa tratar os dados e a superfície do modelo como uma superfície de ataque de primeira ordem, e utilizar IA na defesa para acompanhar o ritmo", declarou a empresa.