As autoridades italianas anunciaram nesta sexta-feira (31) a decisão de bloquear o chatbot ChatGPT, acusado de não respeitar a legislação sobre dados pessoais e de não dispor de um sistema de verificação da idade dos usuários menores de idade.
Esta decisão, "com efeito imediatos", terá como consequência "a limitação provisória do tratamento dos dados dos usuários italianos em relação à OpenAI", criadora do ChatGPT, informou a autoridade nacional para a proteção de dados pessoais, em um comunicado.
O ChatGPT apareceu em novembro e foi rapidamente adotado por usuários impressionados com sua capacidade de responder claramente a perguntas difíceis, escrever sonetos e até passar em exames.
Em seu comunicado, a autoridade italiana ressalta que o ChatGPT "sofreu, em 20 de março, uma perda de dados ('data Breach') sobre as conversas dos usuários e as informações relativas ao pagamento dos clientes do serviço de assinatura".
O órgão de vigilância também critica o ChatGPT pela “falta de uma nota informativa para os usuários, cujos dados são coletados pela OpenAI, mas, sobretudo, pela ausência de uma base jurídica que justifique a coleta e a conservação em massa dos dados pessoais, com o objetivo de ‘treinar' os algoritmos que fazem a plataforma funcionar".
Além disso, embora o robô seja destinado a maiores de 13 anos, "a autoridade destaca que a ausência de qualquer filtro para verificar a idade dos usuários expõe os menores a respostas que não estão, em absoluto, em conformidade com seu nível de desenvolvimento".
A entidade pede à OpenAI que “comunique, em um prazo de 20 dias, as medidas adotadas” para remediar esta situação, "sob pena de multa até 20 milhões de euros (US$ 21,75 milhões, R$ 110,4 milhões), ou até 4% do volume de negócios mundial anual".
Este anúncio surge depois de a agência policial europeia (Europol) alertar, na segunda-feira (27), que os criminosos estavam dispostos a tirar proveito da Inteligência Artificial, como o chatbot ChatGPT, para cometer fraudes e outros crimes cibernéticos.
Regulamentação da Inteligência Artificial
O ChatGPT é financiado pela Microsoft, que o adicionou aos seus serviços e se apresenta como um potencial concorrente do motor de busca do Google.
A agência de proteção de dados da Itália também proibiu a empresa de Inteligência Artificial Replika, no início de fevereiro, de usar os dados pessoais de usuários italianos, porque oferece bate-papo com avatares personalizados que falam e ouvem. Alguns usuários reclamaram de receberem mensagens e imagens ousadas, no limite do assédio sexual.
O Regulamento Europeu de Proteção de Dados (GDPR, na sigla em inglês), que vem impondo bilhões de dólares em multas para gigantes da tecnologia, pode se tornar o maior inimigo, no Velho Continente, das novas IAs geradoras de conteúdo.
A União Europeia está preparando um projeto de lei para regulamentar a Inteligência Artificial, que pode ficar pronto até o final de 2023, ou início de 2024, e ser aplicado em alguns anos.