Transparência e regulação da IA no Brasil

Em 2020, começou a tramitar na Câmara dos Deputados o PL 21/2020, que cria o marco legal do uso e desenvolvimento da Inteligência Artificial no Brasil. Sendo o projeto aprovado e chegando ao Senado, sua tramitação foi interrompida para debates entre juristas, mormente com relação à transparência e explicabilidade dos modelos de decisão dos sistemas de inteligência artificial, o que, na prática, é difícil de implementar.

Isso porque é impossível de se explicar esse processo de decisão em relação a alguns modelos computacionais, chamados, por isso mesmo, de opacos. Não é suficiente, para isso, a disponibilização do algoritmo utilizado em ampla publicidade, visto que a inteligência artificial comumente se comporta de modo imprevisível, consistindo esses algoritmos apenas em linhas gerais de instruções - não comportando, pois, o modelo de tomada de decisão.

Desse modo, somente é possível a auditoria dos dados utilizados na construção de um sistema computacional autônomo e a constatação dos resultados obtidos, o que faz com que a fiscalização se dê apenas nos aspectos externos da inteligência artificial.

Essa impossibilidade de transparência plena é um problema não somente na prevenção de riscos a direitos civis, mas também a direitos fundamentais. Nunca se sabe quando o sistema se comportará de modo a incitar violência ou preconceito com base em dados que, ainda que não direcionados, refletem os vieses já presentes na nossa sociedade.

Uma solução viável a esse problema, a ser adotada na seara legislativa e já considerada pelos especialistas, é a regulação baseada em riscos da seguinte forma: treina-se o sistema autônomo ainda no âmbito de sua produção, sem disponibilização ao público, e disponibiliza-se a tecnologia apenas quando as suas decisões atingirem um mínimo estatístico de segurança quanto a direitos e garantias fundamentais, definido por órgão técnico competente para tanto.

Faz-se a ressalva de a sugestão depender de futuras discussões sobre o tema, com a análise da sua viabilidade. Mas, diante da atual limitação fática em regular a inteligência artificial, a alternativa se mostra interessante e necessária.

João Pedro Batista é advogado no escritório Gonçalves Santos Advogados