Senado aprova proposta que regulamenta uso de inteligência artificial
Proposta elaborada por uma comissão de juristas e apresentada pelo presidente do Congresso Nacional, senador Rodrigo Pacheco, estabelece uma série de regras para o desenvolvimento e o uso de sistemas deste tipo de tecnologia no país. Matéria segue para análise dos deputados.
Por Humberto Azevedo
O plenário do Senado aprovou na noite desta última terça-feira, 10 de dezembro, o Projeto de Lei (PL) 2338 de 2023 que regulamenta o uso de inteligência artificial (IA) no país. Elaborado por uma comissão de juristas, a iniciativa foi apresentada pelo presidente do Congresso Nacional, senador Rodrigo Pacheco (PSD-MG), estabelece uma série de regras para o desenvolvimento e o uso de sistemas deste tipo de tecnologia. A matéria segue para análise dos deputados federais.
O texto aprovado pelo Senado Federal é um substitutivo construído pelo senador Eduardo Gomes (PL-TO), relator do projeto. O engloba dispositivos sugeridos em mais sete propostas, inclusive o PL 21 de 2020, já aprovado por àquela Casa legislativa, e contou com dezenas de emendas de diversos senadores. O texto foi aprovado de maneira consensual pelos senadores.
Diversos senadores comentaram que a aprovação da iniciativa foi um avanço significativo, já que o texto está baseado em questões fundamentais, como o respeito aos direitos individuais, o combate a qualquer tipo de discriminação e a busca por um tratamento igual em relação as pessoas.
O projeto divide os sistemas de IA em níveis de risco, oferecendo uma regulamentação distinta para os de alto risco, a depender do impacto do sistema na vida humana e nos direitos fundamentais. E a proposta veda o desenvolvimento de aplicações de IA que tenham “risco excessivo”.
De acordo com a redação aprovada, a avaliação preliminar dos sistemas de IA só será obrigatória para os sistemas generativos e de propósito geral. Para os demais casos, ela será facultativa, mas será considerada uma medida de boa prática, podendo resultar em benefícios para os agentes, como prioridade em avaliações de conformidade.
“Esse projeto é o melhor que poderíamos apresentar neste momento”, resumiu o senador Humberto Costa (PT-PE).
“É uma área que envolve quase todos os setores da humanidade nos tempos atuais. Imagine a complexidade de colocar num projeto de lei, ou no texto de uma lei, algo tão complexo e tão diverso. Nós temos um começo de regulamentação em cima de bases consistentes, com pilares como a integralidade, garantia de direitos autorais. Estamos falando de pilares que estruturam uma construção complexa que é regulamentar, acompanhar e garantir que a humanidade vai usar dessa tecnologia e que isso vai fazer bem para a sociedade”, comentou o senador Rogério Carvalho (PT-SE).
DIREITOS AUTORAIS
O texto ainda estabelece que conteúdos protegidos por direitos autorais poderão ser utilizados em processos de mineração de textos para o desenvolvimento do sistema de IA por instituições de pesquisa, jornalismo, museus, arquivos, bibliotecas e organizações educacionais. No entanto, o material precisa ser obtido de forma legítima e sem fins comerciais.
Além disso, o objetivo principal da atividade não pode ser a reprodução, exibição ou disseminação da obra usada e a utilização deve limitar-se ao necessário para alcançar a finalidade proposta, e os titulares dos direitos não tenham seus interesses econômicos prejudicados injustificadamente.
Os cidadãos terão assegurados os direitos à explicação e à revisão humana das decisões que tiverem impacto jurídico relevante. E no caso de uso de sistemas que façam identificação biométrica, deverá haver a garantia de proteção contra discriminação direta, indireta, ilegal ou abusiva.
RISCO EXCESSIVO
O projeto proíbe o desenvolvimento e o uso de sistemas com determinadas características ou finalidades, por considerar que representam risco excessivo. Entre eles, estão os chamados sistemas de armas autônomas (SAA), isto é, que podem selecionar e atacar alvos sem intervenção humana.
Também ficarão proibidos o uso de técnicas subliminares e a exploração de vulnerabilidades de pessoas ou grupos para induzir comportamentos danosos à saúde e à segurança.
Da mesma forma, serão proibidos sistemas com o propósito de possibilitar a produção, disseminação ou facilitem a criação de material que caracterize ou represente abuso ou exploração sexual de crianças e adolescentes.
O projeto ainda veda a avaliação de traços de personalidade e de características de comportamento para prever o cometimento de crimes e impede a classificação de indivíduos com base em seu comportamento social ou personalidade para determinar, de forma ilegítima e desproporcional, o acesso a bens, serviços e políticas públicas.
O uso de câmeras para identificar pessoas em tempo real em espaços públicos só será permitido para busca de vítimas de crimes ou pessoas desaparecidas, para recapturar fugitivos, cumprir mandados de prisão ou de medidas restritivas, investigar e reprimir crimes em flagrante nos casos de delitos cuja pena de prisão seja superior a dois anos e instruir inquérito ou processo criminal com autorização do juiz, quando a prova não puder ser feita por outros meios.
AVALIAÇÕES DE IMPACTO
Quando um sistema de IA for classificado como sendo de alto risco, deverá ser realizada a avaliação de impacto algorítmico por profissionais com conhecimentos técnicos, científicos, regulatórios e jurídicos.
A avaliação de impacto algorítmico verificará os riscos aos direitos fundamentais conhecidos e previsíveis, os benefícios do sistema, a probabilidade e a gravidade de eventuais consequências adversas e os esforços necessários para mitigá-las, as medidas de transparência e a lógica do sistema.
As conclusões das avaliações deverão ser públicas e disponibilizadas em banco de dados mantido pela autoridade competente. Regulamento determinará a periodicidade da revisão dessa avaliação. Caso, após a introdução do sistema no mercado, os agentes descubram novos riscos aos direitos dos indivíduos, devem comunicá-lo às autoridades competentes e às pessoas afetadas.
