Como o PL da Inteligência Artificial pode proteger direitos da população
Proposta que quer regulamentar IA no Brasil está em discussão no Senado Federal; lacunas preocupam sociedade civil
Foto: Artur Widak / NurPhoto via AFP
A discussão sobre o Projeto de Lei nº 2338/23, que busca regulamentar a inteligência artificial no Brasil, ganhou novo fôlego após a apresentação, no dia 28 de novembro, de uma nova versão do relatório .
Previsto para votação na Comissão Temporária sobre Inteligência Artificial (CTIA) na quinta-feira (3) e no plenário do Senado ainda em dezembro, a aprovação desse texto do relator, senador Eduardo Gomes (PL-TO), é urgente. A versão apresentada na última quinta-feira traz os elementos mínimos necessários, como apontado em nota da Coalizão Direitos na Rede, assinada pela Conectas, Data Privacy e outras entidades, para um marco regulatório com foco na proteção de direitos e mitigação de riscos, a despeito da existência de lacunas que comprometem o objetivo do projeto: tornar a IA uma ferramenta segura para a população brasileira.
No relatório mais recente, por exemplo, permaneceu a previsão de atualização dos sistemas de alto risco. Consideramos a manutenção da hipótese exemplificativa fundamental, pois, com isso, a legislação brasileira criada, além de seguir a tendência internacional de discussão do tema (AI Act da União Europeia), garante flexibilidade e previne que, diante do acelerado avanço tecnológico, ela se torne rapidamente obsoleta.
Há pontos, porém, que precisam ser melhorados. Para a Conectas, as exceções previstas no Art.13, inciso V, devem ser retiradas do texto. Sistemas de identificação biométrica à distância devem ser suspensos, no mínimo, até que hajam evidências científicas como política de preservação de direitos e comprovação da ausência de vieses discriminatórios, especialmente, raciais e de gênero. Tal preocupação vai no sentido da afirmação feita, em 2021, pela Autoridade Europeia para a Proteção de Dados (AEPD), em discussão sobre banimento do reconhecimento facial na Europa: “a identificação biométrica remota, em que a IA pode contribuir para avanços sem precedentes, apresenta riscos extremamente altos de intrusão profunda e não democrática na vida privada dos indivíduos
Aqui estão outras 4 propostas da sociedade civil para o PL da Inteligência Artificial (PL 2338/23):
1- Garantia de Avaliação Preliminar Obrigatória: Tornar obrigatório o processo de avaliação preliminar para determinar o grau de risco dos sistemas de IA antes de sua disponibilização no mercado (art. 12).
2- Participação Social Aumentada: Assegurar a participação pública nos processos de avaliação de impacto e na estrutura do Sistema Nacional de Governança e Regulação de IA (SIA), além de incluir consultas públicas antes da aprovação de normas infralegais (art. 25, §8º, e art. 49, versão anterior).
3- Reforço das Garantias Trabalhistas: Retomar incisos do texto anterior que protegiam trabalhadores, como a supervisão humana em decisões automatizadas e a prevenção de demissões em massa devido à substituição por sistemas de IA (art. 58).
4- Ampliação das Obrigações de Governança: Estabelecer medidas de governança obrigatórias para sistemas de alto risco, como a mitigação de vieses discriminatórios e a prevenção de riscos à integridade das pessoas, vinculadas à transparência e ao uso responsável dos dados (Capítulo IV, art. 14).
Sociedade civil em alerta
Para Julia Neiva, diretora de Fortalecimento do Movimento de Direitos Humanos da Conectas, a regulação é fundamental, mas não pode justificar concessões que comprometam direitos fundamentais. “A legislação deve ser viva e oferecer ferramentas para que os direitos dos cidadãos e cidadãs brasileiros sejam respeitados e garantidos. O avanço tecnológico não deve ferir os valores constitucionais”.
Na semana passada, 39 organizações da sociedade civil alertaram, em nota, para possíveis retrocessos que podem pressionar ainda mais o texto. “Outra ameaça diz respeito às regras sobre sistemas de IA utilizados por plataformas digitais para curadoria, difusão, recomendação e distribuição de conteúdos. Atualmente, estes modelos algorítmicos estão classificados como de alto risco, justamente pelo reconhecido impacto que podem ter sobre o comportamento humano, sobre o debate público e para a democracia, o que é importante para que as plataformas sejam obrigadas a adotar medidas de governança mais rígidas, especialmente ligadas à transparência e mitigação de riscos de violação de direitos. O inciso XIII do art. 14 [que trata sobre a automatização de curadoria em larga escala]”, diz trecho do documento. Esse inciso saiu do relatório apresentado pelo relator.
O impacto da inteligência artificial nos direitos humanos será tema de uma audiência pública promovida pelo Conselho Nacional dos Direitos Humanos (CNDH) no dia 3 de dezembro de 2024, das 9h às 12h, no Senado Federal, em Brasília. O evento, que será transmitido ao vivo pelo canal da TV Senado no YouTube, discutirá desafios e oportunidades trazidos pela IA, incluindo sua regulamentação e seus efeitos na sociedade.
