Nota de Posicionamento do Aqualtune Lab sobre o Projeto de Lei Substitutivo de Inteligência Artificial (PL nº 2338/2023)

Introdução

A rápida evolução da Inteligência Artificial (IA) apresenta um enorme potencial para o desenvolvimento da sociedade, mas também traz consigo riscos e desafios que exigem atenção e medidas concretas. O Projeto de Lei Substitutivo de Inteligência Artificial, nº 2338/2023 traz enormes perigos a sociedade, e, principalmente, a população negra, a pessoas transgênero, a organizações da sociedade civil e a população num geral, quando tenta a regulação do uso de armas autônomas, sistemas de identificação biométrica (reconhecimento facial) e uso em atividades de alto risco, como em dados de saúde.

Reconhecimento Facial

Expressamos profunda preocupação com o uso irrestrito do reconhecimento facial e biométrico em espaços públicos. Essa tecnologia, quando usada sem critérios rígidos e mecanismos de controle adequados, pode representar uma grave ameaça à privacidade, à liberdade de expressão e à segurança individual.

O uso dessa tecnologia, no Brasil, chegou como a solução mágica para todos os problemas, desde a segurança pública até o controle de acesso em escolas e eventos. E sem haver nenhum debate público sobre o uso dessas tecnologias, governos municipais, estaduais e o federal tentam emplacar a sua regulação. Há uma série de preocupações, que os governos não têm se alertado sobre os impactos negativos que essa tecnologia pode gerar, principalmente no que diz respeito à violação de direitos humanos, vieses discriminatório e a falta de regulamentação adequada.

Estudos demonstram que os sistemas de reconhecimento facial podem apresentar altos índices de erro, especialmente quando se trata da identificação de pessoas negras e pessoas transgênero. Essa falha não é apenas técnica, mas reflete os vieses presentes nos dados utilizados para treinar os algoritmos, que muitas vezes perpetuam estereótipos e discriminações já existentes na sociedade. O que ficou demonstrado na recente abordagem ilegal que houve em Sergipe, quando um torcedor estava no estádio e foi detido. 

Na redação inicial do artigo 14 do Projeto de Lei (PL) traz a proibição do uso dessa tecnologia em espaços abertos públicos e de forma real, no entanto, os incisos seguintes abrem perigosos precedentes e brechas para o uso da tecnologia. É importante, a supressão dos incisos I, II, III e IV do referido artigo.  Observamos que qualquer procedimento relacionado ao processo investigativo judicial deve ser tratado na legislação pertinente e não cabe numa lei que trate sobre aplicação de tecnologia.


Defendemos:

  • A remoção de todas as exceções que permitem o uso de reconhecimento facial e biométrico em espaços públicos. Tendo em vista o grande potencial lesivo à direitos fundamentais da população brasileira.

Armas Autônomas

O desenvolvimento e uso de armas autônomas representam um marco perigoso na história da humanidade. A autonomia na tomada de decisões sobre a vida e a morte não deve ser delegada a máquinas.

O que são armas autônomas? O Comitê Internacional da Cruz Vermelha (CICV) considera que os sistemas de armas autônomas são as armas que selecionam os alvos e fazem uso da força sem intervenção humana. Uma pessoa ativa uma arma autônoma, mas não sabe especificamente quem ou o que vai atacar, nem exatamente onde e/ou quando esse ataque ocorrerá. Uma arma autônoma é acionada por sensores e software que fazem uma equivalência entre o que os sensores detectam no ambiente e um "perfil de alvo". Este perfil pode ser, por exemplo, o formato de um veículo militar ou o movimento de uma pessoa. Portanto, é o veículo ou a vítima que aciona o ataque, não o usuário.

Em poucas palavras, elas representam riscos humanitários, desafios jurídicos e preocupações éticas devido à dificuldade de prever e de limitar seus efeitos. Conforme mencionado acima, elas aumentam os perigos enfrentados pela população civil enquanto os soldados deixam de participar do combate, ou seja, aqueles que se renderam ou estão feridos também enfrentam riscos maiores. As armas autônomas também podem acelerar o uso da força a ponto de impedir o controle humano. Embora a velocidade possa ser vantajosa para os militares em algumas circunstâncias, se estiver descontrolada, ela poderia escalar os conflitos de um modo imprevisível e agravar as necessidades humanitárias.

No texto substitutivo, apesar de o artigo 13 vedar a implementação e o uso de sistemas de inteligência artificial, como sistemas de armas autônomas (SAA) que não permitam controle humano significativo cujos efeitos sejam imprevisíveis ou indiscriminados ou cujo uso implique violações do Direito Internacional Humanitário. No entanto, no parágrafo 2 autoriza o uso dessas armas, desde que tenha supervisão humana.  

Exigimos:

  • A total exclusão do uso de armas autônomas no PL 2338/2023.
  • A proibição imediata do uso de sistemas de armas autônomas.
  • A promoção de um diálogo internacional para estabelecer normas e acordos que impeçam o desenvolvimento e a proliferação dessas armas.


Alto Risco e Governança

O desenvolvimento e uso de sistemas de IA de alto risco, como aqueles que podem afetar a segurança pública, a saúde ou o meio ambiente, exigem um processo rigoroso de avaliação e governança. A sociedade civil deve ter um papel ativo nesse processo.

Propomos:

  • A inclusão da sociedade civil no processo de classificação e decisão sobre quais sistemas de IA são considerados de alto risco.
  • Prioridade de participação na governança para entidades representantes dos grupos mais vulneráveis à implementação da IA de alto risco, quais sejam, população negra e pessoas trans.
  • A criação de mecanismos transparentes e participativos para a avaliação e o monitoramento de sistemas de IA de alto risco.
  • O estabelecimento de princípios éticos claros para o desenvolvimento e uso de sistemas de IA de alto risco.

Legislação Específica

Acreditamos que as questões relacionadas à segurança pública não devem ser tratadas na lei geral de IA, mas sim em legislação específica que leve em consideração as características e os desafios específicos dessa área.

Defendemos:

  • A criação de uma lei específica sobre o uso de IA na segurança pública, que inclua mecanismos de controle, salvaguardas e garantias de direitos humanos.
  • A promoção de um debate amplo e inclusivo sobre o uso da IA na segurança pública, com a participação da sociedade civil, especialistas e órgãos de defesa dos direitos humanos.
  • A busca por soluções tecnológicas que contribuam para a segurança pública sem comprometer os direitos individuais e as liberdades civis.

DADOS DE SAÚDE E IA DE ALTO RISCO 

Consoante estabelece a Lei geral de proteção de dados, a Lei 13.709 de 2018, dados referentes à saúde e à vida sexual das pessoas são classificados como dados pessoais sensíveis (art. 5º. II).  O artigo 11 da LGPD estabelece, em caráter taxativo, as hipóteses de tratamento de dados sensíveis, não havendo previsão de uso para operações que envolvam a aplicação e desenvolvimento de sistemas de Inteligência Artificial.

Temos como premissa que a regulação das atividades da saúde deve seguir e se submeter às regras e procedimentos já estabelecidos no âmbito do Sistema Único de Saúde, que tem como regramento geral a Lei 8.080 de 1990 e demais legislações especiais. A incorporação de novas tecnologias nos serviços de saúde deve seguir as regras já existentes, que devem, sim, ser continuamente aprimoradas.

Assim, tomando por base o princípio da precaução que exige cautela de todos na adoção de tecnologias que envolvem alto risco para a vida das pessoas, defendemos a formulação de regramento específico para a aplicação de Inteligência Artificial no setor de saúde, em especial nas atividades que envolvem diagnóstico, prescrição e realização de procedimentos.

Ademais, entendemos que a incorporação de tecnologia no setor de saúde deve ter como finalidade ampliar o acesso à saúde, respeitando os direitos fundamentais e humanos do ordenamento jurídico brasileiro. 

Conclusão

A Inteligência Artificial tem o potencial de transformar o mundo para melhor, mas é fundamental que essa transformação seja guiada por princípios éticos e democráticos. A sociedade civil se coloca à disposição para colaborar com o governo, o setor privado e a academia na construção de um futuro com IA responsável, transparente e benéfica para todos.