IRIS e AqualtuneLab denunciam caso de racismo algorítmico envolvendo imagem de Lélia Gonzalez

Organizações apontam que ferramenta de inteligência artificial do Canva adicionou elementos associados a estereótipo racista a uma fotografia da intelectual negra, e cobram apuração do Ministério da Igualdade Racial

O IRIS e o AqualtuneLab formalizaram uma denúncia junto à Ouvidoria do Ministério da Igualdade Racial após identificarem um caso de racismo algorítmico envolvendo uma fotografia de Lélia Gonzalez, uma das intelectuais negras mais importantes da história do Brasil. As organizações pedem a apuração do episódio e a adoção de medidas para evitar que situações semelhantes se repitam.

O que aconteceu

Em 2024, uma fotografia de Lélia Gonzalez foi inserida na ferramenta de expansão generativa de imagens do Canva — recurso que usa inteligência artificial para preencher automaticamente áreas ao redor de uma foto original. Sem nenhum pedido nesse sentido, o sistema acrescentou à cena elementos que não existiam na imagem: o que parecem ser carreiras de cocaína sobre a mesa em que a intelectual está apoiada.

Para verificar se o resultado se repetiria, as organizações testaram a mesma ferramenta com a fotografia de um homem branco. O sistema produziu um resultado completamente diferente: acrescentou um copo de leite à cena — símbolo que, segundo o IRIS e o AqualtuneLab, é associado a grupos supremacistas brancos.

O contraste entre os dois resultados, apontam as organizações, expõe quais associações raciais um sistema de inteligência artificial pode reproduzir e os efeitos concretos que essas associações produzem sobre pessoas reais.

Por que isso importa

Para o IRIS e o AqualtuneLab, o caso evidencia os riscos do racismo algorítmico: sistemas de inteligência artificial podem reproduzir e amplificar desigualdades e estereótipos raciais já existentes na sociedade, mesmo sem qualquer comando explícito nesse sentido.

As organizações reforçam que o episódio não é um caso isolado, mas mais um exemplo de uma série de casos de racismo algorítmico registrados no Brasil — um país que ainda não regula o uso de inteligência artificial nem trata o viés discriminatório racial como prioridade nesse debate.

Segundo o IRIS e o AqualtuneLab, a pergunta que importa não é apenas se uma tecnologia funciona, mas para quem ela funciona e quais vieses e desigualdades ela reproduz.

A denúncia

Na denúncia apresentada à Ouvidoria do Ministério da Igualdade Racial, as organizações solicitam a apuração do caso e a adoção de mecanismos capazes de testar, auditar e enfrentar vieses discriminatórios raciais em sistemas de inteligência artificial.

A ação integra a estratégia de incidência do IRIS e do AqualtuneLab no âmbito do projeto Tropicál-IAlia, voltada à promoção de uma inteligência artificial efetivamente antidiscriminatória e à defesa de regulação de IA no Brasil com atenção específica ao viés racial.

“Tecnologia não é neutra. Seus efeitos também não são”, afirmam as organizações, que defendem que a próxima geração de sistemas de IA precisa ser desenvolvida com mecanismos que impeçam a repetição de casos como esse.

A íntegra da denúncia está disponível no link da bio dos perfis do IRIS e do AqualtuneLab.