Artigos AqualtuneEncruzilhada tecnológica: Um diálogo entre duas pessoas negras acerca da inteligência artificial e racismo
Por Debora Oliveira Ramos (Obirin Odara), mestre em Políticas Sociais pela Universidade de Brasília, e Ernane José Xavier Costa, professor da Faculdade de Zootecnia e Engenharia de Alimentos (FZEA) da USP
Por Debora Oliveira Ramos (Obirin Odara), mestre em Políticas Sociais pela Universidade de Brasília, e Ernane José Xavier Costa, professor da Faculdade de Zootecnia e Engenharia de Alimentos (FZEA) da USP
Rompendo as barreiras do conhecimento ocidental, que aloca de um lado, o conhecimento técnico – ciências exatas, e de outro, o conhecimento teórico crítico – ciências humanas, este artigo vislumbra um diálogo entre duas pessoas negras com formações distintas a respeito do que é e quais os impactos da Inteligência Artificial (IA) na estrutura racialmente desigual como a do Brasil.
Este artigo se propõe a diminuir a lacuna existente entre a população negra da diáspora com a discussão sobre tecnologia, com ênfase na IA, mediante um formato de entrevista a ser elaborado por uma mulher negra, assistente social, que, até este ano de 2022, não fazia ideia da proporção e fundamentos que estão relacionados às mudanças cada vez mais rápidas que impactam a vida social pós-pandemia de covid-19. O entrevistado, portanto, é um professor negro com formação e ampla trajetória na área de ciência e tecnologia, que nos fornecerá, mediante os questionamentos de alguém com pouco letramento digital, informações que podem ampliar nossa perspectiva negra sobre o conhecimento daquilo que aparentemente está distante da nossa realidade.
Obirin Odara: Para iniciar este diálogo, professor Ernane, nos conte um pouco sobre sua percepção acerca da relação entre pessoas negras e tecnologias e como isso se dá no seu percurso na sua área de conhecimento.
Ernane José Xavier: Gostaria primeiramente de ressaltar que a presença do negro na ciência e tecnologia no Brasil remonta à época dos engenhos. É fato que na época dos engenhos existiam trabalhadores que recebiam salário. Havia inclusive uma hierarquia salarial que ia desde o mestre de açúcar até o pescador. Esta estrutura fazia sentido devido ao fato de que a concepção de engenho incluía todo um conjunto funcional da atividade açucareira, como a lavoura, terras não cultivadas, casa-grande, senzala e não somente o engenho propriamente dito. Ora, pode-se assumir que havia mais maquinarias de madeira (moendas) do que de metal e, desta forma, reparos na estrutura física da moenda e demais dependências dependeriam exclusivamente da atividade de carpintaria. E, dada as condições tecnológicas da época, é improvável pensar que os gestores empregariam muitos carpinteiros para uma tarefa que era remunerada, logo, usar os escravos era menos oneroso. É neste ponto que se pode argumentar que tendo os negros conhecimento de carpintaria, e isso é fato dado que a manipulação da madeira fazia parte da cultura africana, a manutenção técnica dos engenhos passava pela mente criativa dos escravizados. Ora, mesmo na condição de escravo, é razoável supor que moenda em boas condições implicava menos chibatadas nas costas… por conseguinte, se a produção de açúcar no Brasil colonial teve sucesso, este passou pelas mãos dos escravos incluindo as questões tecnológicas envolvidas no processo de produção. Esta visão do escravo com capacidade técnica foi amplamente discutida em um evento por mim organizado em 2008, denominado 1º Simpósio Sobre o Negro na Ciência e Tecnologia, realizado no campus da USP em Pirassununga com apoio do CNPq e da extinta Secretaria Especial da Igualdade Racial do governo federal.
Foi neste simpósio que tive a dimensão de quantas pessoas negras faziam parte da trajetória em minha área de conhecimento… Existiam muitas pessoas negras com conhecimento elevadíssimo na área de computação e inteligência artificial, porém sem nenhum apoio. O cenário não mudou desde o evento de 2008. Mas percebo que, com a pressão política externa, a USP começa a reagir a este fato, tanto que, apesar de uma gestão nitidamente branca, a nova Reitoria criou uma Pró-Reitoria de Inclusão. O argumento aqui é o seguinte: o negro esteve ativamente envolvido em ciência e tecnologia no Brasil e na USP, porém sempre foi negligenciado e sua capacidade intelectual nunca foi reconhecida pelo povo branco que está no espaço de poder, sobretudo da Universidade. Esta afirmação fica evidente quando normalizamos o número de professores titulares da USP em relação à identidade racial.
Obirin: Professor, quando pensamos na contribuição inestimável do continente africano, sobretudo de Kemet (antigo Egito), para a construção do saber moderno sobre diversas áreas de conhecimento, por vezes, essa contribuição fica um pouco mais nebulosa no âmbito das ciências exatas. A colonização europeia fixou em nossas mentes colonizadas que conhecimento científico se produz por um corpo específico, que tem cor, território e, por vezes, falo. A branquitude tem estrategicamente nos afastado de espaços que disputam o futuro, ao apagar nosso passado pré-colonial e nos silenciarem no presente.
A despeito disso, como visto no seu relato, as pessoas negras sempre estiveram inseridas na elaboração de inovações sociais e tecnológicas, seja na diáspora ou no continente africano, ainda que nossa presença seja insistentemente negada.
Por essa razão, quando pensamos em tecnologia e os rumos que a sociedade vem tomando a partir da virtualização das relações sociais, existem algumas perguntas necessárias de serem feitas antes de discutirmos o evidente impacto da IA para a população negra, principalmente no que diz respeito ao reconhecimento facial como instrumento da segurança pública no Brasil. Afinal, o que é a Inteligência Artificial?
Ernane: Existe uma definição quase que mitológica sobre o que é Inteligência artificial (IA). Mas, antes de entrar em detalhes sobre como podemos definir a IA, chamo a atenção para as seguintes questões: 1 – O que é inteligência e 2 – o que é artificial? Sem responder a estas duas questões, qualquer definição do procedimento algorítmico lógico-operacional que implantamos em máquinas digitais para resolver certos tipos de problemas é mera especulação midiática. É difícil para a ciência contemporânea responder o que é inteligência sem incorporar toda a amplitude que o termo carrega.
Por exemplo, gosto muito da junção que a professora Saavedra faz entre inteligência e a definição de poder proferida por Foucault. Neste artigo da professora Saavedra, catedrática da Escola de Psicologia da Universidade Minho, ficam muito evidentes a amplitude e complexidade do termo inteligência. E não é à toa que estou relacionando isso a poder… ficará claro a seguir. Vamos, antes, falar do significado de artificial. Ora, se a inteligência é esta complexidade quase que caótica (lembrando que caos não é desorganização), o que esperar sobretudo se a mesma for artificial? Embora a definição de artificial, pelo menos sob o ponto de vista da engenharia e da física (áreas que compreendem minha atuação acadêmica) seja relativamente óbvia, o mesmo não acontece sob o ponto de vista filosófico. Para ter-se a dimensão da complexidade do “artificial”, chamo a atenção para a visão do filósofo Paolo Rossi em seu tratado Os Filósofos e as Máquinas, de 1962.
Então, apesar da pretensão de tornarmos a inteligência em algo artificial, é uma ingenuidade a afirmação de que já o fizemos em nossas inanimadas máquinas digitais. E é esta ingenuidade que faz a IA perigosa. Não é perigosa quando a imaginamos de forma mitológica em máquinas saídas de filmes de ficção científica, mas sim, quando um negro é identificado como suspeito por um algoritmo de reconhecimento facial baseado em IA. E é assim mesmo.
Obirin: Esses questionamentos anteriores, como 1. o que é inteligência? e 2. o que é artificial?, são cruciais para uma compreensão crítica sobre a forma final da IA e seu impacto no nosso dia a dia. Contudo, percebemos que não só na sua resposta, como de forma hegemônica, quem tem respondido com autoridade a essas perguntas é a branquitude, principalmente euro-norte-americana. Se a concepção primária sobre algo já é, portanto, limitada a uma perspectiva culturalmente determinada, tendemos a receber e reproduzir de forma acrítica e universalizante a resposta e deixamos de elaborar perguntas indispensáveis para compreender o que é e quais os efeitos de diversos fenômenos, tal como a presença exponencial da IA no nosso cotidiano. Como efeito disso, somos impelidos a viver sob os paradigmas de um saber filosófico e cultural branco que não contempla o legado e os projetos de sociedade que nossos ancestrais criaram, desenvolveram e, certamente, poderiam estar à mesa na disputa dos rumos que as sociedades colonizadas estão trilhando.
Qual é, portanto, o lugar de África na produção científica acadêmica acerca das novas tecnologias?
Ernane: O continente africano produz ciência e tecnologia desde sua gênese. E, se tratando dos dias de hoje, isto é facilmente constatado em jornais científicos como o African Journal of Science, Technology, Innovation and Development. Editado pela Taylor & Francis, sendo o editor-chefe um homem negro e no corpo editorial, pesquisadores negros de diversas universidades, como da Universidade de Oxford, Harvard e outras. Engana-se quem, de forma mal-intencionada ou ingênua, atribuir os problemas africanos à intelectualidade do povo negro. Não tem correlação. Inclusive a academia africana já recebeu prêmio Nobel, coisa que na hegemonia branca da USP está longe de acontecer. Outro aspecto importante é a forma com que a produção científica é classificada. Mente quem responde que a atual avaliação da qualidade científica é baseada no mérito. Quando empresas privadas, de forma muito oportunista, criam índices de classificação da produção científica, como o JCR, e quando a comunidade científica aceita, sem nenhuma reflexão, tais índices, o que se tem é uma decisão política e não de mérito. Tomemos o fator H por exemplo. Por que ele é a melhor definição de qualidade científica de um dado acadêmico? O que se esconde por trás de todos estes mecanismos ditos meritocráticos é uma política de exclusão. Neste cenário, os jornais africanos e a produção científica africana são geralmente menosprezados por esses índices com o falso argumento da meritocracia acadêmica. Isto não é diferente no campo da IA. As pessoas que estão criando e estruturando a tecnologia são parte do sistema e, portanto, irão espelhar suas crenças e vontades na base de informação da IA e usarão a falsa justificativa meritocrática para desprezar ideias que não tenham sido publicadas em jornais científicos do dito “primeiro” mundo com elevado fator de impacto (JCR) e, neste cenário, se não propormos o diferente, será assim mesmo.
E o que tem que ser proposto? Apresentar de forma consistente o que entendemos ser uma tecnologia inclusiva, principalmente no que se refere à IA. Temos uma proposta e ela está no projeto de lei, em tramitação, que disporá sobre os marcos éticos e as diretrizes que fundamentam o desenvolvimento e o uso da IA no Brasil. Para saber mais sobre a proposta no que diz respeito aos negros sugiro aos interessados a Aqualtunelab, que é um coletivo jurídico com suporte multidisciplinar para estudos, propostas e análises das inter- relações entre direito, tecnologia e raça.
Obirin: Ouvir sobre a contribuição de africanos e negros na diáspora sobre tecnologia, me deixa muito mais segura para adentrar esse espaço. Obrigada, professor. Aliás, eu tenho muito pouco letramento digital. Tudo o que eu sei, fui aprendendo na prática e o aprofundamento vem muito das demandas que surgiram no trabalho. Algumas fórmulas no Excel, usar as ferramentas do Google, pacote office, etc.
Com a pandemia, a virtualização das relações, principalmente de trabalho, ficou ainda mais presente. Se tornou comum passar horas a fio em casa, de meet em meet, de zoom em zoom, intercalando trello, drive, Notion, WhatsApp web, canva, e-mail, Google agenda e por aí vai. Inevitavelmente muitas dessas ferramentas ficaram mais conhecidas por conta da demanda de organização de uma vida que tem ficado cada vez mais concentrada nas telas.
Eu fui me aproximando de tudo isso na velocidade que a internet cria e na pressão que ela impõe. A possibilidade de fazer mil coisas, a sensação de que sempre dá para resolver algo – afinal estamos sempre com o celular em mãos, a saga em zerar a caixa de e-mail, sempre vem acompanhada de uma nova plataforma ou app criado com viés de facilitar a gestão do seu tempo e atividades. Em cada buraco do dia, um encaixe, mais uma demanda.
E foi daí, dessa primeira aproximação com as tais ferramentas tecnológicas cada vez mais comuns para o dia a dia (pelo menos no meu, que vivi o home office), e em minha última experiência de trabalho enquanto coordenadora de autonomia econômica e lideranças femininas de uma Secretaria Municipal de Políticas e Promoção da Mulher, que alguns temas se tornaram mais presentes. Dentre eles, a bendita programação.
Eu precisava pensar um projeto de tecnologia para as mulheres do município e a saga começou tentando entender quais as áreas que mais crescem nesse meio. Me deparei com palavras que, até aquele momento, só eram palavras. Programação, desenvolvimento de apps, ux, machine learning e por aí vai. Lembro de um dia em que passei vendo vídeos sobre o que eram as linguagens de programação e fiquei extasiada quando entendi 1% disso. A sensação era de descobrir um novo mundo, destrinchar um pouco do que nunca questionei ou entendi como funcionava por trás de tantas ferramentas que ocupam meu dia.
Nunca tinha me perguntado como os apps são criados, o que é a interface, como programamos um software, o que é linguagem Python, comunicação binária… e sabe por que nunca fui impelida a pensar nisso? Porque para muitos de nós, o lugar de participação é, no máximo, o de consumo. Consumir de forma não consciente, passiva e crescente. Isso quando consumimos, porque em sua maioria o acesso tecnológico também é tardio e raso para muitos de nós, pessoas negras e indígenas.
Os efeitos de uma distância absurda com essas áreas é exatamente não se sentir apta a interferir nesse meio como alguém que pensa e cria. Daí se materializa a noção de alienação, que é exatamente esse fenômeno de estranhamento que temos com diversos espaços, principalmente no que diz respeito à produção de conhecimento. Diante disso, professor, gostaria que trouxesse à tona para os leitores deste artigo, sobretudo as pessoas negras e indígenas que nos lerão, o que é necessário para disputar e se posicionar quanto ao campo da IA e demais tecnologias?
Ernane: Um conceito fundamental para responder a esta questão é o de alienação social. A alienação social refere-se ao estado mental do indivíduo, e é estudada pela sociologia. Tal estado mental leva o indivíduo a não compreender que ele é parte estruturante e formador da sociedade e da política, e neste estado de alienação aceita tudo sem um posicionamento crítico. Se trocarmos o termo social por tecnológica, podemos definir a última como sendo um estado mental que incapacita o pensamento independente do indivíduo e ele passa a aceitar toda e qualquer tecnologia como algo natural, racional ou divino.
Desta forma, o indivíduo não possui plena consciência de que também faz parte do desenvolvimento das tecnologias e da ciência humana, de seus processos e relacionamentos sociais e passa a ser treinado para apertar botões que lhe são oferecidos em objetos e/ou processos que lhe parecem amenizar a vida dura de trabalhador e/ou de descendente de escravo.
O povo negro, por ter sido ele relegado ao papel de indivíduo a ser explorado, figura na mente da elite branca como um consumidor de tecnologia. Para se livrar deste rótulo é necessário, primeiramente, se desalienar tecnologicamente, o que significa criar massa crítica de negros questionadores do status quo, e em seguida aumentar a educação inclusiva, como aumentar o número de negros em áreas dominadas por pessoas brancas como na academia, na engenharia e nas ciências médicas.
Obirin: É importante salientarmos que o primeiro estímulo para adentrarmos qualquer área, enquanto pessoas negras, é desacreditar do discurso racista de que somos incapazes e incompletos. Nossa ausência, estruturalmente determinada, nos meios tecnológicos não nos isenta de sermos alvos das inovações que estão surgindo. É necessário reconhecermos nosso povo como produtores de conhecimento científico desde seus primórdios, e disputar com fundamento os espaços que nos negam acesso.
Ainda nesse esteio, ultimamente temos ouvido muito falar de Racismo Algorítmico, que é uma tentativa de denúncia de como as máquinas operacionalizam a exclusão e discriminação contra pessoas negras e indígenas. Pode nos explicar por que esse termo não dá conta de como o racismo se insere na IA?
Ernane: Os circuitos eletrônicos e as linhas de códigos enquanto objetos inanimados não podem ser, por si sós, racistas. No entanto, as entradas e as saídas destes objetos podem “carregar a informação racista” e com isso ter um comportamento racista. Por exemplo, um sistema de identificação de suspeitos em aeroportos pode reconhecer 90% dos negros como suspeitos e 100% dos portadores de olhos azuis como “acima de qualquer suspeita”. Sendo assim tecnologias que possam agir de forma racista, como é o caso da inteligência artificial, devem ser banidas e reeditadas com uma base de conhecimento que respeite a diversidade humana.
Obirin: Precisamos reafirmar constantemente que o racismo vem de quem programa, e os algoritmos são apenas códigos que vão cumprir as funções estabelecidas no pensamento computacional a ser utilizado.
Para muitos de nós, o máximo que conhecemos da IA vem pautado pelo medo que a ficção científica fixa em nosso imaginário, que é o de temer que os computadores e robôs se rebelem contra nós – os humanos – ao adquirir capacidade emocional e cognitiva. Contudo, as máquinas são sempre máquinas. E se elas têm capacidade de matar, é porque alguém constrói tecnologias com esse propósito. Isso esconde o verdadeiro perigo da inteligência artificial, que é a inteligência humana e objetivos estratégicos de uma comunidade científica que se alia aos propósitos da classe dominante utilizada para programar e definir as funções e impactos da tecnologia.
De outro lado, ainda relacionado a isso, percebemos que a inserção de máquinas no cotidiano das fábricas é um processo da própria modernização, na medida em que as revoluções industriais fornecem cenários cada vez mais propícios para a acumulação do capital por parte da classe dominante. O que poderia auxiliar o processo produtivo de trabalhadores se torna um vilão, na medida em que humanos se tornam descartáveis diante da entrada massiva de tecnologias no ambiente de trabalho, automatizando tudo o que for possível.
É bem verdade que a virtualização da vida e o uso cada vez mais crescente de inteligência artificial, por exemplo, alteram nossa percepção sobre corpo, tempo e espaço – físico e social. Por exemplo, ao nos alimentarmos comendo os alimentos com a mão, como povos tradicionais das Américas e africanos fazem, temos uma relação direta com a comida. Sentimos a textura e a temperatura. Ao sermos ensinados, na diáspora, que há uma forma moderna de se alimentar, passamos a usar talheres e a considerar outras formas de se alimentar como primitivas, quando elas são referência de povos indígenas e africanos.
Para o pensamento ocidental, os animais e a natureza estão hierarquicamente abaixo do homem – o humano -, pois estes não possuem capacidade racional e teleológica. Assim, aquilo que está abaixo do humano pode ser explorado e dominado para satisfação de suas necessidades e prazeres. Ao se estranhar de tudo que o rodeia, para sua autodefinição como humano, belo e civilizado, o homem branco europeu cria e reformula estratégias filosóficas, sociais, políticas e estéticas universais e as informa via colonização.
Ao comermos com talher, portanto, esse instrumento vai sendo utilizado dentro de um paradigma cultural que define status, mas não só; ele também pode evidenciar a forma como a perspectiva eurocêntrica percebe e vive com a natureza, se distanciando física e ideologicamente da terra, do alimento, do outro e do próprio corpo. O talher aqui é um exemplo de como estamos, pela via da modernização, inserindo inúmeros artifícios entre nós e o que nos rodeia, e sendo convencidos de que dependemos desses instrumentos para viver bem.
Do talher ao robô aspirador que limpa a casa, vislumbramos a crescente dependência de tecnologias que, apesar de facilitar determinados processos, modificam nossa relação com outros aspectos da vida. Depender de máquinas para tomar decisões que envolvem habilidades cognitivas, emocionais, percepção da natureza etc. pode ser prejudicial para o desenvolvimento humano e sua relação com o real e o mundo ao redor. Tendo em vista esse panorama, pode nos falar um pouco o que diferencia a máquina de humanos e como isso é benéfico e/ou problemático para a nossa sociabilidade?
Ernane: Esta pergunta tem que ser respondida tendo-se em conta o famoso teste de Turing. O teste lança uma questão sobre se um computador pode ou não imitar um ser humano e também como uma medida da “capacidade de pensamento” e “inteligência” das máquinas. Partindo deste ponto de vista, o teste de Turing deixa aberta a questão sobre máquinas e humanos serem indistinguíveis em alguns aspectos e aí então as máquinas racistas seriam indistinguíveis de humanos racistas. Logo a diferença entre máquinas e humanos não está no aspecto funcional e sim em algo mais abstrato, na “humanidade” dos humanos e na “maquinidade” das máquinas. Neste contexto, pode-se assumir que não sabemos ao certo se isso é benéfico ou problemático sem contextualizar que estamos falando de máquinas e humanos coexistindo em um momento de existência humana onde o modo de produção é o capitalista.
Obirin: Por fim, professor, quais os caminhos na IA você aponta como possíveis para a promoção da equidade racial? Temos exemplos do uso de IA nesse sentido?
A solução para os problemas da equidade racial não passa isoladamente pela ciência e tecnologia. Temos que considerar todos os outros aspectos que envolvem esta questão. E dentro deste cenário, o caminho possível para a IA ser mais inclusiva é parar tudo que aí está e começar de novo. Ou seja, temos que retomar o uso crítico das tecnologias que se apresentam, uma vez que elas vêm carregadas de defeitos e intencionalidades contrárias à nossa emancipação, como a exploração e gestão de dados por parte de grandes monopólios empresariais, e demais aspectos que estamos apontando neste artigo, e a partir daí iniciar uma nova abordagem da mesma. Para entender isso veja o que ocorre com a tecnologia de clonagem de humanos. Primeiro a comunidade científica reconheceu os perigos da clonagem e depois restringiu seu uso por entender que necessitava não de tecnologia, mas do entendimento de que tal tecnologia poderia ser prejudicial para a sociedade. A mesma atenção deve ser dada à IA, pois ela já demonstra ser potencialmente danosa à sociedade, sobretudo para pessoas negras e indígenas, em muitos aspectos. Por isso, ações de grupos organizados como o Black em AI, do MIT nos EUA, e do AqualtuneLab, aqui no Brasil, são fundamentais para trazer à tona uma discussão mais inclusiva das tecnologias baseadas em inteligência artificial.