Inteligência artificial no mundo reproduz domínio da cultura ocidental e colonialista? (VÍDEO)

“As principais empresas formuladoras dessa tecnologia são dos países centrais do capitalismo mundial, e estão ligadas principalmente à Europa e aos Estados Unidos. Muitas delas foram criadas, como os softwares de tecnologia de reconhecimento facial, utilizando dados dos países em desenvolvimento. E podemos perceber determinadas concepções que envolvem as questões raciais, de classe e, inclusive, uma perspectiva colonial, presente não só no pensamento, mas em como isso se materializa na própria construção desses softwares”, resume o especialista.

“Mas, na verdade, a tecnologia atualiza todo um processo discriminatório que existe, com o racismo sendo um elemento de continuidade, pensado por exemplo no reconhecimento fotográfico [de um possível criminoso], em que muitos homens, principalmente jovens negros, são presos injustamente. E a gente vê esse elemento presente na tecnologia de reconhecimento facial, em que, novamente, a grande maioria dos injustamente presos são negros”, aponta.

“Esses softwares ainda mostram uma menor acurácia na detecção dos rostos negros e também um problema na identificação das pessoas transgênero. Nunca podemos esquecer que esses são softwares produzidos por humanos, apesar de existir o componente do machine learning, que é o próprio processo de aprendizado do software ao longo do tempo”, acrescenta o especialista.

“Quando ela pediu uma imagem dela própria, com uma favela ao fundo, esse software produziu uma imagem dela com uma arma na mão. Então eu acho que esse é um exemplo bem concreto de como os preconceitos também estão permeados de várias maneiras na utilização da inteligência artificial, e a gente tem sempre que se lembrar que nenhum desses recursos é neutro”, explica.

“Vemos, por um lado, uma tecnologia que se apresenta como moderna, quase o futuro nesse caso do serviço de policiamento, e muitas vezes um estigma que tem cor, que é a questão da vadiagem, do não trabalho, associado com a criminalidade”, enfatiza o professor da UFF.

“É interessante apontar que, no caso do Brasil, a questão da inteligência artificial está presente também no debate sobre a reforma do Código Civil, em que aparecem algumas coisas, por exemplo, que as pessoas ao interagirem com sistemas que possuem a utilização da inteligência artificial sejam sempre advertidas [o que ajuda também a criar o letramento digital]. Uma outra questão curiosa nessa discussão é sobre a utilização da imagem de pessoas vivas ou mortas, e nesse caso o texto por enquanto diz que só pode ocorrer com consentimento da pessoa ou dos familiares, também respeitando a questão da dignidade e da reputação do legado dessa pessoa”, explica.

“Interessante perceber que esse movimento da sociedade civil é global, e em algumas localidades surtiu efeito. Cidades dos Estados Unidos, como o caso de São Francisco, o uso de inteligência artificial, da tecnologia de reconhecimento facial, foi banido nas agências do governo. Então, é um movimento que é fundamental para mostrar os perigos que a utilização dessa tecnologia traz. E um questionamento que eu acho que é fundamental é que a tecnologia, por ser só, não resolve os problemas de segurança pública, seja no Brasil, seja na Índia, seja na Noruega ou na África do Sul”, exemplifica.