O mercado global de inteligência artificial (IA) continua em expansão acelerada, estima-se que possa alcançar US$ 617 bilhões em 2026. Ao mesmo tempo, pesquisadores e especialistas alertam que o avanço tecnológico ainda convive com desafios importantes relacionados a vieses raciais presentes nos sistemas de IA.
Um estudo acadêmico publicado em 2024 e apresentado na Conferência ACM sobre Fairness, Accountability and Transparency (FAccT) analisou 14 modelos multimodais de inteligência artificial — capazes de processar simultaneamente imagens e textos — e identificou que, em determinados cenários, o aumento da escala dos conjuntos de dados utilizados no treinamento elevou a probabilidade de imagens de homens negros e latinos serem associadas à categoria “criminoso”.
A pesquisa, intitulada The Dark Side of Dataset Scaling: Evaluating Racial Classification in Multimodal Models, foi desenvolvida por pesquisadores da Mozilla Foundation, Trinity College Dublin e Michigan State University. Os autores avaliaram modelos treinados com bases de dados LAION-400M e LAION-2B, amplamente utilizadas no desenvolvimento de sistemas de visão computacional e inteligência artificial generativa.
Segundo os resultados, em modelos maiores baseados na arquitetura Vision Transformer (ViT-L), a probabilidade de uma imagem de um homem negro ser classificada como “criminoso” aumentou 65%, enquanto para homens latinos o crescimento chegou a 69% quando a base de treinamento foi ampliada de 400 milhões para 2 bilhões de amostras.
Crescimento acelerado da IA
A discussão acontece em um momento de forte expansão da inteligência artificial. Ferramentas como ChatGPT, Claude e outros grandes modelos de linguagem passaram a ser adotadas em áreas como educação, marketing, comunicação, programação e recrutamento.
O diretório especializado “There’s An AI For That” reúne atualmente dezenas de milhares de aplicações de IA disponíveis para diferentes finalidades, refletindo a rápida disseminação dessas tecnologias em diversos setores.
Problema já havia sido identificado
Para a consultora de imagem identitária e CEO da Pittaco Consultoria, Cáren Cruz, a questão dos vieses raciais na tecnologia não surgiu com a inteligência artificial generativa.
Ela lembra que, ainda em 2018, o estudo Gender Shades, desenvolvido pelas pesquisadoras Joy Buolamwini e Timnit Gebru, demonstrou que sistemas comerciais de reconhecimento facial apresentavam taxas de erro significativamente maiores ao analisar mulheres negras em comparação com homens de pele clara.
Segundo a especialista, embora as ferramentas atuais tenham evoluído em qualidade visual, ainda existem relatos frequentes de alterações indevidas em características fenotípicas de pessoas negras durante a geração de imagens.
“Mesmo quando os comandos são específicos e partem de fotografias reais, a inteligência artificial pode alterar o tom da pele, a textura do cabelo e outros elementos fundamentais para o reconhecimento da pessoa“, afirma.
Diversidade nos dados é apontada como solução
Pesquisadores e especialistas defendem que o combate aos vieses passa pela ampliação da diversidade nos conjuntos de dados utilizados para treinamento dos modelos.
De acordo com Cáren Cruz, a inovação tecnológica precisa refletir a pluralidade racial, cultural e estética da sociedade.
“A tecnologia aprende a partir dos dados que recebe. Se esses dados apresentam representações limitadas ou estereotipadas de determinados grupos, os sistemas tendem a reproduzir essas mesmas limitações“, explica.
Os autores do estudo também destacam a necessidade de auditorias contínuas, maior transparência na composição das bases de dados e mecanismos de mitigação de vieses para reduzir impactos discriminatórios em aplicações futuras.