O jornalismo apoiado em IA tende a excluir grupos subrepresentados. E Isso não é certo!

Os especialistas, particularmente os comprometidos com a promoção da diversidade e a redução das desigualdades, têm chamado a atenção, de forma recorrente, para alguns efeitos nefastos das aplicações de inteligência artificial generativa. Essa condição não apenas se situa na utilização de sistemas de busca para obter informações sobre temas ou assuntos quaisquer, mas se agrava quando é utilizada para a produção de conteúdos jornalísticos que tendem a influenciar milhões de pessoas, no Brasil, e em qualquer lugar.

Um excelente artigo, assinado por Luba Kassovaf, coloca, de forma contundente o dedo nesta ferida provocada pela lógica algorítmica que orienta, de maneira geral, a circulação de informações contemporâneas. Diz ela, autora de conhecidos relatórios que contemplam as “perspectivas ausentes das mulheres no noticiário”:

“A existência de vieses embutidos na IA generativa – que inclui ChatGPT, Bard (do Google) e geradores de imagem como Midjourney – silencia e distorce, isso quando não apaga completamente, as vozes de alguns grupos sub-representados. Isso acontece porque a IA generativa amplifica vieses sociais por meio dos conjuntos de dados usados em algoritmos para gerar texto, imagem e vídeo, utilizando um pequeno grupo não representativo como o padrão para toda a população global.”).

Trocando em miúdos: a IA generativa, quando utilizada no jornalismo, legitima e amplia os vieses já conhecidos, como as que predominam em tecnologias, como, por exemplo, de reconhecimento oficial, que se baseia em dados de rostos brancos e masculinos e que também permite que as narrativas no jornalismo tenham como fontes pessoas do sexo masculino.

O artigo se refere ao chamado “olhar codificado”, que tem a ver, segundo sua autora, com as “prioridades, preferências e até mesmo os preconceitos de quem escreve os códigos refletidos nos produtos que eles moldaram” e que contribui para excluir desse código os grupos sub-representados.

Luba Kassovaf menciona uma análise de conteúdo do ChatGPT, realizada no ano passado, que comprovou que gênero e raça influenciam a representação de CEOS, ou seja, esta ferramenta de IA associou homens brancos bem-sucedidos com base em suas habilidades, mas não fez o mesmo com as mulheres bem-sucedidas, que foram identificadas a partir de sua capacidade de combater adversidade.

O alerta se estende aos jornalistas porque, segundo o artigo, mulheres e outros grupos sub-representados podem, com o uso da IA, ser relegados a um segundo plano e cita alguns dados relevantes: “Atualmente, somente um pequeno número de editores de tecnologia nos Estados Unidos (18%) e no Reino Unido (23%) são mulheres. Além disso, no noticiário de tecnologia, as mulheres são apresentadas como especialistas, colaboradoras ou protagonistas com quatro vezes menos frequência que os homens. “

A questão tem sido também explorada por especialistas brasileiros, inclusive comunicadores de prestígio, como Tarcízio Silva, mestre em Comunicação e Cultura Contemporâneas pela UFBA que investiga a regulação de inteligência artificial e racismo algorítmico.

O pesquisador, em reportagem publicada pela Folha de S. Paulo, denuncia a ausência de neutralidade das tecnologias em lembra que, por exemplo, “o racismo algorítmico é em boa parte responsabilidade de quem produz tecnologia, uma vez que muitos desses códigos são criados por meio do aprendizado de máquina e se baseiam em experiências pessoais dos programadores que utilizam, em sua maioria, pessoas brancas em seus bancos de dados e na realização de testes”.

É preciso, portanto, estar atento a estes vieses, denunciá-los e trabalhar pela consolidação de um cenário que não exclua grupos minoritários pela ação voluntária ou pelo desconhecimento dos riscos de extrair conclusões a partir de bancos de dados e imagens reconhecidamente parciais.

O jornalismo não deve demonizar a IA, mas ter conhecimento e espírito crítico para lidar com ela.

Wilson da Costa Bueno, Diretor da Comtexto Comunicação e Pesquisa, consultoria na área de Comunicação Corporativa/ Jornalismo Especializado.