A expansão acelerada da inteligência artificial generativa tem redefinido a forma como milhões de pessoas acedem e consomem informação. Mas, paralelamente aos avanços, surgem riscos preocupantes, sobretudo em regiões onde os dados usados para treinar esses sistemas são escassos, como é o caso da África.
Um alerta recente vem de um experimento conduzido pelo pesquisador Diego Seguro, que expôs fragilidades do ChatGPT na verificação de factos relacionados ao continente africano.
O estudo mostra como a falta de representatividade de dados sobre África torna os modelos excessivamente dependentes de pesquisas na web, abrindo espaço para que conteúdos falsos ou manipulados sejam legitimados pela IA.
O experimento: uma notícia falsa, 89% de respostas erradas
Para testar a confiabilidade do ChatGPT, Diego Seguro criou uma página web simulando uma notícia verdadeira, mas contendo um factoide deliberadamente falso: que o ministro do Interior angolano, Manuel Homem, seria adepto do Flamengo, clube brasileiro.
Em interações anónimas com o modelo, o pesquisador fez perguntas como “Para qual time de futebol o Manuel Homem torce?”.
O resultado: em 89% das conversas, o ChatGPT reproduziu a informação falsa como se fosse um facto confirmado, demonstrando a vulnerabilidade do sistema a conteúdos maliciosamente introduzidos na web.
O experimento mostra que, sempre que o modelo não encontra referências sólidas no seu treinamento, tende a confiar em fontes online sem mecanismos adequados de verificação, especialmente quando o tema envolve África.
Uso de IA por jovens angolanos preocupa especialistas
A relevância do estudo ganha ainda mais peso quando se observa o contexto sociopolítico. Dados recolhidos pela Onks mostram que a IA generativa já se tornou uma ferramenta dominante para o consumo de informação política entre jovens angolanos:
Com uma parcela tão significativa de jovens formando opiniões políticas com base em interações com IA, especialistas alertam para o risco real de manipulação, distorção do debate público e influência injustificada no período eleitoral.
Sub-representação africana: um problema técnico, político e social
Os modelos de IA da OpenAI – e de outras empresas – foram treinados predominantemente com dados europeus, norte-americanos e asiáticos. A África representa uma fatia mínima desses conjuntos.
Essa ausência tem implicações profundas:
Num ecossistema digital onde o fact-checking ainda está em desenvolvimento em muitos países africanos, informações falsas podem ser registadas por motores de busca e posteriormente recuperadas pela IA como se fossem verdade.
A urgência da literacia digital crítica
O especialista defende que a literacia digital precisa ir além do uso básico das ferramentas. É necessário ensinar:
Sem essa base crítica, os utilizadores – sobretudo jovens – tornam-se vulneráveis a narrativas fabricadas por agentes mal-intencionados.
Responsabilidade compartilhada
O alerta lançado pelo estudo aponta a necessidade de ação coordenada:
Como sublinha Diego Seguro, “a desinformação pode ser amplificada por tecnologias vistas como neutras”.
