Alucinações da Inteligência Artificial: o Perigo Invisível nos Trabalhos Académicos

A Inteligência Artificial passou a fazer parte da rotina de muitos estudantes universitários. Ferramentas como o ChatGPT podem ajudar a esclarecer conceitos, organizar ideias, melhorar a escrita ou explicar temas complexos de forma simples. No entanto, existe um problema que nem sempre é evidente para quem utiliza estas ferramentas pela primeira vez. A Inteligência Artificial pode apresentar informações falsas como se fossem verdadeiras.
Este fenómeno é conhecido como alucinação da Inteligência Artificial e pode tornar-se particularmente perigoso quando é utilizado na elaboração de trabalhos académicos, dissertações, teses, monografias ou artigos científicos.
O principal problema é que uma resposta errada nem sempre parece errada. Pelo contrário, pode estar escrita de forma clara, organizada e convincente. Para um estudante que não conhece profundamente o tema, pode ser difícil perceber que determinada informação foi inventada.

O que são alucinações da Inteligência Artificial?

Uma alucinação acontece quando uma ferramenta de Inteligência Artificial gera uma informação que parece credível, mas não corresponde à realidade.
Pode acontecer, por exemplo, quando a ferramenta apresenta uma definição incorreta, atribui uma teoria ao autor errado, inventa um dado estatístico ou descreve um estudo científico que nunca foi realizado.
Em muitos casos, a resposta apresenta uma estrutura tão convincente que o utilizador assume que a informação está correta.
Este problema é especialmente relevante na universidade porque um trabalho académico deve basear-se em informação verificável, fontes reais e argumentos sustentados por evidência científica.

Uma afirmação falsa pode comprometer toda uma linha de raciocínio, principalmente quando é utilizada como ponto de partida para outras conclusões.

Quando uma referência parece científica, mas não existe

Um dos exemplos mais conhecidos de alucinação está relacionado com referências bibliográficas.
Imagine que pede a uma ferramenta de Inteligência Artificial artigos científicos sobre determinado tema. A resposta pode apresentar autores, títulos, revistas, anos de publicação e até identificadores digitais aparentemente válidos.
Tudo parece normal.
No entanto, quando procura o artigo numa base de dados científica, descobre que ele simplesmente não existe.
A referência pode ter sido totalmente inventada ou resultar da combinação de elementos pertencentes a artigos diferentes.

Nunca deve incluir uma referência num trabalho académico sem confirmar que essa publicação existe realmente.

A pesquisa deve ser feita através de fontes fiáveis, como bases de dados científicas, bibliotecas universitárias, repositórios institucionais ou plataformas académicas reconhecidas.

Porque é que a Inteligência Artificial inventa informação?

As ferramentas de Inteligência Artificial generativa não funcionam como uma enciclopédia tradicional.

Elas produzem respostas com base em padrões encontrados em grandes quantidades de texto. Isso significa que procuram gerar uma sequência de palavras que faça sentido dentro da pergunta colocada.

O objetivo do sistema é apresentar uma resposta coerente. Coerência não significa necessariamente verdade.

Quando a ferramenta não possui informação suficiente, pode produzir uma resposta que parece adequada ao contexto, mesmo quando os dados apresentados não são corretos.

É precisamente esta capacidade de escrever com segurança sobre informação falsa que torna as alucinações difíceis de identificar.

O perigo de confiar numa resposta apenas porque está bem escrita

Um erro frequente entre estudantes consiste em associar uma resposta bem estruturada a uma resposta cientificamente correta.

Uma explicação pode parecer extremamente profissional e continuar errada.

Num trabalho universitário, cada informação relevante deve poder ser confirmada através de literatura científica ou de outras fontes adequadas ao tipo de investigação.

Se estiver a escrever sobre uma teoria, deve consultar as obras ou publicações onde essa teoria é apresentada. Se estiver a utilizar estatísticas, deve identificar a origem dos dados. Se mencionar resultados de estudos anteriores, deve confirmar esses resultados nos artigos originais.

A Inteligência Artificial pode ajudar a compreender informação, mas não deve substituir a verificação das fontes.

Como detetar uma possível alucinação:

Existem alguns sinais que devem despertar atenção.

Uma resposta merece ser confirmada quando apresenta dados muito específicos sem indicar claramente a origem, quando menciona estudos difíceis de localizar ou quando oferece uma explicação muito categórica sobre um tema que possui diferentes interpretações científicas.

Também deve desconfiar de referências que parecem perfeitas demais para responder exatamente à sua pergunta.

Sempre que uma informação for importante para o argumento do seu trabalho académico, procure confirmá-la noutra fonte.

Pode pesquisar o título do artigo, o nome dos autores ou o DOI. Também pode verificar se a revista existe e se o artigo aparece numa base de dados científica.

Se não consegue encontrar a fonte original, não a utilize como referência académica.

A Inteligência Artificial não substitui a revisão bibliográfica

Uma revisão bibliográfica exige pesquisa, seleção, leitura e comparação de estudos.

Pedir à Inteligência Artificial para resumir tudo o que existe sobre determinado tema pode parecer uma forma rápida de avançar, mas existe o risco de receber informação incompleta, desatualizada ou incorreta.

Uma boa revisão da literatura deve permitir compreender o que já foi estudado, quais são as principais teorias, onde existem divergências e que lacunas continuam por investigar.

A Inteligência Artificial pode ajudar a organizar conceitos ou a explicar determinados termos, mas a base científica do trabalho deve continuar a ser construída através da literatura académica real.

Como utilizar a Inteligência Artificial com maior segurança: 

A melhor estratégia não passa por abandonar completamente estas ferramentas, mas por utilizá-las de forma crítica.

Pode usar Inteligência Artificial para gerar perguntas de pesquisa, melhorar a clareza de um parágrafo, compreender uma técnica estatística ou organizar uma estrutura inicial.

Depois, deve verificar a informação relevante.

Se a ferramenta mencionar um conceito científico, procure a definição em fontes académicas. Se apresentar uma referência, confirme que existe. Se fornecer números ou estatísticas, procure a fonte original.

Quanto maior for a importância da informação para o seu trabalho, maior deve ser o cuidado na sua verificação.

Também é fundamental conhecer as regras da sua universidade relativamente ao uso de Inteligência Artificial. Algumas instituições permitem determinadas utilizações, enquanto outras exigem que o estudante declare de que forma estas ferramentas foram utilizadas.

O pensamento crítico continua a ser indispensável

A maior proteção contra as alucinações da Inteligência Artificial não é uma nova aplicação nem uma ferramenta automática de verificação. É o pensamento crítico.

Um estudante deve aprender a perguntar de onde vem uma determinada informação, quem a produziu, quando foi publicada e que evidência sustenta aquela conclusão.

Esta atitude sempre foi importante na investigação científica. Com a popularização da Inteligência Artificial, tornou-se ainda mais necessária.

Um trabalho académico de qualidade não é aquele que reúne mais informação, mas aquele que utiliza informação credível, relevante e devidamente fundamentada.

A Inteligência Artificial pode ser uma ferramenta útil durante esse processo. No entanto, deve funcionar como apoio e nunca como autoridade científica absoluta.

Utilizar estas tecnologias de forma responsável significa compreender as suas vantagens, mas também reconhecer os seus limites. Quando existe verificação, pensamento crítico e recurso a fontes científicas reais, a Inteligência Artificial pode facilitar determinadas tarefas. Quando existe confiança cega, uma simples alucinação pode transformar-se num erro grave escondido no meio de um trabalho aparentemente bem construído.