Por que a IA alucina? Um olhar sob a tampa dos modelos de linguagem

A inteligência artificial hoje em dia realiza tarefas que há pouco tempo pareciam pura ficção científica. Ela escreve textos, projeta código de programação e nos dá conselhos sobre várias tarefas complexas. No entanto, quanto mais fluentes e convincentes suas respostas soam, mais facilmente esquecemos um grande risco: a IA é capaz de criar uma resposta completamente inventada, que à primeira vista parece 100% verossímil. 

Esse fenômeno foi denominado "alucinação de IA". Não é um erro de software aleatório ou uma função deliberadamente esquecida que os desenvolvedores simplesmente deixaram de desligar. É uma consequência natural e profundamente enraizada de como os modelos de linguagem grandes (LLM) de hoje são projetados e treinados. Vamos dar uma olhada sob a tampa de como esses sistemas funcionam para entender por que eles "falam" com tanta confiança. 

O que são alucinações de IA?

Na inteligência artificial generativa, alucinação é a situação em que o modelo cria uma resposta que parece perfeita e confiável gramatical e estilisticamente, mas que não possui qualquer base no mundo real. 

Os modelos podem alucinar de maneiras realmente surpreendentes. Eles podem inventar parágrafos inexistentes de leis, cometer erros em cálculos matemáticos ou gerar estudos científicos que soem realistas, incluindo nomes de autores e endereços de sites que nunca existiram. É curioso que isso aconteça até mesmo com perguntas completamente triviais, como quando se quer verificar a data de nascimento de uma personalidade ou encontrar números históricos oficiais de população em um arquivo. 

O que acontece dentro de um modelo de linguagem

Para entender de onde vem esses erros, temos que esclarecer uma coisa: grandes chatbots como o ChatGPT ou o Gemini não funcionam como motores de busca na internet e não são enormes bancos de dados de fatos. Eles não têm conhecimentos reais sobre o nosso mundo e não têm ideia do que é verdade ou mentira. 

Um modelo de linguagem é essencialmente uma gigantesca rede neural, que é na verdade uma complicada série de "instintos treinados". Esses instintos foram adquiridos através da análise de trilhões de palavras de internet, livros e discussões. O objetivo deste treinamento extraordinariamente oneroso financeiramente e tecnologicamente não é ensinar a máquina a compreender o significado do texto, mas simplesmente ensiná-la a imitar a fala humana de maneira fluente. 

Como a IA trabalha com tokens

Quando você faz uma pergunta a um chatbot, a rede neural não trabalha diretamente com suas palavras. O texto é primeiro dividido em unidades chamadas tokens. Os tokens são palavras ou partes de palavras pré-preparadas que correspondem a números específicos. A rede matemática dentro do computador só consegue processar números. 

O modelo pega esses números (sua pergunta junto com todo o contexto anterior da conversa) e os processa através de suas camadas. O resultado não é que olhe em uma gaveta para encontrar a "resposta correta". A saída é uma previsão puramente matemática: o modelo calcula qual é o próximo token que tem a maior probabilidade de seguir o texto já escrito. 

Por que o modelo prediz em vez de verificar

Todo o princípio de funcionamento da inteligência artificial é baseado em estimativas de probabilidades, não em verificar a verdade. O modelo compõe o texto palavra por palavra (ou token por token). Cada nova palavra gerada é imediatamente incorporada à questão e, com base nesse contexto fresco, a probabilidade para a próxima palavra é calculada. 

Para que as saídas não sejam completamente monótonas e secas, um parâmetro oculto chamado "temperatura" é usado durante a geração. Quando a temperatura é zero, o modelo sempre escolhe o token mais previsível, o que leva a respostas enfadonhas e sempre iguais. Uma temperatura mais alta permite que o modelo escolha palavras menos prováveis. Isso desbloqueia a criatividade e a capacidade de escrever histórias interessantes, mas também aumenta drasticamente a chance de o modelo cair em puras invenções.

Como uma resposta é gerada passo a passo

Todo o processo desde a entrada da consulta até a alucinação final funciona na prática assim:

1. Análise da entrada: Sua pergunta é convertida em números (tokens).  
2. Cálculo de probabilidades: O modelo considera o contexto e, dentre centenas de candidatos possíveis, seleciona as palavras que estatisticamente melhor se encaixam.  
3. Composição de contexto: Se o modelo esbarra em um tópico onde faltam dados concretos, ele não tenta admitir que não sabe. Em vez disso, usa uma linguagem fluente e começa a compor um texto que parece absolutamente lógico, mas os detalhes são simplesmente inferidos estatisticamente.  
4. Ciclo de contexto: Uma vez que o modelo gera um detalhe incorreto (como um ano errado ou um nome inventado) no meio de uma frase, esse detalhe se torna uma parte fixa do contexto. Nos passos seguintes, o modelo constrói sobre sua própria mentira e adiciona outras justificativas que parecem verossímeis.

Algumas perguntas levam a mais alucinações

Durante o treinamento (chamado de pré-treinamento), o modelo só vê textos corretos e fluentes. No entanto, existem diferentes tipos de informações nos dados. Regras ortográficas ou o fechamento correto de parênteses se repetem constantemente nos textos, então a IA aprende isso sem erros. 

O problema ocorre com fatos específicos, que aparecem raramente nos dados e não seguem um padrão repetível. Um exemplo típico são números exatos, anos, datas de nascimento ou eventos históricos pouco conhecidos. Como esses fatos aparecem praticamente de forma aleatória nos dados, o modelo não pode derivá-los de maneira confiável. Se perguntar à inteligência artificial por um dado numérico específico ou detalhes que alguém deve lembrar com exatidão de um arquivo, o risco de alucinação aumenta exponencialmente. 

Como os modelos de IA tentam limitar as alucinações?

Atualmente, os desenvolvedores utilizam várias estratégias principais para domar a imaginação selvagem dos modelos:

• Ferramentas externas e pesquisa. Assim como os modelos receberam calculadoras para cálculos matemáticos, hoje têm a capacidade de buscar na web antes de responder. Eles leem páginas relevantes e as citam. Isso reduz significativamente a chance de uma resposta ser inventada, embora mesmo com citações, alucinações ainda possam ocorrer.  
• Modelos com raciocínio. Sistemas avançados (por exemplo, a série o3 ou o5 da OpenAI) realizam um monólogo interno antes de gerar a resposta. Eles primeiro elaboram o procedimento, verificam as fontes e só então liberam o texto para o usuário. As alucinações são aqui significativamente menores, mas quando ocorrem, são mais sofisticadas e difíceis de detectar.  
• Arquitetura RAG (Geração Aumentada por Recuperação). Usada principalmente em empresas. O modelo é desconectado de adivinhações livres e forçado a trabalhar exclusivamente com o banco de dados fornecido de documentos internos. A probabilidade de erro é assim reduzida ao mínimo.

O principal problema, no entanto, reside em como os modelos são avaliados em testes. A maioria dos rankings mede o sucesso puro (precisão) em uma escala de 1 (certo) ou 0 (errado). Uma admissão cautelosa de "não sei" sempre resulta em zero, enquanto um palpite arriscado pode ocasionalmente dar pontos ao modelo. O sistema, portanto, literalmente motiva a inteligência artificial a arriscar em vez de admitir incerteza. Portanto, a OpenAI, em suas pesquisas, defende uma alteração na metodologia de avaliação que penalizaria os modelos por inventar informações e, em vez disso, os recompensaria por admitir abertamente a incerteza. 

Como obter respostas mais confiáveis da IA

Até que os sistemas de avaliação mudem, devemos abordar criticamente as saídas dos chatbots. Aqui estão algumas dicas para mitigar os riscos: 

• Forneça dados diretamente na entrada. Se quiser que a IA analise um texto ou lei, insira-o diretamente na questão e proíba explicitamente a adição de qualquer coisa que não esteja no texto. Isso reduz a chance de invenções ao mínimo.  
• Mude o tom da pergunta. Não pressione o modelo com perguntas sobre assuntos que não podem ser logicamente deduzidos (números estatísticos exatos, detalhes de biografias).  
• Verifique tudo o que for importante. Especialmente em áreas sensíveis, como direito, medicina ou finanças, trate as saídas da IA apenas como uma proposta inicial que você deve verificar em fontes independentes e verificáveis.

Perguntas frequentes

Por que às vezes a IA promete me enviar um email ou concluir uma tarefa mais tarde, mesmo que não possa fazer isso?

O modelo não tem noção de suas reais capacidades técnicas nem do tempo atual. Ele apenas completa o texto com base na probabilidade estatística. Quando você escreve uma tarefa, ele avalia como a continuação mais natural da frase uma confirmação educada de que já está trabalhando nela, mesmo que não haja nenhum processo em execução no fundo.  

A IA pode inventar completamente um livro ou artigo científico que pareça real?

Sim, isso acontece com muita frequência. A IA aprendeu com textos a estrutura das citações acadêmicas, tornando-se capaz de gerar títulos que soam reais e acadêmicos. Porém, as informações em tais citações podem ser completamente inventadas e a única maneira de verificar isso é tentar encontrar a obra independentemente.  

É útil perguntar a mesma coisa de novo em um novo chat para evitar alucinações?

Sim, abrir um novo chat é uma ajuda muito eficaz. Isso apaga todo o contexto anterior da conversa. Se a IA cometeu um erro nas frases anteriores, na conversa original ela continuaria baseada nesse erro devido à sua natureza, enquanto em uma janela limpa, ela começa com o cálculo de probabilidades do zero.  

Ao ativar a pesquisa na internet, posso ter certeza de que a resposta não terá erros?

Infelizmente, você não pode ter certeza. O motor de busca fornece dados corretos para o modelo, mas a IA ainda monta o texto estimando a próxima palavra. Testes mostram que chatbots com acesso à web podem ainda entender mal, confundir contextos e criar um erro que ainda pode ser salpicado com referências reais.  

Vale a pena usar a inteligência artificial sabendo que tem essas falhas?

Certamente, sim, só é necessário ajustar as expectativas. Para brainstorming, redigir emails, criar conceitos criativos ou explorar conexões inusitadas, essa liberdade dos modelos é uma tremenda vantagem. No entanto, você deve atuar como editor, deixar a IA escrever e sempre verificar os detalhes factuais por conta própria.