Boletim IANotícias de inteligência artificial em português, todos os dias

Investigação académica

Estudo usa interpretabilidade mecanística para explicar alucinações de agentes de IA em páginas web

Um estudo submetido a 13 de novembro ao arXiv testa se a interpretabilidade mecanística consegue explicar por que agentes baseados em modelos de linguagem "alucinam" elementos inexistentes em páginas web.

Usando o modelo Qwen2.5-7B-Instruct a interagir com sites reais, os autores mostram que um "probe" linear aplicado ao último token do prompt consegue prever se o agente vai alucinar uma ação antes de gerar texto, com uma área sob a curva de 0,80. Ao direcionar a geração ao longo dessa direção interna, corrigem 85% das alucinações detetadas — mas perturbam 7% das ações que seriam válidas.

Os autores sublinham que isto dá apenas uma "explicação parcial": a direção do probe é sensível à formatação do prompt e perde grande parte do seu efeito corretor com uma pequena alteração na forma como as ações disponíveis são representadas ao modelo.

Fontes

Resumo editorial em português feito com apoio de inteligência artificial a partir das fontes indicadas. Como fazemos o Boletim IA.

Recebe o Boletim IA no email

As notícias de inteligência artificial do dia, em português, todas as manhãs. Grátis, e cancelas quando quiseres.

Ao subscreveres aceitas receber o boletim por email. Primeiro enviamos um email para confirmares. Os teus dados são tratados conforme a política de privacidade.

↑