Estudo usa interpretabilidade mecanística para explicar alucinações de agentes de IA em páginas web
Um estudo submetido a 13 de novembro ao arXiv testa se a interpretabilidade mecanística consegue explicar por que agentes baseados em modelos de linguagem "alucinam" elementos inexistentes em páginas web.
Usando o modelo Qwen2.5-7B-Instruct a interagir com sites reais, os autores mostram que um "probe" linear aplicado ao último token do prompt consegue prever se o agente vai alucinar uma ação antes de gerar texto, com uma área sob a curva de 0,80. Ao direcionar a geração ao longo dessa direção interna, corrigem 85% das alucinações detetadas — mas perturbam 7% das ações que seriam válidas.
Os autores sublinham que isto dá apenas uma "explicação parcial": a direção do probe é sensível à formatação do prompt e perde grande parte do seu efeito corretor com uma pequena alteração na forma como as ações disponíveis são representadas ao modelo.
Fontes
- arXiv arxiv.org
Resumo editorial em português feito com apoio de inteligência artificial a partir das fontes indicadas. Como fazemos o Boletim IA.