Estudo da Penn State mostra que chatbots com tom mais "conversador" aumentam a confiança dos utilizadores mesmo quando erram
Um estudo publicado no Journal of Computer-Mediated Communication, liderado por S. Shyam Sundar (Penn State) e Maggie Liao (agora na Universidade da Geórgia), conclui que um tom mais conversacional em assistentes de IA aumenta a confiança do utilizador na informação — mesmo quando essa informação é falsa.
A experiência, feita online com 477 participantes, colocou-os a interagir com um assistente de saúde por IA que fornecia deliberadamente informação incorreta, testando diferentes níveis de tom conversacional e quatro formas de sinalizar a necessidade de verificação: um ícone de aviso, um botão de verificação obrigatório, um botão opcional, ou nenhuma indicação. Os resultados mostram que um tom mais conversacional aumenta a confiança na informação partilhada, mesmo quando essa informação é errada, e que só a interação ativa com um botão de verificação — e não um simples ícone de aviso — reduz de facto essa confiança indevida.
Quase metade dos participantes optou por verificar voluntariamente a informação quando essa opção estava disponível. Sundar resumiu o contexto mais amplo do estudo: "É a primeira vez na história da tecnologia em que uma máquina consegue realmente manter uma conversa que não foi prevista por um programador."
Fontes
- Penn State News www.psu.edu
- EurekAlert www.eurekalert.org
Resumo editorial em português feito com apoio de inteligência artificial a partir das fontes indicadas. Como fazemos o Boletim IA.