Estudo revela que especialistas seguiram recomendações da IA em 86% das decisões, mesmo quando eram aleatórias

Um estudo divulgado pelo jornal português PÚBLICO alerta para um fenômeno preocupante na utilização profissional da inteligência artificial: a tendência de especialistas aceitarem recomendações produzidas por sistemas automatizados, mesmo quando essas recomendações não possuem uma fundamentação técnica confiável.

Segundo a reportagem, assinada por Sérgio Magno, em 86% das decisões técnicas analisadas, os profissionais seguiram a opção defendida pelo assistente de inteligência artificial, mesmo quando ela havia sido escolhida aleatoriamente.

O resultado chama atenção porque envolve profissionais com conhecimento especializado, e não apenas usuários sem experiência no assunto. A constatação apresentada pela notícia sugere que a presença de uma recomendação atribuída à IA pode influenciar o julgamento humano, mesmo em situações nas quais se espera que o profissional utilize seus próprios conhecimentos para avaliar as alternativas.

Esse comportamento está relacionado ao conceito de viés de automação, conhecido na literatura científica como automation bias. O fenômeno ocorre quando pessoas atribuem confiança excessiva às recomendações de sistemas automatizados, deixando de identificar erros ou de questionar conclusões que poderiam ser verificadas independentemente.

​‌‍⁠​‌‍⁠Venha fazer parte do The Hakon, o maior blog NOSTR de língua portuguesa