Quão confortável você se sentiria se algoritmos de IA definissem o seu acompanhamento médico ou uma nova contratação? Essa foi a pergunta analisada em um estudo da Universidade do Sul da Austrália (UniSA) para avaliar a percepção de confiança sobre a tecnologia.
E a conclusão você talvez já possa imaginar: a maioria das pessoas tem mais probabilidade de confiar na IA em situações em que os riscos são baixos, como sugestões musicais, mas menos probabilidade de confiar na IA em situações de alto risco, como decisões médicas.
“O uso de algoritmos para ajudar a tomar decisões implica que deve haver alguma confiança em sua confiabilidade. É por isso que é tão importante entender o que influencia a confiança das pessoas na tomada de decisão algorítmica”, diz o principal autor e especialista em cognição humana e artificial, Dr. Fernando Marmolejo-Ramos.
Ao mesmo tempo, pessoas com baixa alfabetização ou pouca familiaridade com IA eram tão propensas a confiar em algoritmos para escolhas triviais quanto para decisões críticas. O estudo avaliou as respostas de 1.921 participantes em 20 países.
“Muitos veem os algoritmos como uma ‘tecnologia enigmática’ porque são difíceis de entender ou, em alguns casos, porque as pessoas acreditam que os algoritmos não são capazes de aprender com seus erros, mas ao mesmo tempo também acreditam que eles poderiam ser substituídos por computadores”, diz trecho do artigo.
Leia Mais:
- GoDaddy Airo: ferramenta com IA cria sites em segundos para pequenos negócios
- Perplexity lança ferramenta de pesquisa aprofundada com IA
- Grok 3: Elon Musk apresenta “a IA mais inteligente do mundo”; conheça diferenciais
Descobertas da pesquisa
As perguntas para situação de baixo risco incluíam: recomendações de restaurantes, selecionar histórias para notícias online, organizar e classificar e-mails, sugerir novos restaurantes, roupas novas e novas músicas.
Já para alto risco: algoritmos para dar suporte a decisões judiciais com base em perfis psicológicos, selecionar currículos, fazer recomendações de contratação para um emprego, selecionar o melhor candidato para uma posição em uma universidade, controlar os freios de veículos autônomos e decidir a prioridade de atendimento em um contexto médico.
- Pessoas que entendem que algoritmos de IA funcionam por meio de previsões baseadas em padrões (mas também têm riscos e vieses) eram mais céticas em relação à IA em situações de alto risco, mas menos em situações de baixo risco;
- Pessoas mais velhas e homens geralmente eram mais cautelosos com algoritmos, assim como pessoas em países altamente industrializados como Japão, EUA e Reino Unido;
- Pesquisa sugere que formuladores de políticas devem considerar promover a alfabetização estatística/IA para abordar algumas das complexidades associadas à confiança em algoritmos.
“Um algoritmo gerado por IA é tão bom quanto os dados e a codificação nos quais ele se baseia”, diz a Dra. Florence Gabriel, da UniSA. “Precisamos olhar para a recente proibição do DeepSeek para entender como os algoritmos podem produzir dados tendenciosos ou arriscados dependendo do conteúdo em que foram criados.”
Os países contemplados pela pesquisa foram Armênia, Austrália, Bulgária, Brasil, Camarões, Colômbia, República Tcheca, Espanha, Indonésia, Índia, Itália, Japão, Nigéria, Filipinas, Tailândia, Turquia, Taiwan, Reino Unido, EUA e Vietnã.
O post Quando as pessoas confiam (ou não) na IA para tomar decisões apareceu primeiro em Olhar Digital.
Fonte: https://olhardigital.com.br/2025/02/18/pro/quando-as-pessoas-confiam-ou-nao-na-ia-para-decisoes-importantes/
