No mês passado, um bot de IA usado no suporte técnico da Cursor, ferramenta voltada para programadores, causou confusão ao informar erroneamente que os usuários não poderiam mais usar o software em mais de um computador.
O alerta falso, que gerou reclamações e cancelamentos, foi atribuído a um erro do próprio sistema de IA, como esclareceu o CEO da empresa.
Esse caso ilustra um problema recorrente: sistemas de IA, mesmo os mais avançados, ainda cometem erros — chamados de “alucinações” — ao gerar informações incorretas com aparente confiança.
Leia mais:
- Inteligência artificial: conheça os pontos negativos e perigos da IA
- Gemini vs ChatGPT: qual inteligência artificial é melhor?
- Pesquisar sintomas online pode desinformar mais do que informar
Apesar dos avanços desde o lançamento do ChatGPT, as taxas de erro seguem preocupantes, especialmente com os chamados “modelos de raciocínio”, desenvolvidos por empresas como OpenAI, Google e DeepSeek, como explica o New York Times em um artigo.
Sistemas poderosos alucinam mais
- Paradoxalmente, quanto mais sofisticados os sistemas, maior tem sido a incidência de alucinações.
- Em testes recentes, os modelos mais poderosos da OpenAI — como o o3 e o o4-mini — apresentaram taxas de erro de até 79%, superando os modelos anteriores.
- Segundo pesquisadores, isso ocorre porque esses sistemas geram respostas com base em probabilidades e não têm uma compreensão real de verdade ou falsidade.
Segurança da IA em jogo
Apesar de tentativas de melhorar a precisão com técnicas como aprendizado por reforço, os erros persistem, inclusive em tarefas simples como resumir notícias. Isso compromete o uso seguro da IA em áreas sensíveis como medicina, direito e negócios.
Especialistas apontam que o problema está longe de ser resolvido. Embora novas ferramentas estejam sendo desenvolvidas para rastrear as origens dos erros, a forma como esses modelos operam ainda é em grande parte opaca, o que desafia a confiabilidade da tecnologia.
O post IAs: o poder da tecnologia cresceu, mas as alucinações também apareceu primeiro em Olhar Digital.
Fonte: https://olhardigital.com.br/2025/05/07/pro/ias-o-poder-da-tecnologia-cresceu-mas-as-alucinacoes-tambem/
