Centenas de cientistas, figuras públicas e pessoas ligadas ao mercado de tecnologia assinaram uma carta aberta pedindo uma desaceleração na corrida para desenvolver a superinteligência artificial. Essa ferramenta permitira superar a capacidade humana em todos os aspectos.
O grupo conta com nomes de peso, como Geoffrey Hinton e Yoshua Bengio, considerados como os “padrinhos” da IA, assim como o cofundador da Apple, Steve Wozniak. Além disso, aparecem entre os signatários o duque e a duquesa de Sussex, Harry e Meghan.
O que é superinteligência artificial?
- Este é um conceito que descreve uma forma de inteligência criada por máquinas que supera, em todos os aspectos relevantes, a inteligência humana.
- Isso inclui raciocínio lógico, resolução de problemas, tomada de decisão, criatividade e até habilidades sociais.
- Diferente da inteligência artificial atual, que é restrita a tarefas específicas, a superinteligência teria uma capacidade geral de aprendizado e adaptação muito mais rápida, ampla e profunda do que qualquer ser humano.
- Apesar de estar presente em assistentes virtuais, carros autônomos e algoritmos de recomendação, a IA é limitada a contextos bem definidos.
- Por mais avançada que pareça, ela depende de conjuntos de dados e de tarefas pré-programadas.
- Já a superinteligência artificial seria autônoma, capaz de aprender sozinha, reinterpretar informações e tomar decisões inéditas com base em objetivos próprios, inclusive formulando estratégias complexas em tempo real.
- Em teoria, uma superinteligência artificial poderia reescrever suas próprias funções, melhorar seus próprios algoritmos e evoluir sem limites definidos por seus criadores.
Leia mais
- Superinteligência é exagero e bolha da IA está a caminho, diz ex-Meta
- IA superinteligente pode até chegar até 2030, mas…
- O que é superinteligência artificial? Veja como ela pode mudar o futuro da humanidade
Podemos simplesmente perder o controle da tecnologia
Em artigo publicado no portal The Conversation, Maria-Anne Williams, da Universidade de Nova Gales do Sul, na Austrália, que também assinou a carta, aborda os temores relacionados à superinteligência artificial. O documento foi divulgado pela organização sem fins lucrativos de segurança de IA Future of Life Institute.
Pedimos uma proibição do desenvolvimento da superinteligência, não levantada antes que haja um amplo consenso científico de que isso será feito de forma segura e controlada, e uma forte adesão do público. O perigo não é tanto uma máquina que quer nos destruir, mas uma que persegue seus objetivos com competência sobre-humana e indiferença às nossas necessidades. Imagine um agente superinteligente encarregado de acabar com as mudanças climáticas. Pode logicamente decidir eliminar a espécie que está produzindo gases de efeito estufa.
Maria-Anne Williams, da Universidade de Nova Gales do Sul
A especialista destaca que, durante anos, os esforços para gerenciar a IA se concentraram em riscos como viés algorítmico, privacidade de dados e o impacto da automação nos empregos. Apesar de importantes, isso não é suficiente para lidar com os riscos da criação de agentes autônomos superinteligentes.
A nova declaração sobre superinteligência visa iniciar uma conversa global não apenas sobre ferramentas específicas de IA, mas sobre o próprio destino para o qual os desenvolvedores de IA estão nos direcionando. O objetivo da IA deve ser a criação de ferramentas poderosas para servir à humanidade. Isso não significa agentes superinteligentes autônomos que podem operar além do controle humano sem se alinhar com o bem-estar humano.
Maria-Anne Williams, da Universidade de Nova Gales do Sul
O post Carta aberta de famosos e cientistas pede proibição da superinteligência artificial apareceu primeiro em Olhar Digital.
Fonte: https://olhardigital.com.br/2025/10/22/pro/carta-aberta-de-famosos-e-cientistas-pede-proibicao-da-superinteligencia-artificial/
