Mas… a equipe está sob a liderança de Sam Altman, CEO da OpenAI. Com isso, a startup vai ter um novo time de segurança, que também contará com o comando de dois membros do conselho da empresa, Adam D’Angelo e Nicole Seligman. A polêmica ao redor dessa escolha você entende a seguir.
Leia mais:
- ChatGPT vs. Gemini: qual assinatura de IA vale mais a pena?
- Como usar a IA do Google direto no navegador Chrome
- 5 Prompts do ChatGPT para criar currículos
O comitê fará recomendações sobre “decisões críticas de segurança e proteção para projetos e operações OpenAI” – uma preocupação compartilhada por vários pesquisadores importantes de IA que deixaram a empresa este mês.
Para a sua primeira tarefa, a nova equipa irá “avaliar e desenvolver ainda mais os processos e salvaguardas da OpenAI”.
Em seguida, apresentará suas descobertas ao conselho da OpenAI, no qual todos os três líderes da equipe de segurança têm assento. O conselho decidirá então como implementar as recomendações da equipe de segurança.
Sam Altman vem recebendo críticas por falta de segurança na OpenAI
- A formação desta equipe ocorre pouco tempo após a saída de Ilya Sutskever, cofundador e cientista-chefe da OpenAI.
- Sutskever foi um dos executivos que apoiou a tentativa de golpe do conselho para destronar Altman no ano passado.
- Ele foi um dos líderes de uma equipe dentro da startup que foi criada para “dirigir e controlar sistemas de IA muito mais inteligentes do que nós”.
A equipe responsável por controlar os sistemas e garantir mais segurança acabou dissolvida, com outro membro que a comandava, Jan Leike, deixando a OpenAI e alegando que a segurança na empresa ficou em “segundo plano em relação aos produtos brilhantes”.
Desde então, Sam Altman recebeu fortes críticas de ex-funcionários, que alegam que sua gestão é inadequada. Na semana passada, a pesquisadora de políticas da OpenAI, Gretchen Krueger, anunciou sua renúncia, citando preocupações de segurança semelhantes as que Leike havia expressado.
Outros membros da nova equipe de segurança da OpenAI incluem o chefe de preparação Aleksander Madry, o chefe de segurança Lilian Weng, o chefe de ciência de alinhamento John Schulman, o chefe de segurança Matt Knight e o cientista-chefe Jakub Pachocki.
O post Após demissões, OpenAI está formando uma nova equipe de segurança. Mas… apareceu primeiro em Olhar Digital.
Fonte: https://olhardigital.com.br/2024/05/28/seguranca/apos-demissoes-openai-esta-formando-uma-nova-equipe-de-seguranca-mas/
