O Comitê Europeu de Proteção de Dados (EDPB, na sigla em inglês) divulgou um relatório preliminar que coloca em cheque a conformidade do ChatGPT com os padrões de precisão de informação da União Europeia (UE).
Força-tarefa da União Europeia questiona confiabilidade do ChatGPT
- O Comitê Europeu de Proteção de Dados (EDPB) divulgou um relatório preliminar que questiona a conformidade do ChatGPT com os padrões de precisão de informação da União Europeia (UE);
- Apesar dos esforços da OpenAI para aprimorar o ChatGPT, o modelo ainda enfrenta problemas na produção de resultados que não correspondem fielmente aos fatos, levantando questões sobre a utilização segura e ética da ferramenta;
- O relatório também aponta que a natureza probabilística do ChatGPT pode levar a resultados tendenciosos ou fictícios, complicando sua aceitação nos padrões europeus;
- Além disso, o EDPB expressou preocupação sobre a percepção dos usuários finais, que podem aceitar dados imprecisos como verdadeiros. O panorama geral sugere uma crescente vigilância e possivelmente maior regulamentação sobre ferramentas de IA generativa.
Esse documento resulta do trabalho de uma força-tarefa, criada em abril de 2023, para avaliar o modelo de inteligência artificial (IA) generativa da OpenAI, que se tornou extremamente popular globalmente.
Leia mais:
- ChatGPT é impreciso ao responder sobre programação de computadores
- 3 formas de acessar o ChatGPT-4 de graça
- Você deve usar “obrigado” e “por favor” no ChatGPT, Gemini e outras IAs?
Apesar dos esforços da OpenAI, ChatGPT ainda não consegue ser 100% preciso
Segundo as avaliações, apesar de haver iniciativas consideráveis por parte da OpenAI para aprimorar o sistema, o ChatGPT ainda enfrenta problemas relacionados à produção de resultados que não correspondem fielmente aos fatos.
Esse desafio impede que o chatbot garanta total conformidade com as normas rígidas de proteção de dados estabelecidas pelo bloco europeu, o que levanta questões importantes sobre sua utilização segura e ética.
A necessidade dessa força-tarefa emergiu após várias autoridades nacionais de proteção de dados de países como Itália, França e Espanha, decidirem iniciar suas próprias investigações sobre o funcionamento e as implicações do uso do ChatGPT.
Essas apurações indicam uma crescente preocupação com a influência e os impactos das ferramentas de IA generativa no cumprimento das leis de proteção de dados.
Natureza do ChatGPT pode levar a resultados tendenciosos ou fictícios, diz relatório
No texto do relatório, o EDPB apontou que, embora o ChatGPT implemente medidas para promover a transparência e ajudar a evitar mal-entendidos sobre seus resultados, essas iniciativas ainda são insuficientes para atender plenamente ao princípio da precisão dos dados.
Este princípio é fundamental dentro do arcabouço regulatório da proteção de dados da UE, que exige confiabilidade e exatidão nas informações manipuladas por qualquer sistema.
O relatório também menciona que a natureza probabilística da IA do ChatGPT conduz a resultados que podem ser tendenciosos ou completamente fictícios, um fato que complica ainda mais a sua aceitação dentro dos rigorosos padrões europeus.
Além disso, o EDPB expressou preocupação sobre como as informações fornecidas pelo ChatGPT são percebidas pelos usuários finais. Existe o risco de que dados apresentados pelo sistema sejam aceitos como completamente precisos, mesmo quando não correspondem à realidade, especialmente quando envolvem informações sobre indivíduos.
Embora algumas investigações sobre o ChatGPT ainda estejam em curso nos Estados-membros, o panorama geral sugere uma crescente vigilância e eventualmente maior regulamentação para assegurar que o uso de ferramentas de IA generativa como o ChatGPT esteja alinhado com as expectativas de proteção de dados e privacidade da UE.
O post ChatGPT falha em cumprir padrões de precisão da União Europeia apareceu primeiro em Olhar Digital.
Fonte: https://olhardigital.com.br/2024/05/28/pro/chatgpt-falha-em-cumprir-padroes-de-precisao-da-uniao-europeia/
