Un ciudadano noruego presentó una denuncia contra OpenAI luego de que su chatbot, ChatGPT, lo señalara erróneamente como un criminal que había asesinado a sus propios hijos. El afectado, Arve Hjalmar Holmen, expresó su preocupación por las graves consecuencias que una información falsa como esta podría acarrear.
Lo que más miedo me da es que alguien pueda leer eso y pensar que es cierto", afirmó Holmen en un comunicado emitido a través de la organización austriaca Noyb, dedicada a la protección de la privacidad.
Desde el incidente, OpenAI ha actualizado su modelo para corregir el error y evitar que ChatGPT siga vinculando a Holmen con el falso crimen. Sin embargo, Noyb advirtió que los datos incorrectos aún podrían estar almacenados en los sistemas internos de la empresa, lo que representa un riesgo para la reputación de las personas afectadas.
ChatGPT enfrenta demanda por acusar a noruego de criminal
La organización también denunció que "ChatGPT da regularmente información falsa (...) que puede dañar gravemente la reputación de una persona, acusando falsamente a individuos de corrupción, abuso de menores o incluso asesinato". Ante esta situación, la ONG acusa a OpenAI de violar el principio de exactitud establecido en el Reglamento General de Protección de Datos (RGPD) de la Unión Europea.
Noyb exige que OpenAI elimine los datos erróneos, mejore su tecnología y enfrente una sanción administrativa. La compañía, pionera en inteligencia artificial generativa, ganó notoriedad mundial con el lanzamiento de ChatGPT a finales de 2022, pero su modelo ha sido objeto de críticas por la propagación de desinformación y la falta de mecanismos efectivos para prevenir estos errores.
