ChatGPT demandada

Contexto de la demanda a ChatGPT

ChatGPT ha sido demandado por la asociación vienesa Noyb (None of your business) por responder con información falsa a las preguntas realizadas por los usuarios.

Noyb asegura que ChatGPT “inventa respuestas falsas” cuando se le realizan preguntas sobre las cuales no se tiene la información. Esto implica que se incumpla con la Normativa de protección de datos, concretamente se infringe el principio de exactitud que postula el artículo 5 del RGPD.

Noyb sostiene que ChatGPT proporciona respuestas incorrectas sobre información relacionada con personas concretas, de manera que «inventa regularmente respuestas», «responde sistemáticamente con información falsa» y «divaga», circunstancia que está fuera de la legalidad.

Según un estudio del New York Times, la tasa de invención de ChatGPT oscila entre el 3% y el 27%.

Frente a esta situación, se ha solicitado por parte de Noyb que se cambien estos datos incorrectos de la base de datos desde la cual ChatGPT trabaja, siendo la respuesta de Open AI que esto es imposible pues no pueden impedir a ChatGPT que de esas respuestas.

Por tanto, esto sería como decir que no se puede solicitar a ChatGPT que realice una corrección sobre datos que están en su base, por lo que entonces, no se podría ejercer el derecho de rectificación regulado en el art. 14 de la LOPDGDD y 16 del RGPD.  Aunado a que tampoco se podría cumplir con su responsabilidad proactiva, la cual consiste en cumplir con las disposiciones de protección de datos y la capacidad de poderlo demostrar.

¿Cuál es la posible causa de estas respuestas incorrectas de ChatGPT?

ChatGPT puede “alucinar” dando respuestas que no son correctas y ello puede deberse (según Google) por datos de entrenamiento insuficientes, suposiciones incorrectas del modelo o distorsiones en los datos de entrenamiento; es decir, lo que se conoce como sesgo.

Presentación de la demanda ante autoridades austríacas

De esta manera, Noyb ha iniciado un procedimiento de denuncia ante las autoridades austríacas, con el propósito de que Open AI sea multada por no respetar las obligaciones que impone el Reglamento de Servicios Digitales, así como de la Normativa de protección de datos, en específico respecto de las garantías adoptadas respecto de la exactitud de los datos procesados.

Maartje de Graaf, abogada de protección de datos de Noyb, dijo: “Si un sistema no puede producir resultados precisos y transparentes, no se puede utilizar para generar datos sobre individuos. La tecnología debe seguir los requisitos legales, no al revés.”

Recordemos que el Reglamento de Servicios Digitales se aprobó en el año 2002, y entró en vigor desde el 17 de febrero de 2024, por lo que las grandes empresas que ofrezcan servicios intermediarios en línea, y que conecten a los usuarios con contenidos, productos y servicios en el mercado europeo, con independencia de si están establecidas dentro o fuera del territorio de la Unión, deben cumplir con las disposiciones de este Reglamento.

Conclusión

La IA, sea de ChatGPT o de cualquier otra, debe respetar en todo momento los datos personales y los derechos de protección de datos. Esta obligación atañe a las personas físicas y a las jurídicas, y no debemos olvidar que las normas no discriminan en su cumplimiento.

Por ello, si su empresa utiliza o tiene pensado implementar alguna herramienta de IA, deberá asegurarse de que esta cumple con la Normativa de protección de datos.

Business Adapter® a tu servicio 

Si necesitas ayuda, contáctanos en el email: info@businessadapter.es,  también puedes llamar al 96 131 88 04, o deja tu mensaje en este formulario: