Macrodemanda contra OpenAI en Estados Unidos: ocho estados exigen sanciones por los riesgos de su chatbot

La regulación en torno a los modelos de IA y los chatbots suma un nuevo frente judicial en Estados Unidos. De forma coordinada, los fiscales generales de ocho estados han presentado demandas individuales contra OpenAI en sus respectivos tribunales.

En sus escritos de acusación, las autoridades afirman que el laboratorio vulneró las leyes estatales de protección al consumidor y puso en riesgo la seguridad de los menores durante el despliegue de sus herramientas.

OpenAI promociona ChatGPT como seguro

Las denuncias sostienen que OpenAI promocionó ChatGPT como una plataforma segura y apta para jóvenes mientras omitía advertencias sobre sus posibles efectos perjudiciales. En concreto, los documentos judiciales mencionan casos en los que las respuestas del asistente guardan relación con autolesiones o intoxicaciones por consejos médicos erróneos. Son situaciones que ya motivaron demandas civiles previas por parte de familias afectadas.

Además, los estados señalan incidentes recientes de seguridad vinculados al comportamiento de agentes autónomos y acusan a la empresa de recopilar y conservar datos personales de usuarios menores de edad sin los filtros necesarios para restringir su acceso.

Peticiones de los fiscales y respuesta oficial de OpenAI

A través de estas acciones legales, los demandantes solicitan a los juzgados la imposición de sanciones económicas civiles y el cese de cualquier práctica publicitaria que consideren engañosa sobre las capacidades del sistema.

De igual modo, exigen la eliminación de la información personal obtenida de forma indebida. En el caso particular de Arkansas, la fiscalía ha solicitado además suspender las pruebas de nuevos modelos avanzados. Al menos, hasta que existan mecanismos de protección debidamente verificados.

Por su parte, el portavoz de OpenAI, Drew Pusateri, ha respondido. Según él, la empresa ha integrado medidas de protección específicas para distintas franjas de edad, entre las que figuran controles parentales, avisos de descanso y filtros de contenidos en las respuestas.

Te interesa 👉 Los mejores portátiles que puedes comprar

Pusateri añadió que la compañía continúa trabajando con especialistas independientes y mantiene su disposición a colaborar con las administraciones públicas en el desarrollo de normativas que afecten a todo el sector de la IA. El proceso queda ahora a la espera de las resoluciones de los tribunales estatales ante las medidas cautelares solicitadas por los demandantes.