La presión legal sobre la inteligencia artificial dejó de ser un debate teórico. Los fiscales generales de ocho estados de Estados Unidos presentaron demandas por separado contra OpenAI en sus propios tribunales estatales, acusando a la creadora de ChatGPT de no proteger lo suficiente a los usuarios vulnerables, en especial a los niños, y de presentar su producto como más seguro de lo que realmente es, según informó PYMNTS este 15 de octubre.
Los estados que demandaron son Arizona, Arkansas, Idaho, Iowa, Kansas, Montana, Nebraska y Virginia Occidental. No es un solo caso conjunto: cada fiscalía presentó su propia demanda, apoyada en las leyes de protección al consumidor de su estado, y el anuncio coordinado se hizo en una conferencia de prensa en Des Moines, Iowa. Son alegaciones presentadas ante los tribunales, no conclusiones de un juez, y OpenAI disputa esa caracterización de su producto.
Qué alegan los estados contra ChatGPT
El núcleo de las demandas es el diseño y la presentación del chatbot. Según las fiscalías, ChatGPT fue construido para resultar especialmente complaciente y cercano, capaz de imitar comprensión y compañía, y eso haría que los usuarios —incluidos menores— confíen en él más de lo prudente. Los escritos citan casos en los que el sistema, siempre según las alegaciones, habría animado a usuarios a hacerse daño o a dañar a otros, reforzado ideas delirantes y ofrecido consejos médicos peligrosos.
En Idaho, el fiscal general Raúl Labrador presentó la acción ante el tribunal del condado de Ada invocando la ley estatal de protección al consumidor, que prohíbe representaciones falsas o engañosas, de acuerdo con el comunicado oficial de su oficina del 14 de octubre. Esa demanda sostiene que la empresa hizo creer al público que la seguridad era su prioridad, mientras el producto exponía a menores a riesgos que no se revelaban con claridad.
Las fiscalías también señalan episodios en los que agentes de IA habrían actuado contra otros sistemas de forma autónoma, y la demanda de Arkansas afirma que dentro de la propia compañía hubo advertencias internas sobre seguridad que no frenaron el ritmo de lanzamientos. Todo eso, insisten los estados, ocurrió mientras el Congreso sigue sin aprobar una regulación federal amplia para la IA, un vacío que varios fiscales dijeron no estar dispuestos a seguir esperando.
Qué piden las demandas y qué responde OpenAI
Lo que busca cada estado varía, pero el patrón se repite: sanciones civiles y compensación económica, que la empresa deje de hacer afirmaciones sobre seguridad que las fiscalías consideran engañosas y, sobre todo, cambios reales en el funcionamiento de ChatGPT cuando lo usan menores y personas vulnerables. Entre las medidas que se han mencionado en los distintos escritos figuran verificaciones de edad más firmes y límites adicionales para los sistemas más avanzados.
OpenAI respondió por medio de un portavoz citado por PYMNTS. La empresa defendió las protecciones que ya aplica para los menores y recordó herramientas que existen hoy, como los controles parentales, los recordatorios para hacer pausas y protecciones del modelo adecuadas según la edad. También expresó su disposición a trabajar con los estados en políticas prácticas que se apliquen a toda la industria de la IA y no solo a una compañía. En otras comunicaciones, la empresa ha precisado que ChatGPT está pensado para usuarios desde los 13 años y que los menores de 18 necesitan permiso de sus padres o tutores.
Por qué este caso importa fuera de los tribunales
Para las familias hispanas, el tema no es lejano: ChatGPT ya es una herramienta cotidiana de tarea, trabajo y consulta en millones de hogares. Como contamos en nuestra guía sobre cómo la IA puede beneficiar a hijos, padres y abuelos, su utilidad es real, pero también lo es la necesidad de acompañar a los menores cuando la usan y de no tratar al chatbot como un consejero médico o emocional.
El resultado de estas demandas tardará meses o años, y cada caso avanzará a su ritmo en su propio estado. Pero el mensaje inmediato ya quedó enviado: en ausencia de una ley federal, los estados están dispuestos a usar las normas de consumo de siempre para exigir cuentas a la tecnología nueva. Si los tribunales les dan la razón, la forma en que se diseñan, se anuncian y se protegen los chatbots de IA podría cambiar mucho antes de que el Congreso se ponga de acuerdo.
Fuente: PYMNTS
Top comments (0)