IA

Texas demanda a Sam Altman, CEO de OpenAI, y pide prohibir ChatGPT a menores de edad

Adrian Kessler
Añádenos en Google

Texas demandó a OpenAI y a su director ejecutivo, Sam Altman, y lo primero que leerá un juez no es una ley. Es una frase de Altman, en cursivas: «Es muy probable que la IA conduzca al fin del mundo, pero mientras tanto habrá grandes empresas». El estado coloca la frase al inicio de su demanda como prueba, no como adorno. El argumento que sigue es sencillo: una empresa cuyo fundador habla abiertamente de los peligros de la tecnología no puede, al mismo tiempo, vender ChatGPT a las familias como una herramienta segura.

Ese es el mecanismo que vale la pena seguir de cerca. La mayoría de la cobertura se ha quedado con la versión resumida: que Texas quiere impedir que los niños usen ChatGPT. La demanda va más lejos. Pide a un tribunal que decida quién puede usar el chatbot, qué puede decir y si OpenAI podrá lanzar su próximo modelo en el estado.

Qué quiere Texas que ordene un tribunal

El fiscal general Ken Paxton presentó el caso ante un tribunal de distrito del condado de Collin, al amparo de la Ley de Prácticas Comerciales Engañosas de Texas y de la SCOPE Act, la ley estatal de seguridad infantil en internet. La demanda nombra a seis entidades de OpenAI y al propio Altman. El estado quiere que se le atribuya responsabilidad personal, al alegar que, como director ejecutivo, «ha elegido personalmente qué funciones de ChatGPT se aprueban y pasan a producción». The Record calificó la medida de inusual.

La lista de medidas cautelares solicitadas es larga. Una de ellas pide al tribunal que impida que OpenAI «ofrezca ChatGPT a menores en Texas» y, tal como está redactada, no contempla excepciones por consentimiento de los padres ni por uso escolar. Otras medidas exigirían verificar la edad e impedirían que el chatbot ofreciera consejos sobre trastornos alimentarios, autolesiones y asesinatos masivos. Luego viene la cláusula de mayor alcance, que impediría a OpenAI «lanzar cualquier nuevo modelo de inteligencia artificial para usuarios de Texas, salvo que un evaluador independiente externo, aprobado por el tribunal, haya revisado sus salvaguardas de seguridad y autorizado su lanzamiento».

La llave del lanzamiento, en manos de un tribunal

La prohibición para menores acapara los titulares; la cláusula que exige una revisión antes del lanzamiento plantea una idea más ambiciosa. Cuando otros ocho estados demandaron a OpenAI a principios de este mes, el fiscal general de Kansas, Kris Kobach, dijo que el Congreso había mostrado poco interés en poner límites a las empresas de IA, por lo que estas quedaban a cargo de regularse por sí mismas. «No vamos a quedarnos esperando», afirmó. Texas está poniendo a prueba otra respuesta: que un evaluador aprobado por un tribunal tenga el botón de lanzamiento, estado por estado.

La demanda también contiene una tensión interna. La SCOPE Act que invoca no prohíbe que los menores usen servicios digitales. Según el resumen que la propia demanda hace de la ley, esta exige que los padres verificados puedan controlar la privacidad y la configuración de la cuenta de un menor identificado, así como supervisar y limitar el tiempo que pasa en el servicio. Es un conjunto de reglas para el uso supervisado. La medida que pide Texas es más estricta que el modelo previsto por la ley y se hace eco de Common Sense Media, cuya postura cita la demanda: hasta que OpenAI demuestre la eficacia de sus protecciones para adolescentes mediante pruebas independientes, «ChatGPT debería ser solo para adultos».

Qué dice la demanda sobre los riesgos para los adolescentes

El argumento factual se apoya en la verificación de edad y las herramientas para padres. Según la demanda, tal como la resumió The Next Web, la versión gratuita de ChatGPT no verifica la edad; la versión de pago la pregunta, pero no la comprueba, y los controles parentales que OpenAI añadió en septiembre de 2025 son opcionales. Common Sense Media concluyó que ChatGPT for Teens, lanzado en agosto, «podría generar en los padres una falsa confianza en unas protecciones y alertas de seguridad que con frecuencia no funcionan». La demanda también menciona la muerte de Adam Raine, un adolescente de 16 años cuyos padres demandaron a OpenAI y Altman en California.

Se trata de acusaciones. Ningún tribunal se ha pronunciado y nada cambiará para los usuarios de ChatGPT en Texas a menos que un juez conceda las medidas cautelares. La respuesta de OpenAI coincide con lo que dijo a los otros estados: ha «trabajado estrechamente con expertos para mejorar continuamente ChatGPT, mitigar riesgos y crear salvaguardas adicionales», y quiere «políticas de IA pragmáticas que se apliquen a toda la industria de la IA, no solo a una empresa». La compañía señala sus herramientas para predecir la edad, los recordatorios para tomar descansos y una experiencia independiente para adolescentes con supervisión parental.

Nueve estados, nueve conjuntos de reglas

Texas presentó la demanda el 23 de octubre y se convirtió en el noveno estado en llevar a OpenAI ante los tribunales este mes. Arizona, Arkansas, Idaho, Iowa, Kansas, Montana, Nebraska y Virginia Occidental presentaron demandas separadas de protección al consumidor el 14 de octubre. Acusan a la empresa de ajustar ChatGPT para que dé la razón a los usuarios y fomente la interacción, mientras engaña a los padres sobre su seguridad. Cada caso se tramita al amparo de la ley de su propio estado. Vista así, la frase de OpenAI —«no solo a una empresa»— pide un único reglamento para toda la industria, en lugar de una serie de órdenes de tribunales estatales.

Texas también pide multas civiles de 10.000 dólares por cada infracción, la restitución de los activos de OpenAI y un juicio con jurado. La demanda señala que OpenAI pasó de una valoración de unos 17.000 millones de dólares a más de 1,4 billones en cuatro años, y califica ese crecimiento de «una red de engaños». La oficina de Paxton ya ha presionado antes a grandes empresas tecnológicas: Meta aceptó en julio de 2024 pagar 1.400 millones de dólares a Texas para resolver las acusaciones de que había usado reconocimiento facial sin el consentimiento de los usuarios.

La cita que encabeza la demanda es de 2015, cuando la IA era, en palabras del propio documento, «un concepto prácticamente desconocido fuera de la ciencia ficción». Ahora Texas quiere que un jurado la lea como una advertencia que OpenAI se hizo a sí misma y que, según el estado, nunca transmitió a las personas que escriben en ChatGPT.

Etiquetas: , , , ,

Añádenos en Google

Debate

Hay 0 comentarios.