OpenAI lanza ChatGPT para adolescentes: controlan el uso, pero no leen los mensajes

ChatGPT ahora se comporta de manera diferente con los adolescentes. OpenAI lanzó ChatGPT para Adolescentes el 18 de agosto, y el sistema es automático: los usuarios de trece a diecisiete años reciben una versión del producto que ya viene configurada con límites más estrictos que los de la versión para adultos. No se requiere ninguna acción por parte del adolescente, ni se necesita la autorización de un padre. La función comenzó a implementarse a nivel mundial esa semana y se espera que complete su despliegue de dos semanas en todos los mercados.

Los controles parentales, accesibles a través de una cuenta familiar, son más cuidadosos que los que ofrece la mayoría de las plataformas. Un padre puede establecer horarios de descanso —ventanas específicas del día en las que ChatGPT no estará disponible para la cuenta del adolescente— y desactivar de forma independiente el modo de voz, la generación de imágenes o la función de memoria persistente que permite a ChatGPT recordar detalles a lo largo de las conversaciones. Cada una de estas opciones tiene su propio interruptor. También existe la posibilidad de optar por no permitir que OpenAI use las conversaciones del adolescente para entrenar modelos futuros, algo que no está activado por defecto en las cuentas estándar.

Lo que los padres no pueden hacer es leer lo que sus hijos han escrito en ChatGPT. Esta es una decisión de diseño deliberada, no un vacío en la implementación. La postura de OpenAI es que los adolescentes que sospechen que sus conversaciones podrían ser compartidas con sus padres simplemente no usarán el producto para las cosas con las que realmente necesitan ayuda — y un adolescente que no puede preguntarle a una IA sobre algo sensible, sin ser juzgado, pierde la parte más útil de la tecnología. Los controles les dan a los padres herramientas para establecer límites en torno al tiempo y al modo; el contenido de las conversaciones sigue siendo privado.

El modelo en sí tiene restricciones incorporadas que aplican independientemente de la configuración parental. ChatGPT para Adolescentes maneja de forma más estricta temas relacionados con autolesiones, trastornos alimenticios y violencia. El modelo está entrenado para redirigir en lugar de involucrarse en esos temas, y las mismas restricciones aplican en el Modo de Estudio — una nueva función que convierte las respuestas en cuestionarios y preguntas de práctica en lugar de respuestas directas. El Modo de Estudio está diseñado para apoyar las tareas escolares sin reemplazarlas, obligando al adolescente a recuperar información en lugar de simplemente copiarla.

La cuestión de la verificación de edad es donde se hacen evidentes los límites del sistema. OpenAI utiliza un modelo de predicción de edad, no una verificación formal de identidad, para clasificar a los usuarios como adolescentes. Los adolescentes que proporcionaron una fecha de nacimiento falsa al registrarse por primera vez — una solución común en plataformas con restricciones de edad — probablemente no serán reclasificados. El despliegue está dirigido a cuentas nuevas y a cuentas con fechas de nacimiento correctamente registradas. OpenAI no ha revelado qué proporción de su base de usuarios existente se encuentra en el grupo demográfico de 13 a 17 años, pero los investigadores han encontrado consistentemente que el grupo es grande y utiliza de manera desproporcionada las herramientas de IA con fines académicos.

La lógica de diseño más amplia aquí merece una pausa. OpenAI está tratando de sostener dos cosas al mismo tiempo: suficiente arquitectura de seguridad para satisfacer a padres y reguladores, y suficiente privacidad para ser genuinamente útil para los adolescentes. Los horarios de descanso y las restricciones de temas abordan lo primero; la negativa a compartir los registros de chat aborda lo segundo. Si ese equilibrio es correcto es una pregunta sobre la que personas razonables pueden discrepar. Lo que es notable es que OpenAI hizo explícita la concesión — eligieron la utilidad para el adolescente por encima de la vigilancia parental, y lo dijeron.

ChatGPT para Adolescentes ya está disponible en todas las plataformas. El despliegue global de dos semanas comenzó el 18 de agosto.

Etiquetas: inteligencia artificial, OpenAI, chatgpt, ChatGPT for Teens, controles parentales, seguridad digital adolescentes