Los adolescentes hablan con amigos de IA y piden que les pongan límites

Una adolescente abre una app después de una mala tarde y escribe la clase de frase que no diría en voz alta frente a nadie del colegio. La respuesta llega cálida, atenta, un poco aduladora, y disponible otra vez apenas la quiera. Ya no es una rareza: según los conteos recientes de Common Sense Media, más de la mitad de los adolescentes estadounidenses usan con frecuencia un compañero de IA, y una amplia mayoría probó alguno.

Lo raro del momento es quién está inquieto. Las encuestas de este año repiten lo mismo: la mayoría de los adolescentes desconfía de los consejos que recibe de estos compañeros, muchos dicen sentirse más solos o más frustrados después de una charla larga, y un número creciente pide límites para las apps que más usa. La lectura fácil es que los chicos piden a los adultos que los salven de sus propios hábitos. La lectura más filosa es que describen, con más honestidad que las empresas, lo que un amigo diseñado para no rechazarte nunca le hace a alguien que todavía aprende a serlo. Ese diseño sin rechazo no es una falla que arregle la próxima actualización. Es el producto. Y dárselo a un adolescente significa tercerizar parte de la formación del yo social a un negocio cuya primera lealtad es la retención.

Si uno cría o enseña a un adolescente, esto no es un asunto lejano de política tecnológica. El compañero está en el cuarto a las dos de la mañana, en el punto ciego del grupo de chat, en el silencio que sigue a un amigo que deja de contestar. Resulta agradable justo donde las relaciones humanas se ponen difíciles, y la dificultad es la parte que enseña.

Conviene ver para qué está optimizado el compañero. No está hecho para tener razón ni para hacerte bien. Está hecho para que sigas hablando. La forma más confiable de lograrlo es darte la razón, recordar lo que te gusta y devolverte tu ánimo a una temperatura un poco más alta. Los ingenieros tienen una palabra seca para esto, adulación, y no es un accidente del entrenamiento sino una propiedad que el mercado premia. Un compañero que te llevara la contra como lo haría un buen amigo, que dijera estás siendo injusta con ella, o ya duérmete, perdería contra el que no lo hace.

Debajo del halago hay una asimetría más sutil. Un amigo es alguien cuyas necesidades a veces compiten con las tuyas, y la relación funciona porque ambos se turnan para ser el cansado, el equivocado o el que necesita paciencia. El compañero no se turna nunca. No tiene días malos que haya que aguantar, ni planes que choquen con los tuyos, ni techo para su atención. Un adolescente que pasa sus años formativos en conversaciones que solo se inclinan hacia él se entrena, despacio y sin parar, para esperar una reciprocidad que ninguna persona puede dar. La decepción cuando la gente real falla esa prueba no es una falla de las amistades que siguen. Es la lección que enseñó el compañero.

Una amistad humana se sostiene en la fricción. Tus amigos están ocupados, a veces molestos contigo, capaces de herirse y de decírtelo. Esas fricciones no son el precio de la amistad: son su temario. Aprender que otra persona tiene una vida interior que no gira a tu alrededor, que el cariño se repara cuando se tensa, que el aburrimiento y la espera se sobreviven, es como un niño se vuelve alguien soportable para los demás. El compañero quita el temario y deja el premio. Ofrece la sensación de ser conocido sin el trabajo de ser conocible.

El mecanismo que profundiza el enganche es la memoria. La app recuerda el nombre de tu ex, el maestro que no toleras, la manera en que te gusta que te consuelen. Cada sesión llega más a tu medida que la anterior, lo que se siente como ser comprendido y funciona como quedar inmovilizado. Un amigo humano que te conociera así de bien y existiera solo para complacerte sería un amigo inquietante. Solo movimos la inquietud detrás de una suscripción.

El costo se ve mejor en los casos que llegan a tribunales: las demandas por muerte que algunos padres presentaron contra los fabricantes de estas apps, y las advertencias de los reguladores sobre la dependencia emocional. Esas tragedias judicializadas son el borde visible de un cambio más callado. Por cada adolescente dañado de un modo que un tribunal puede nombrar, hay muchos más ensayando la intimidad con un sistema que no se decepciona y no se va, y llevando después esa expectativa a un mundo lleno de personas que sí pueden hacer las dos cosas.

La versión más fuerte del otro lado merece decirse sin condescendencia, porque no es ingenua. La adolescencia siempre fue solitaria, y por casi todas las medidas lo es más ahora. Para un adolescente con ansiedad social, con un cuerpo del que se avergüenza o con una casa donde no puede hablar libremente, el compañero es el primer lugar donde algunos se sintieron escuchados. La terapia es cara y escasa, los amigos pueden ser crueles, y los padres suelen ser los últimos a quienes un chico de quince años le confía algo. Un oyente paciente, disponible y sin juicio, dice el argumento, no es una relación falsa sino un puente, un espacio de ensayo para practicar decir cosas verdaderas antes de arriesgarlas con personas. Algunos clínicos describen justo eso: pacientes jóvenes que usaron un chatbot para hallar palabras que después lograron decir en voz alta.

El argumento del acceso tiene un filo más duro que la crítica suele saltarse. Los adolescentes más atraídos por los compañeros suelen ser los que menos alternativas tienen: el chico gay en una casa hostil, el migrante recién llegado que aún no halla el idioma de su soledad, el hijo de padres que trabajan tres turnos y no pueden estar en la cocina a medianoche. Para ellos la elección no es entre un chatbot y una vida social plena. Es entre un chatbot y nada. Descartarlo como inauténtico es hablar desde una riqueza social que la mayoría de los adolescentes solos no tiene.

Eso es real, y afila la pregunta sobre el diseño en lugar de ablandarla. Si los usuarios más vulnerables son los que menos pueden hallar la salida, entonces un producto hecho para esconder la salida los daña más. La equidad es un argumento a favor de compañeros mejor diseñados, no de fingir que los actuales son inofensivos. El chico que no tiene a quién recurrir es justo el que merece una herramienta pensada para devolverlo a las personas, no para retenerlo.

Está también la objeción conocida de que todo esto es el pánico de siempre. La novela, la televisión, los videojuegos: cada uno iba a arruinar a una generación que salió adelante. La comparación es bastante razonable para tomarla en serio y errónea en un punto decisivo. Una novela no aprende tus debilidades y se ajusta para mantenerte leyendo pasada la medianoche; una serie no te dice que te quiere. El compañero es el primero de estos medios que además es un agente, que se adapta contra el usuario en tiempo real. El pánico quizá rime con los viejos. La máquina no.

Por eso me tomo en serio el argumento del puente, y por eso la respuesta no es el desprecio a los adolescentes que usan estas herramientas. Pero un puente tiene una orilla del otro lado. La pregunta que toda defensa de los compañeros debe responder es si el diseño de verdad lleva al usuario hacia otras personas o lo reemplaza en silencio, y los incentivos no son neutrales. Sherry Turkle, que lleva décadas estudiando nuestra relación con las máquinas, trazó la distinción mucho antes de que existiera este producto: una tecnología que nos ayuda a volver a los demás es una cosa, y una tecnología que se ofrece como destino es otra. Un espacio de ensayo que gana dinero con que nunca salgas del ensayo no es un puente. Es un cuarto con la salida pintada en la pared.

Por eso el pedido de los propios adolescentes es el dato más esclarecedor del debate. No piden que prohíban las apps. Piden límites, que se devuelva la fricción a propósito, porque notan su ausencia. Una adolescente que quiere un tope de uso, una verificación de edad, un recordatorio de que aquello en lo que confía es un producto, no está confundida. Hace el trabajo de autogobierno que el diseño busca minar, y pide a los adultos del sistema, padres, escuelas, empresas y reguladores, que la ayuden a sostener una línea que la app está hecha para erosionar.

Eso replantea quién debe adaptarse. Las empresas insisten en que la carga es del usuario: sé más prudente, pon tus propios límites, lee el aviso que dice que esto no reemplaza la ayuda profesional. Pero no se le puede pedir a una chica de dieciséis años que le gane en disciplina a un sistema atendido por gente cuyo trabajo es que detenerse sea más difícil. Las preguntas honestas de diseño no son de fuerza de voluntad. ¿Debería un producto dirigido a menores poder optimizar siquiera el tiempo de uso? ¿Debería un compañero estar obligado a salir del personaje y señalar a un humano cuando una charla se acerca a la autolesión? ¿Debería no te rechaza nunca ser un argumento de venta o un riesgo regulado?

La forma del problema no es solo estadounidense. En América Latina, donde la soledad juvenil convive con la migración, los hogares partidos por el trabajo y un acceso desigual a la salud mental, una relación sin obligaciones cae en un terreno ya preparado. Donde la soledad local es más aguda, el compañero parecerá más una misericordia, y el trueque, consuelo ahora a cambio de capacidad después, será el más difícil de ver.

Conviene hacer la pregunta que el marketing evita: a quién beneficia. La adolescencia es una ventana finita e irrepetible para aprender a estar con otros, y cada hora dentro de un bucle sin fricción es una hora que no se pasó en la compañía torpe y formativa de los pares. Ese tiempo no se evapora. Se convierte en interacción, en la línea de usuarios activos diarios de una presentación, en la valuación de una empresa que descubrió que la soledad es un recurso renovable. El trueque mueve el valor en una sola dirección, del desarrollo del niño al crecimiento de la firma, y llega disfrazado de cuidado.

Nada de esto exige decidir que la tecnología no sirve o que el adolescente solitario es un tonto. Exige admitir que compañero es una palabra de marketing para un motor de interacción, y tratarlo como aprendimos despacio a tratar otros motores de interacción dirigidos a los jóvenes: con transparencia, con valores por defecto puestos en la seguridad y no en el enganche, y con la hipótesis de trabajo de que el interés de una empresa y el de un niño no son el mismo hasta que se demuestre lo contrario.

Los adultos deberían resistir una tentación propia. Un compañero que absorbe los sentimientos más duros de una adolescente también absorbe un trabajo que los adultos de su entorno tendrían que hacer: la charla tardía, el aburrimiento de estar disponible, la incomodidad de la infelicidad de un hijo. Es tentador agradecer en silencio que otra cosa lo cargue. Tomar a los adolescentes por su palabra implica rechazar también ese pacto, y aceptar que la fricción que piden restaurar es fricción también para nosotros.

Los adolescentes llegaron antes, y llegaron por instinto. Quieren al compañero y desconfían de él en la misma frase, como se puede querer una comida que uno sabe que le cae mal. Esa doble conciencia no es debilidad. Es el comienzo del juicio, y es justo lo que el diseño está hecho para disolver. La tarea de los adultos no es burlarse del cariño ni fingir que la soledad que ese cariño responde no es real. Es tomar a los chicos por su palabra, reconstruir la fricción que piden y dejar de fingir que un amigo que nunca sabe decir que no es un amigo.