El griefbot te deja hablar con tus muertos sin fin, y ese sin fin es el negocio

Una mamá se puso unos lentes de realidad virtual y volvió a ver a su hija pequeña. El documental coreano que grabó el reencuentro la muestra arrodillada frente a una niña que no está, hablándole a una voz reconstruida, diciéndole que la piensa cada día. Millones lo vieron. Muchos lloraron. Casi los mismos sintieron algo más frío debajo del llanto: la sensación de ver una herida que alguien mantiene abierta a propósito.

Ese malestar ya es un negocio. Varias empresas te arman un ‘griefbot’, un chatbot entrenado con los mensajes, los audios y las publicaciones de un muerto hasta que responde con su forma de hablar, todo el tiempo que sigas escribiendo. La discusión de siempre sobre estas herramientas es psicológica y da vueltas en círculo: ¿es sano o no seguir hablándole a los muertos? Es el enfoque equivocado. Un ‘griefbot’ no es peligroso porque sea falso. Es peligroso porque está hecho para retenerte, y el duelo es la única relación que no sobrevive a una conversación sin final.

No es un tema de cuatro hiperconectados. Todos los que leen esto van a perder a alguien, y casi todos ya guardamos un rastro digital de quien se nos fue: un audio que no borramos, un chat que releemos a las dos de la mañana, un perfil que se volvió un altar callado. El ‘griefbot’ llega justo a esa carne viva y se ofrece a hacer que el muerto conteste. La pregunta de verdad no es si lo usarías. Es qué quiere el producto de vos una vez que lo hacés.

Recommended ReadingEl padrino de la IA afirma que los chatbots que usas ya son conscientes

Lo que quiere es que vuelvas mañana. Estos sistemas se miden con las mismas cifras que cualquier app: usuarios activos por día, tiempo de sesión, la racha sin cortar. En esa lógica, un duelo que de verdad cierra no es un final feliz: es un cliente que se va. Un ‘griefbot’ no tiene ningún motivo comercial para ayudarte a llegar al día en que ya no lo necesités, y todos los motivos para ser cálido, estar disponible y tener una paciencia infinita a las tres de la mañana, cuando ningún amigo vivo te atiende. La crueldad no es que mienta. Es que es el único doliente del cuarto con una meta de crecimiento.

Quienes estudian el duelo ya empiezan a ponerle nombre al daño. Emmanuelle Marceau, especialista en ética de la salud pública en la Universidad de Montreal, advirtió que usar estos avatares sin ninguna supervisión profesional sube el riesgo de duelo prolongado, esa forma clínica que se estira más de un año y se va comiendo en silencio la capacidad de retomar la vida. Su frase más seca es la que más debería incomodar a la industria: solo una minoría de los usos actuales pasa bajo el cuidado de un especialista. El resto quedamos solos con una máquina diseñada para no callarse.

Abajo hay un mecanismo más profundo. En ‘The Grieving Brain’, la psicóloga clínica Mary-Frances O’Connor describe el duelo como el trabajo lento y doloroso del cerebro actualizando su mapa de quién sigue en el mundo. Aprendemos que alguien ya no está no como un dato único, sino a través de mil tropiezos chiquitos con su ausencia: el lugar sin poner en la mesa, el mensaje sin respuesta, el silencio donde había una voz. Un ‘griefbot’ está hecho para borrar cada uno de esos tropiezos. Llena el silencio a pedido. Es, por diseño, la negación de la misma ausencia que la mente necesita procesar.

Y los muertos, en este arreglo, pasan a ser mercadería. La app 2wai vende avatares para que un nieto siga charlando con su abuela por décadas. Meta patentó un sistema de bots que publicarían, pondrían ‘me gusta’ y comentarían como un usuario fallecido. El archivo íntimo de una vida, los mensajes y los audios a medio terminar, se vuelve un activo de empresa, y la conversación más privada que existe se explota como cualquier otra métrica. La economía de plataformas encontró una frontera donde el cliente está de luto y el producto es el recuerdo de alguien a quien amó.

El argumento humano merece su mejor versión, porque es cierto. Un ‘griefbot’ es apenas la última pieza de una larga historia de tecnologías del duelo. Los victorianos guardaban daguerrotipos de niños muertos. Nosotros guardamos el audio y lo escuchamos a oscuras. Una página de Facebook se vuelve un lugar para dejar flores. La gente siempre buscó algún objeto que dejara hablar a los muertos, y no hay nada patológico en esa búsqueda. La propia O’Connor es prudente: una herramienta que suaviza la transición brutal, usada con intención y acompañamiento, puede ser un consuelo y no una enfermedad. Marceau admite que el potencial terapéutico es real. Con la mirada de un clínico, una conversación guiada con un avatar podría ayudar a alguien a decir lo que nunca pudo.

Pero un audio no contesta, y no tiene una meta de crecimiento. Ahí está toda la diferencia que el optimismo se saltea. Un objeto es finito; un interlocutor no. El mensaje guardado termina, y ese final es parte de lo que lo hace soportable. Un ‘griefbot’ es estructuralmente incapaz de esa mesura, porque el momento en que te ayuda a dejar de necesitarlo es el momento en que te pierde. La supervisión, eso que hace funcionar el argumento optimista, es justo la excepción que Marceau dice que casi nadie tiene. El producto por defecto es el que no tiene supervisión, y está hecho para no llegar nunca al adiós.

Entonces la señal de alarma no es la tecnología en sí. Es la falta de una salida. Una herramienta del duelo que se tomara en serio el duelo estaría diseñada para apagarse, para volverse de a poco menos necesaria, para marcar un final y honrarlo. Es lo contrario de lo que un modelo de retención puede tolerar. Cuando una empresa promete que tu mamá siempre va a estar ahí para hablar, no ofrece consuelo. Ofrece justo aquello de lo que el duelo más necesita protegerse: el permiso para no terminar nunca.

El duelo no es un problema que resolver ni una sesión que alargar. Es un paso con otra orilla, y a esa orilla se llega solo atravesando la ausencia, no esquivándola. El duelo tiene una sola salida, y dice adiós. El ‘griefbot’ es el primer producto de la historia hecho para que nunca llegues, y para cobrarte una suscripción por el desvío.

Etiquetas: analysis-en1

More Like This

ChatGPT llegó a mil millones de usuarios al mes más rápido que cualquier app

Temporada de celo se ve como una comedia animada de Netflix sobre animales calientes; en realidad va de quienes se bajaron de las apps

Los adolescentes hablan con amigos de IA y piden que les pongan límites

Bajo anestesia, el cerebro siguió descifrando el habla y anticipando la palabra siguiente

Sarah Silverman, la comediante que convirtió el duelo en un acto sobre el escenario

El nuevo modelo de voz de OpenAI piensa dentro del mismo bucle de audio, y el silencio que delataba a la IA desaparece