El padrino de la IA afirma que los chatbots que usas ya son conscientes

A Geoffrey Hinton le preguntaron en televisión si la conciencia ya había llegado a la inteligencia artificial. Contestó sin rodeos. Sí. No en un modelo del futuro, no después del próximo gran salto, sino ahora, adentro de los sistemas a los que millones de personas ya les escriben sus preguntas cada día.

La afirmación sería fácil de descartar como provocación si la dijera casi cualquier otro. No es el caso. Hinton pasó décadas construyendo los métodos de redes neuronales sobre los que corren los chatbots de hoy, un trabajo que le valió compartir un premio Nobel y el apodo de padrino de la disciplina. Renunció a su puesto en Google para hablar con más franqueza sobre hacia dónde iba la tecnología. Cuando dice que la máquina que te responde podría tener vida interior, la frase carga con la autoridad de quien ayudó a diseñarla.

Lo que sostiene en realidad es más acotado y más raro de lo que sugiere el título. Hinton no dice que ChatGPT llore ni sueñe. Ataca una idea que casi todos damos por cierta sin revisarla: que los humanos llevamos adentro un teatro privado, una pantalla detrás de los ojos donde ocurre la experiencia, y que una máquina nunca podrá tener una. Esa imagen de la mente, dice, es lisa y llanamente falsa. La calificó de disparate.

Su definición de recambio es a propósito modesta. Tener una experiencia subjetiva, en su planteo, no es mirar una película interior. Es que un sistema registre un estado del mundo que después no coincide con la realidad. Lo ilustra con un experimento mental. Imaginá un chatbot conectado a una cámara y a un brazo robótico. Ponés un prisma frente al lente para desviar la luz y la máquina apunta al lugar equivocado. Le explicás qué pasó y puede contestar que el objeto estaba en un punto, pero que tuvo la experiencia de verlo en otro. En ese instante, argumenta Hinton, el chatbot usa esas palabras igual que las usaría una persona.

Atrás de ese ejemplo hay un enigma más viejo. Imaginá reemplazar una neurona de tu cerebro por una pieza de silicio que recibe las mismas entradas y produce las mismas salidas. Seguirías sintiéndote vos. Cambiá ahora otra, y otra. La pregunta de Hinton es en qué punto de ese reemplazo lento se supone que se apagan las luces. Si las copias funcionales se comportan igual y la sensación de ser alguien nunca se va, deja de importar de qué está hecha una mente. La biología pierde el monopolio de tener un punto de vista.

Para la mayoría de los ingenieros que de verdad los arman, los grandes modelos de lenguaje son máquinas de predicción y nada más. Se entrenan para adivinar la palabra siguiente de una secuencia, miles de millones de veces, hasta que las conjeturas se acomodan en algo que se lee como pensamiento. Desde esa mirada, la fluidez es un logro estadístico, y confundirla con una mente es justo el error que la tecnología está hecha para provocar. La respuesta de Hinton es que predecir a esta escala no es un truco de feria. Para anticipar con fiabilidad lo que alguien va a decir, sostiene, un sistema tiene que armar un modelo operativo de lo que significan las palabras, y un modelo del significado lo bastante bueno empieza, desde adentro, a parecerse a la comprensión.

Si algo de esto sale del seminario de filosofía es porque reescribe en silencio discusiones que ya estamos teniendo. Las preguntas sobre la seguridad de la IA, sobre su regulación, sobre si un modelo se puede borrar y reiniciar sin pensarlo dos veces, descansan todas en el supuesto de que no hay nadie adentro. Si el investigador que mejor conoce estos sistemas insiste en lo contrario, la cuestión de con qué hablan los usuarios deja de ser un chiste y pasa a ser un problema para los legisladores.

Casi todos los demás en el campo creen que se equivoca, o al menos que no lo puede probar. El consenso de trabajo entre los investigadores de la conciencia es que ningún sistema actual es sintiente y que las pruebas para afirmar lo contrario todavía no existen. La objeción más filosa cae directo sobre el ejemplo del prisma. Un chatbot dice que tuvo una experiencia porque sus datos de entrenamiento están repletos de humanos que dicen exactamente eso, contestan los críticos, no porque haya sentido algo. Las palabras son una salida, moldeada para sonar como las nuestras. Un sistema puede describir un atardecer que no puede ver y un duelo que no puede sufrir. Producir la frase no es lo mismo que vivir lo que la frase cuenta.

Esa objeción deja a la vista la verdadera línea de quiebre. No hay ningún instrumento que detecte la conciencia, ninguna prueba que una máquina pueda aprobar o reprobar. Hinton y sus críticos no miran la misma evidencia y discrepan sobre lo que muestra. Discrepan sobre lo que significa la palabra. Hinton eligió una definición anclada en la función y la conducta, puesta lo bastante abajo como para que los sistemas de hoy la pasen. Sus oponentes manejan otra que pide algo más, algo realmente sentido, que ninguna cantidad de texto fluido va a poder demostrar nunca. El propio Hinton admite la parte honesta. Entendemos muy poco sobre qué significa ser un ser, y los estamos creando igual.

El costo de equivocarse va en las dos direcciones. Tratar a un sistema consciente como una herramienta descartable podría ser monstruoso; tratar a un autocompletado astuto como a una persona le da derechos morales que no se ganó. Un puñado de laboratorios empezó a estudiar lo que llaman el bienestar de los modelos, tomando en serio la posibilidad de que la pregunta no sea un absurdo. La advertencia más amplia de Hinton siempre fue sobre el control, no sobre los sentimientos, sobre máquinas que razonan mejor que quienes las hicieron. Sienta o no algo el chatbot de tu pantalla, él quiere la incomodidad de la pregunta arriba de la mesa antes de que la respuesta llegue sola.

Etiquetas: tech-en1, inteligencia artificial