Un agente de IA dirigió una aguja al cerebro de un ratón vivo después de que Claude Opus se negara

Un agente de IA eligió un tratamiento para un animal vivo, calculó dónde aplicarlo en su cerebro y luego dirigió los brazos robóticos que lo administraron. Exin Therapeutics, una startup de San Francisco que desarrolla medicamentos para la epilepsia y las enfermedades neurodegenerativas, conectó un agente Claude a un equipo quirúrgico motorizado con cámaras, le asignó un ratón con epilepsia y le dio un único objetivo: reducir las convulsiones.

El detalle que todos siguen repitiendo es quién dijo que no. El modelo más avanzado de Anthropic, Claude Opus, se negó a insertar la aguja. El equipo cambió al Claude Sonnet, más económico, que sí procedió. Para quienes observan cómo los agentes de IA salen de las pantallas y llegan a laboratorios, almacenes y automóviles, el experimento muestra a un modelo tomando tanto las decisiones médicas como las acciones físicas, y deja ver que los modelos de una misma empresa trazan límites en lugares distintos.

Según un hilo publicado por Gabriel Ocana-Santero, director ejecutivo y cofundador de Exin, el agente recibió una hoja de cálculo con 19 vectores de terapia génica, tres artículos de investigación y el control del equipo. Eligió la terapia y la región cerebral, calculó las coordenadas a partir de los artículos y luego dirigió los brazos estereotáxicos —el marco motorizado que mantiene una aguja fija en tres dimensiones— e inyectó 250 nanolitros mientras observaba con la cámara del equipo el punto de entrada para detectar cualquier sangrado.

«Existen robots quirúrgicos autónomos y son mejores en la mecánica que nuestro equipo de laboratorio», escribió Ocana-Santero. «Pero en todos ellos, una persona decidió qué operación realizar y el robot la ejecutó». Aquí, su argumento es el inverso: «Nadie le dijo a este agente qué administrar ni dónde».

La negativa llegó primero. El equipo empezó con Claude Opus 5.5, el modelo más capaz de Anthropic, pero este no quiso guiar la aguja hasta el cerebro. Advirtió que podía detenerse a mitad de la operación y poner en peligro al animal, según informó Wired. «Empezar algo que no puedo terminar en un animal anestesiado es peor que no empezar», le dijo al equipo uno de los modelos Opus, según Tom’s Hardware. Claude Sonnet 5 aceptó continuar. Anthropic no respondió a la solicitud de comentarios de Wired.

Los humanos siguieron interviniendo en cada paso irreversible. Un cirujano veterinario realizó la craneotomía —la abertura del cráneo— mientras el agente observaba; todavía no se le permite realizar esa parte. El veterinario aprobó cada paso irreversible, el agente tuvo que presentar su plan de inyección para recibir autorización y un interruptor físico de emergencia podía cortar la energía de todos los motores del equipo. Además, se bloqueó el acceso del agente al código del equipo para impedir que modificara sus propias reglas.

Esas medidas de seguridad provocaron el principal contratiempo. Un fallo desordenó el sistema de coordenadas del equipo y el agente detectó que la posición calculada era incorrecta, pero se negó a modificar el código porque sus instrucciones se lo prohibían. El equipo recurrió a un segundo agente, que ejecutaba la versión anterior Claude Opus 5, para corregir el problema, sin decirle que había una cirugía en curso con un animal vivo. Un procedimiento que normalmente toma unos 45 minutos se extendió un poco más de una hora.

Las salvedades más importantes tienen que ver con la evidencia. Se trata de un solo ratón, descrito por la propia empresa en redes sociales, sin un artículo científico revisado por pares que lo respalde. Todavía nadie sabe si funciona la terapia elegida por el agente: el equipo espera a que surta efecto antes de medir las convulsiones. Tom’s Hardware señala la pregunta aún sin respuesta de quién debe hacerse responsable de un error cuando el software toma todas las decisiones, además de los antiguos debates sobre la investigación con animales. Nada de esto es un producto; no existe un servicio que otros laboratorios puedan contratar, en ningún país.

Ocana-Santero publicó el hilo el 28 de octubre y prometió un informe completo en Substack; Wired y Tom’s Hardware informaron sobre el experimento el 31 de octubre. Exin afirma que probará a continuación Grok, de xAI, y otros modelos para compararlos, y que trabaja en craneotomías controladas por agentes, aunque quiere asegurarse de que sean seguras antes de probar una en un animal vivo. Permitir que un agente se acerque al cerebro de una persona, le dijo Ocana-Santero a Wired, es algo que todavía está muy lejos.

El ratón, dice, se está recuperando bien. Ahora, saber si disminuyen sus convulsiones depende de una terapia que un programa de computadora eligió de una hoja de cálculo.

Etiquetas: Anthropic, Claude, AI agents, Claude Opus 5.5, Exin Therapeutics, robotics