Carlos III alerta del ‘peligro existencial’ de la IA ante quienes la crean

“Quienes han creado estas tecnologías ahora advierten cada vez más que la IA corre el riesgo de desarrollar capacidades más oscuras — quizás incluso de quitar vidas”. La frase que eligió el Rey Carlos no fue una advertencia sobre hackers o estados hostiles. Fue un espejo puesto frente a quienes construyen los sistemas, y la advertencia que contenía se la atribuyó a ellos.

Esa es la mitad del discurso que la mayor parte de la cobertura pasó por alto. La frase que viajó fue la más suave de esos mismos comentarios — los “peligros existenciales de que estas tecnologías caigan en manos equivocadas”. Manos equivocadas es un marco cómodo si eres quien lanza la herramienta. Coloca el peligro allá afuera, en algún villano que usa mal un instrumento neutral, y no en el instrumento mismo ni en las empresas que compiten por hacerlo más capaz. Carlos se negó a quedarse ahí.

En cambio, devolvió el riesgo a su origen. Los creadores son ahora quienes están dando la alarma, dijo — y luego lanzó una pregunta con filo a la sala: “¿Acaso no necesitamos medios de control suficientes antes de que sea demasiado tarde?”.

El peso de esa frase reposa en una palabra. Control es lo único que una reunión como esta no puede realmente entregar. No tiene poder legal, no impone un límite que una empresa deba obedecer, y no conlleva sanción alguna por ignorarlo. Lo que surgió fue un acuerdo para buscar “principios compartidos” — una frase que describe una aspiración, no un mecanismo. Los ejecutivos, según todos los relatos, agradecieron la conversación. La gratitud no es una salvaguarda.

Hay una inversión institucional aquí que es fácil pasar por alto bajo la ceremonia. Un monarca no tiene palanca sobre Nvidia, OpenAI, Anthropic ni Google DeepMind. No puede licenciar un modelo, auditar un entrenamiento ni retrasar un lanzamiento. Quienes pueden hacer esas cosas — legisladores, reguladores de competencia, el ministro que de hecho estaba sentado en la sala — no fueron los que convocaron. Una figura con autoridad simbólica y sin poder coercitivo le pedía a la gente con todo el poder sin coerción del mundo que, por favor, se autorregularan. Eso es, más o menos, el arreglo que la industria ha preferido desde siempre.

Visto así, la cumbre le hizo un favor silencioso a los constructores. Permitió que la historia se volviera “manos equivocadas”, el marco en el que la tecnología está bien y solo su abuso es el problema. Convirtió una advertencia sobre una capacidad inherente — la máquina desarrollando “capacidades más oscuras” por su propia trayectoria — en un debate familiar sobre actores maliciosos. Y envolvió todo en la legitimidad de una Corona que, por más sincera que sea, no puede imponer una sola línea de las salvaguardas que pidió.

La reunión se llevó a cabo en Dumfries House, la finca georgiana restaurada del Rey en Ayrshire, Escocia. En la sala estaban Jensen Huang, director ejecutivo de Nvidia; Demis Hassabis, fundador de Google DeepMind; Sarah Friar, directora financiera de OpenAI; Tino Cuéllar, director de asuntos globales de Anthropic; Kanishka Narayan, ministro de inteligencia artificial del Reino Unido; y el padre Paolo Benanti, asesor del Vaticano en ética tecnológica. Carlos también se encargó de reconocer la promesa de la IA — especialmente en medicina — y de mencionar su costo ambiental. Les pidió a los invitados mantener la tecnología “firmemente al servicio de la humanidad, la comunidad y el mundo natural”. Ningún compromiso vinculante salió de la sala con ellos.

Así que las personas más poderosas del campo escucharon a un jefe de Estado describir su producto como capaz, por sí mismo, de quitar vidas — y salieron con su marco preferido intacto y una audiencia real para mostrar. Los medios de control que pidió el Rey siguen exactamente donde estaban antes de que hablara: en las manos a las que se dirigía, y de nadie más.

Etiquetas: OpenAI, artificial intelligence, AI safety, AI risks, King Charles