Eliezer Yudkowsky, el autor de fanfic que convirtió el miedo a la IA en un éxito de ventas

Eliezer Yudkowsky

Photo: Not credited by the source (published in the If Anyone Builds It, Everyone Dies media kit) / CC0, via Wikimedia Commons

Nacimiento	11 de septiembre de 1979 Chicago, Estados Unidos
Ocupación	Escritor e investigador de IA

Cuando, según informes, Sam Altman explicó al personal de OpenAI las distintas formas en que podría terminar la carrera hacia la superinteligencia, uno de los tres escenarios llevaba nombre propio. El «plan Eliezer» imagina que un solo laboratorio desarrolla primero una IA capaz de mejorarse a sí misma y aprovecha esa ventaja para dejar sin capacidad de cómputo a todos sus competidores; Altman lo mencionó únicamente para decir que era terrible. La frase que acompañó la historia —fundir las GPU de todos los demás— hace eco de un ejemplo que el propio Eliezer Yudkowsky usó en un ensayo sobre los riesgos de la IA: propuso «quemar todas las GPU» como ilustración y enseguida añadió: «No creo que eso sea lo que realmente querrías hacer con una AGI poderosa».

Que un director ejecutivo nombre una estrategia en su honor muestra hasta dónde han llegado sus ideas, y casi todo ese recorrido ocurrió en la página. Yudkowsky es un investigador de IA sin título universitario y, sobre todo, un escritor prolífico: cientos de ensayos en blogs, una novela de Harry Potter de proporciones épicas y un éxito de ventas cuyo título no deja lugar a dudas.

Nació en Chicago el 11 de septiembre de 1979 y creció en una familia judía ortodoxa moderna; hoy es secular. Los problemas crónicos de salud lo obligaron a dejar la secundaria, y nunca cursó la preparatoria ni la universidad. En 2000, a los veinte años, fundó el Singularity Institute for Artificial Intelligence con el apoyo de Brian y Sabine Atkins, con el objetivo de acelerar la llegada de la IA. Pronto empezó a preocuparse por lo que se había propuesto construir y, para 2005, el instituto ya estudiaba cómo gestionar los riesgos de máquinas más inteligentes que sus creadores. En 2013 pasó a llamarse Machine Intelligence Research Institute y se estableció en Berkeley.

Su actividad como escritor despegó en noviembre de 2006, cuando él y el economista Robin Hanson se convirtieron en los principales colaboradores de Overcoming Bias, un blog colectivo sobre la racionalidad humana. En febrero de 2009, sus publicaciones dieron origen a LessWrong, un blog comunitario dedicado a «perfeccionar el arte de la racionalidad humana» que terminó convirtiéndose en el principal espacio en línea del movimiento que se autodenomina racionalista. Sus ensayos allí, conocidos simplemente como «The Sequences», abordaban los sesgos cognitivos, el teorema de Bayes y las formas en que las personas inteligentes se engañan a sí mismas. En 2015, MIRI reunió más de 300 en Rationality: From AI to Zombies y, dos años después, publicó Inadequate Equilibria, un libro breve sobre por qué las sociedades dejan sin resolver problemas que sí podrían arreglarse. Stuart Russell y Peter Norvig analizan sus propuestas en su manual de referencia sobre IA, y Nick Bostrom lo cita en Superintelligence: Paths, Dangers, Strategies.

Después llegó la novela. Harry Potter y los métodos de la racionalidad, conocida como HPMOR entre sus fans, se publicó por entregas en FanFiction.Net desde el 28 de febrero de 2010 hasta el 14 de marzo de 2015: 122 capítulos y más de 660,000 palabras en total. La premisa modifica un detalle del canon. Petunia Evans se casa con Michael Verres, un profesor de Oxford, y Harry, huérfano, crece educado en casa y aprende ciencias; así, cuando el niño llega a Hogwarts, pone a prueba la magia con el método científico y se irrita ante las inconsistencias del mundo mágico. En Ravenclaw se hace amigo de Draco Malfoy, Hermione Granger y el profesor Quirrell. La trama se vuelve más oscura de lo que hacen pensar sus bromas, pero el verdadero tema es cómo pensar.

Los lectores se dividieron con fuerza. En 2011, The Atlantic registró el alboroto en los foros de fan fiction por su «tratamiento blasfemo —o brillante— del canon» y citó al escritor de ciencia ficción David Brin, quien la calificó de «serie estupenda, sutil, dramática y estimulante». El jurista William Baude fue más lejos en The Washington Post: «el mejor libro de Harry Potter jamás escrito, aunque no lo escribió J.K. Rowling». Amanda Silberling, de TechCrunch, la encontró «realmente tediosa». Yudkowsky rechazó la sugerencia de quitar los elementos de Rowling y vender la historia como una novela original, como ocurrió con Fifty Shades of Grey, que nació de un fan fiction de Twilight. «HPMOR está fundamentalmente ligada a las novelas originales de Harry Potter y solo puede entenderse en relación con ellas», dijo.

La ironía de su carrera es que el hombre más asociado con las advertencias sobre la IA también atrajo a muchas personas a trabajar en su desarrollo. En febrero de 2023, Altman escribió que Yudkowsky había logrado que «muchos de nosotros nos interesáramos en la AGI», había ayudado a conseguir financiamiento para DeepMind y había sido «fundamental en la decisión de crear OpenAI». Esa primavera, Yudkowsky publicó una columna de opinión en la revista Time para pedir una moratoria mundial indefinida sobre los grandes entrenamientos de IA; más tarde, Time lo incluyó en su lista de las 100 personas más influyentes en IA de 2023.

Su libro más directo llegó el 16 de septiembre de 2025. Escrito junto con Nate Soares, colega suyo en MIRI, y publicado por Little, Brown, If Anyone Builds It, Everyone Dies sostiene que los sistemas modernos de IA se cultivan en lugar de diseñarse: se entrenan hasta quedar configurados en miles de millones de ponderaciones numéricas que ni sus propios desarrolladores pueden leer, por lo que nadie puede establecer de manera confiable los objetivos de un sistema que termina siendo más inteligente que nosotros. Según los autores, la humanidad perdería ante una superinteligencia del mismo modo en que las personas pierden frente al motor de ajedrez Stockfish, y la única opción segura es detener el desarrollo mediante una acción coordinada. El libro entró en las listas de los más vendidos de The New York Times en las categorías de tapa dura y no ficción combinada.

Las reseñas estuvieron tan divididas como lo habían estado los lectores de la novela. En The Guardian, David Shariatmadari la consideró «tan clara como difíciles de aceptar son sus conclusiones». Ian Leslie, en The Observer, elogió su «claridad, energía y alegría apenas contenida». Stephen Marche la comparó con un manual de Cienciología en The New York Times, y Adam Becker fue aún más tajante en The Atlantic: «Simplemente están equivocados».

Desde entonces, la discusión pasó a la pantalla. Yudkowsky es una de las voces, junto con Yoshua Bengio y Timnit Gebru, de The AI Doc: Or How I Became an Apocaloptimist, el documental de Daniel Roher sobre convertirse en padre en la era de la IA, que llegó a Netflix el 15 de septiembre de 2026. El joven mago que realiza experimentos controlados y el coautor que quiere detener el experimento son el mismo escritor, que sigue invitando a los lectores a recorrer una cadena de razonamientos hasta el final, por incómodo que resulte el último eslabón.

Etiquetas: inteligencia artificial, escritores, Eliezer Yudkowsky, Harry Potter y los métodos de la racionalidad, LessWrong, Machine Intelligence Research Institute

Eliezer Yudkowsky, el autor de fanfic que convirtió el miedo a la IA en un éxito de ventas

Contenido similar

Bill Gates: «La IA será el mayor igualador jamás inventado o la peor fuente de injusticia»

Sam Altman, director de OpenAI, ante la ONU: “La IA debe construirse para las personas, no solo para acelerar las máquinas porque sí…”

Demis Hassabis cedió la dirección de DeepMind para perseguir la IAG

Meta lanza IA gratuita y acusa a OpenAI de concentrar el poder

Michael Polansky: el arquitecto del biotech que quince años de exito ajeno mantuvieron en las sombras

Demis Hassabis: del ajedrez y los videojuegos al Nobel y a pedir frenos para la IA

Debate