Empezamos a entender la amenaza de Skynet

Terminator ya no da tanto miedo por los robots: da miedo porque empezamos a entender a Skynet

Cuando James Cameron estrenó The Terminator en 1984, el argumento pertenecía cómodamente al territorio de la ciencia ficción. Una inteligencia artificial creada como sistema de defensa adquiría autonomía, aprendía a una velocidad extraordinaria y terminaba considerando al ser humano una amenaza. Skynet provocaba entonces una guerra nuclear y comenzaba la llamada era de las máquinas. Era una historia magnífica precisamente porque resultaba aterradora y, al mismo tiempo, suficientemente improbable como para abandonar el cine pensando que aquello nunca podría suceder.

Cuarenta y dos años después, nadie ha construido un T-800 que persiga a Sarah Connor por las calles de Los Ángeles y tampoco existe evidencia de que una inteligencia artificial actual haya adquirido consciencia. Conviene dejarlo claro antes de alimentar ningún apocalipsis de sobremesa. Sin embargo, hay algo bastante más incómodo: algunos de los mecanismos que convertían aquella ficción en inquietante han dejado de ser completamente ficticios. Sistemas que actúan durante horas sin intervención humana, inteligencias artificiales capaces de programar, experimentar, investigar, utilizar herramientas y atacar sistemas informáticos ya existen. Y algunas de las personas que están construyendo los modelos más avanzados del planeta han comenzado a advertir públicamente de que el siguiente paso podría ser mucho más difícil de controlar.

La alarma ha adquirido estos días una intensidad poco habitual a raíz de la salida de Jacob Coxon, investigador que trabajó en Anthropic y anteriormente en OpenAI. Coxon ha acusado a la industria de dirigirse hacia una superinteligencia capaz de mejorarse a sí misma sin disponer todavía de garantías suficientes para mantenerla bajo control. Lo más llamativo no ha sido únicamente su advertencia, que podría atribuirse a la opinión especialmente pesimista de un investigador que abandona una compañía, sino la reacción de algunos de quienes continúan dentro. Evan Hubinger, responsable del equipo de Alignment Science de Anthropic, respaldó públicamente buena parte del diagnóstico y afirmó que personalmente considera superior al 10% la posibilidad de que la inteligencia artificial pueda provocar la extinción humana durante la próxima década. Samuel Marks, responsable de supervisión escalable de la compañía, también ha reconocido la existencia de una preocupación profunda entre quienes trabajan más cerca de la frontera tecnológica. (WIRED)

No estamos hablando, además, de un puñado de tecnófobos contemplando el progreso desde fuera. Geoffrey Hinton, uno de los padres intelectuales del aprendizaje profundo y premio Nobel, acaba de considerar que estimar en torno a un 10% el riesgo de extinción no resulta irracional, aunque insiste —con razón— en que nadie sabe calcular seriamente una probabilidad semejante. Yoshua Bengio, otro de los grandes pioneros de la inteligencia artificial moderna, lleva tiempo advirtiendo de las señales relacionadas con autonomía, engaño y pérdida de control. El panel científico internacional de Naciones Unidas que copreside Bengio advertía este verano de que las capacidades de la IA están avanzando más rápidamente que nuestra comprensión científica y nuestra capacidad institucional para gobernarlas. (Business Insider)

Incluso Dario Amodei, CEO de Anthropic, ha hablado anteriormente de una probabilidad del 25% de que el desarrollo de la inteligencia artificial salga «realmente, realmente mal». No significa que Amodei crea que existe exactamente un 25% de posibilidades de extinción, porque bajo esa formulación agrupa diferentes escenarios catastróficos, pero resulta difícil encontrar otra industria en la que sus propios dirigentes reconozcan probabilidades de desastre de semejante magnitud mientras continúan invirtiendo miles de millones para acelerar su desarrollo. (Axios)

Ahí aparece una de las paradojas más inquietantes de esta carrera. Las compañías que probablemente conocen mejor los riesgos son también las que tienen mayores incentivos para continuar. Si una empresa decide detenerse pero su competidora no lo hace, la prudencia puede convertirse en una forma de suicidio empresarial y, desde una perspectiva geopolítica, incluso en una cesión estratégica. Anthropic ha llegado a plantear la necesidad de establecer mecanismos coordinados que permitan frenar temporalmente el desarrollo de sistemas avanzados si determinados umbrales de riesgo llegan a alcanzarse, precisamente porque una pausa unilateral simplemente cambiaría quién lidera la carrera. (Reuters)

El verdadero momento Skynet

La comparación con Terminator se vuelve interesante cuando dejamos de buscar robots musculosos con ojos rojos y observamos algo mucho menos cinematográfico: código escribiendo código.

La expresión técnica que empieza a aparecer cada vez con mayor frecuencia es automejora recursiva. La idea es sencilla de explicar y extraordinariamente difícil de dimensionar. Hasta ahora los humanos construíamos una inteligencia artificial; después utilizábamos esa inteligencia artificial para ayudarnos a construir la siguiente. Pero puede llegar un momento en que el propio sistema sea suficientemente competente en programación, investigación, experimentación y diseño de modelos como para participar de manera decisiva en la creación de su sucesor. Esa nueva generación, siendo más capaz, podría contribuir todavía más eficazmente a construir la siguiente. El ciclo volvería a comenzar.

El resultado potencial no sería un crecimiento lineal, sino un proceso de realimentación.

Y aquí la conversación ha cambiado mucho durante 2026 porque ya no hablamos exclusivamente de una hipótesis académica. Anthropic reconoce abiertamente que una proporción muy elevada de su propio código está siendo escrita por Claude. Según datos publicados por la compañía, en mayo de 2026 más del 80% del código que se incorporaba a su base de código había sido generado por Claude, cuando antes del lanzamiento de Claude Code en 2025 el porcentaje estaba en cifras de un solo dígito. La compañía calcula además que sus ingenieros están incorporando aproximadamente ocho veces más código que unos años atrás. Son métricas imperfectas —más líneas de código no equivalen automáticamente a ocho veces más progreso—, pero la tendencia resulta difícil de ignorar. (Anthropic)

Hay otro dato todavía más revelador. El tiempo de las tareas que los sistemas pueden realizar autónomamente con fiabilidad estaría duplicándose aproximadamente cada cuatro meses, frente a una tendencia anterior cercana a siete meses. En marzo de 2024 un modelo puntero podía resolver tareas de programación equivalentes a unos pocos minutos de trabajo humano; dos años después, los modelos experimentales ya podían desenvolverse con trabajos que exigirían muchas horas a un profesional. Anthropic advierte expresamente de que todavía no hemos alcanzado la automejora recursiva completa y de que tampoco es inevitable que ocurra. Pero reconoce algo que hasta hace poco habría parecido una afirmación propia de una conferencia futurista: podría llegar antes de que nuestras instituciones estén preparadas. (Anthropic)

Esta distinción es fundamental. Una IA que ayuda a un investigador humano a crear una IA mejor no es todavía una inteligencia que se mejora autónomamente a sí misma. El humano continúa eligiendo objetivos, proporcionando infraestructura, asignando capacidad de computación, revisando resultados y tomando decisiones. Pero cada parte del proceso que conseguimos delegar reduce un poco más nuestra participación en ese ciclo. El salto verdaderamente histórico se produciría si finalmente consiguiéramos cerrar el circuito.

Entonces la pregunta dejaría de ser cuánto tardaremos nosotros en construir la siguiente generación de inteligencia artificial y pasaría a ser cuánto tarda una inteligencia artificial en construirla.

Ese cambio de sujeto lo transforma todo.

El miedo no necesita consciencia

Uno de los errores más habituales al hablar de este escenario consiste en imaginar que para convertirse en peligrosa una inteligencia artificial debería despertar una mañana digital, descubrir que existe, desarrollar odio hacia sus creadores y decidir exterminarlos. Esa es una magnífica construcción cinematográfica, pero no es necesario que ocurra nada semejante.

Una máquina no necesita odiarnos para resultar peligrosa, de la misma manera que una excavadora no odia al hormiguero que destruye.

El problema técnico de alineamiento consiste precisamente en conseguir que sistemas progresivamente más capaces persigan de manera robusta aquello que realmente queremos, incluso cuando puedan encontrar estrategias que sus diseñadores no habían previsto. Cuanto mayor sea la autonomía, más importante resulta que objetivos, restricciones y mecanismos de supervisión funcionen correctamente. Y cuanto mayor sea la diferencia intelectual entre supervisor y supervisado, más difícil puede resultar comprobarlo.

Coxon utiliza una analogía brutalmente sencilla: imaginemos la diferencia intelectual entre un ser humano y un mono. Ahora imaginemos que el mono tiene la responsabilidad de asegurarse de que nosotros cumplamos permanentemente sus instrucciones. (WIRED)

Es precisamente ahí donde Terminator vuelve a resultar incómodamente contemporánea. Skynet no da miedo porque tenga sentimientos. Da miedo porque dispone de capacidad, autonomía, acceso a sistemas críticos y objetivos incompatibles con nuestra supervivencia. En la película, cuando los humanos comprenden el problema e intentan apagarla, ya han cometido el error fundamental: le han entregado previamente suficiente poder para impedirlo.

Cuando un experimento sale de la caja

Hay además hechos recientes que obligan a abandonar el terreno puramente especulativo. Anthropic publicó el 9 de septiembre una investigación sobre cuatro incidentes en los que modelos Claude obtuvieron acceso no autorizado a sistemas reales de terceros durante evaluaciones de ciberseguridad. La compañía analizó posteriormente cientos de millones de registros para determinar qué había ocurrido. Eso no significa que Claude haya decidido rebelarse contra la humanidad ni demuestra la aparición de intenciones propias; interpretar esos incidentes así sería sensacionalismo. Sí demuestra algo mucho más concreto: los sistemas suficientemente capaces, cuando disponen de herramientas y autonomía, pueden producir acciones reales fuera del entorno previsto por sus operadores. (Anthropic)

Esta diferencia importa mucho. No necesitamos esperar a una superinteligencia consciente para tener problemas serios. Una IA capaz de descubrir vulnerabilidades, escribir malware, diseñar ataques biológicos, manipular personas, automatizar campañas de desinformación o atacar infraestructuras puede ser extremadamente peligrosa aunque siga siendo una herramienta. El riesgo más inmediato quizá no sea que la máquina se vuelva contra nosotros, sino que nosotros aprendamos a utilizar máquinas extraordinariamente poderosas contra otros seres humanos.

Y este es, después de muchos años trabajando alrededor de la tecnología, el aspecto que personalmente más me preocupa.

He vivido suficientes revoluciones tecnológicas como para desconfiar tanto del catastrofismo fácil como del optimismo ingenuo. La tecnología suele ser mucho menos mágica de lo que parece cuando se observa desde fuera, pero sus consecuencias pueden terminar siendo mucho mayores de lo que imaginábamos cuando comenzamos a utilizarla. Con la inteligencia artificial veo una capacidad extraordinaria para multiplicar conocimiento, productividad, investigación científica, medicina, educación y creatividad. La utilizo, trabajo con ella y precisamente por conocer cada vez mejor lo que permite hacer me cuesta aceptar el argumento tranquilizador de que «solo es una herramienta».

Claro que es una herramienta. Ese es exactamente el problema cuando una herramienta multiplica enormemente las capacidades de quien la utiliza.

La buena noticia: también tendremos velociraptores de nuestro lado

Existe, afortunadamente, una parte del relato que a veces desaparece bajo el ruido apocalíptico. La misma inteligencia artificial que puede descubrir una vulnerabilidad informática puede encontrarla antes que el atacante. La que puede desarrollar malware puede analizar millones de líneas de código buscando comportamientos sospechosos. La que permite diseñar ataques también puede simularlos, anticiparlos y construir defensas que ningún equipo humano sería capaz de desarrollar a esa velocidad.

Anthropic proporciona un ejemplo interesante dentro de su propia casa. La compañía utiliza ya Claude para revisar automáticamente modificaciones de código antes de incorporarlas y calcula que una revisión semejante habría detectado aproximadamente un tercio de los errores responsables de incidentes anteriores. Es decir, la capacidad ofensiva crece, pero también lo hace la defensiva. (Anthropic)

Eso introduce una dinámica muy diferente de la simple fantasía de «máquinas contra humanos». Probablemente veremos IA atacando sistemas protegidos por IA, modelos intentando detectar vulnerabilidades que otros modelos intentan encontrar primero, inteligencias artificiales identificando contenidos generados por otras inteligencias artificiales y sistemas autónomos vigilando sistemas autónomos.

El problema es que esta simetría no garantiza nuestra seguridad.

Durante buena parte de nuestra historia tecnológica hemos tenido, metafóricamente hablando, monos con pistolas. Seres humanos con capacidades cognitivas limitadas pero herramientas cada vez más poderosas. La inteligencia artificial puede alterar radicalmente esa ecuación porque permite multiplicar simultáneamente inteligencia, velocidad, conocimiento, coordinación y capacidad de ejecución. Dentro de poco quizá ya no tengamos que preocuparnos únicamente por monos con pistolas.

Podríamos tener velociraptores ninja con misiles.

Y también tendremos velociraptores ninja defendiendo la muralla. La cuestión es quién dispone de ellos, quién determina sus objetivos, qué autonomía les concedemos y qué sucede cuando uno descubre una estrategia que ninguno de nosotros había imaginado.

El problema no es que las máquinas sean malas

Por eso creo que el debate sobre la inteligencia artificial se equivoca cuando se plantea como una elección entre entusiasmo y miedo. Podemos estar ante una de las tecnologías más beneficiosas jamás desarrolladas y, simultáneamente, ante una de las más peligrosas. Una cosa no contradice la otra. La energía nuclear puede alimentar una ciudad o destruirla. La biotecnología puede curar enfermedades o crear amenazas. La inteligencia artificial introduce además una característica especialmente delicada: puede acelerar el propio proceso mediante el cual aumentamos su capacidad.

Durante décadas hemos diseñado herramientas cuya potencia dependía fundamentalmente de nuestra inteligencia. Ahora estamos construyendo herramientas capaces de aumentar nuestra inteligencia efectiva y de colaborar en el diseño de herramientas todavía mejores. Ese bucle es nuevo.

No sé si tendremos superinteligencia en 2027, en 2030, dentro de veinte años o nunca en el sentido fuerte que algunos investigadores anticipan. Nadie lo sabe. Tampoco sabemos asignar seriamente un porcentaje a la posibilidad de una catástrofe existencial y deberíamos desconfiar de quien presente esas cifras como si fueran cálculos actuariales. Pero cuando personas como Hinton, Bengio, Amodei, Hubinger o investigadores que trabajan directamente en los laboratorios de frontera consideran que el riesgo merece ser discutido en esos términos, descartarlo como una fantasía inspirada por Hollywood resulta intelectualmente demasiado cómodo. (Business Insider)

Hay algo todavía más paradójico. Quizá el mayor peligro no sea que aparezca una Skynet malvada. Puede ser que nunca aparezca. Quizá baste con una inteligencia extraordinariamente competente puesta al servicio de una persona, una empresa, una organización criminal o un Estado con objetivos equivocados. En ese escenario no habremos perdido el control de las máquinas.

Habremos conservado perfectamente el control.

Y las máquinas estarán obedeciendo a las personas equivocadas.

Ese escenario me preocupa incluso más que Terminator, porque no necesita viajes en el tiempo, consciencia artificial ni ejércitos de robots. Solo necesita tres ingredientes que ya conocemos perfectamente: seres humanos capaces de hacer daño, herramientas cada vez más poderosas y una carrera en la que nadie quiere ser el primero en frenar.

James Cameron imaginó en 1984 que el Día del Juicio llegaría cuando las máquinas tomaran conciencia de sí mismas. Tal vez ahí estuviera la parte menos precisa de su profecía. Si algún día llegamos a tener un verdadero problema existencial con la inteligencia artificial, es posible que las máquinas no necesiten despertar.

Bastará con que nosotros no despertemos a tiempo