La pregunta que una IA brillante no se hizo

Hace unos días estaba trabajando en AiTwiners, un proyecto tecnológico basado en inteligencia artificial, en una fase especialmente delicada de su arquitectura. Había que diseñar una nueva zona de trabajo editorial, uno de esos problemas en los que cada decisión aparentemente pequeña termina afectando a muchas otras: qué se guarda, qué puede modificarse, qué debe conservarse como histórico, cómo se recupera una versión anterior y qué ocurre cuando varias acciones suceden al mismo tiempo.

Para resolverlo recurrí a uno de los modelos de IA más potentes que tenía disponibles, un modelo de OpenAI de última generación. La versión concreta importa poco —dentro de unos meses probablemente el nombre ya sonará antiguo—, pero para situar la historia diré que era GPT-6 Astra. El trabajo fue muy bueno. Elaboró una arquitectura sólida, sofisticada y coherente, y entre otras decisiones propuso conservar mediante versiones inmutables la evolución de los contenidos.

Después hice algo que cada vez practico más. Le enseñé el resultado a otro modelo, en este caso GPT-5.6 Sol, técnicamente inferior al primero, y le pedí que lo revisara.

No encontró un desastre. No descubrió que la arquitectura estuviera mal concebida ni desmontó el razonamiento anterior. Hizo algo bastante más interesante: formuló una pregunta.

¿Realmente tiene sentido crear una versión histórica cada vez que el sistema guarda automáticamente un borrador?

Traducido al lenguaje normal: imaginemos un documento que se va guardando solo mientras escribimos. ¿Queremos conservar para siempre como versiones históricas todos y cada uno de esos pequeños guardados, o sólo aquellos momentos que de verdad significan algo, como una aprobación, una revisión importante o una restauración?

La pregunta parecía menor, pero no lo era.

Se la trasladé al primer modelo. Al recibir el problema aislado y planteado de aquella manera, Astra reconsideró su propia propuesta y llegó a una solución mejor: separar el documento vivo, que puede cambiar y guardarse continuamente, de las versiones históricas verdaderamente relevantes, que sólo se generan cuando ocurre algún hito editorial significativo.

El resultado final era mejor que el inicial. Pero lo que me interesó de aquella experiencia no fue descubrir que un modelo supuestamente menos potente había sido capaz de “ganar” a otro. Esa conclusión sería superficial y, además, bastante injusta. El modelo más avanzado había resuelto la parte realmente difícil del problema. El segundo simplemente llegó desde otro lugar y formuló una pregunta que el primero, inmerso en su propia construcción, no se había hecho.

Ahí está, creo, una de las lecciones más interesantes que estoy encontrando al trabajar intensivamente con inteligencia artificial: una segunda mirada tiene valor por independencia.

No necesariamente porque sea más inteligente. Ni siquiera porque sea igual de inteligente. Su principal ventaja puede consistir simplemente en no haber recorrido el mismo camino.

Quien construye una solución queda inevitablemente condicionado por las decisiones que ha ido tomando para llegar hasta ella. Nos ocurre a las personas desde siempre. Un arquitecto puede pasar meses proyectando un edificio magnífico y otro profesional, al verlo por primera vez, preguntar por qué hace falta precisamente aquella estructura. Un abogado puede redactar un contrato técnicamente impecable y un compañero detectar una cláusula cuyo efecto práctico había quedado oculto entre decenas de decisiones perfectamente razonables. Un periodista puede conocer tanto su propio reportaje que deja de percibir una laguna evidente hasta que un editor externo la señala.

Lo mismo sucede con el código. Un programador puede entender hasta el último detalle de una aplicación y, precisamente por eso, haber dejado de cuestionar una decisión que tomó semanas atrás. Quien llega de fuera no posee todo ese conocimiento, pero tampoco carga con todos sus supuestos. Incluso ocurre en situaciones mucho más cotidianas: un niño puede hacer una pregunta aparentemente ingenua que obliga a un adulto a darse cuenta de que llevaba mucho tiempo dando algo por supuesto sin saber muy bien por qué.

La inteligencia artificial añade una versión nueva de este fenómeno.

Llevo muchos años trabajando en tecnología, producto, estrategia digital y reputación online. En inteligencia artificial generativa llevo bastante menos, naturalmente, como otros investigadores o early adopters que estamos metidos de lleno en este mundillo. Aquí nadie puede presumir seriamente de varias décadas de experiencia: todos estamos participando, en mayor o menor medida, en una especie de gigantesco laboratorio de I+D en tiempo real, donde las herramientas, las posibilidades y hasta las buenas prácticas cambian mientras todavía estamos aprendiendo a utilizarlas.

Y una de las cosas que estoy aprendiendo es precisamente esta: no siempre conviene pedir una segunda opinión porque la primera haya sido mala. A veces conviene pedirla justamente porque ha sido muy buena.

Una solución mediocre suele mostrar sus defectos con cierta facilidad. Una solución sofisticada es más peligrosa en otro sentido: puede resultar tan coherente internamente que algunos de sus supuestos de partida dejen de cuestionarse. Todo encaja porque todo se ha construido sobre aquellas decisiones iniciales. La segunda inteligencia no necesita rehacer el trabajo; puede aportar valor simplemente preguntando si alguna de esas decisiones era inevitable.

Por eso quizá convenga distinguir entre dos propiedades que con frecuencia mezclamos cuando hablamos de IA. La potencia reduce la probabilidad de error; la independencia ayuda a descubrir errores diferentes.

No son la misma cosa.

Un modelo más capaz puede razonar mejor, manejar más contexto, detectar relaciones más complejas y producir soluciones de mayor calidad. Todo eso tiene un enorme valor. Pero si le pedimos que revise una y otra vez su propia construcción, seguirá haciéndolo desde una historia de razonamiento condicionada por las decisiones anteriores. Introducir otra inteligencia crea una pequeña ruptura en esa continuidad.

Lo interesante de mi experiencia con AiTwiners es que el primer modelo no se resistió a esa revisión. No hubo ninguna especie de duelo entre inteligencias artificiales. Al recibir una objeción concreta, la incorporó, reconsideró ese punto y mejoró su propio diseño. La arquitectura inicial había sido buena; la pregunta externa permitió hacerla mejor.

Eso se parece bastante a la lógica del peer review, la revisión por pares, aunque aplicada de una manera todavía rudimentaria a los agentes de inteligencia artificial. El objetivo de una revisión científica seria no debería ser demostrar que el investigador anterior es incompetente, sino someter su trabajo a una mirada independiente capaz de detectar supuestos débiles, lagunas o interpretaciones alternativas. En el trabajo intelectual de calidad ocurre algo parecido: construir y cuestionar son funciones diferentes, y ambas tienen valor.

A medida que las empresas empiecen a trabajar con varios agentes especializados, esta idea puede adquirir bastante más importancia de la que hoy parece. Quizá no siempre tenga sentido buscar obsesivamente “el modelo más inteligente” para entregarle todo el proceso. Puede resultar más eficaz utilizar inteligencias con funciones distintas: una que construya una propuesta, otra que trate de encontrar contradicciones, otra que compruebe datos y otra que intente localizar los puntos por los que la solución podría fallar.

No porque las máquinas estén reproduciendo ya un equipo humano en sentido fuerte, sino porque hay algo valioso en la estructura del método. Los buenos equipos tampoco se forman contratando a diez personas idénticas para que piensen exactamente igual. Parte de su calidad surge de las diferencias entre ellas, de sus especialidades, de sus experiencias y, muchas veces, de la capacidad de alguien para hacer la pregunta que los demás no habían considerado.

Durante estos años hemos dedicado mucha atención a elegir modelos: cuál escribe mejor, cuál programa mejor, cuál razona mejor, cuál tiene más contexto o cuál obtiene mejores resultados en determinados benchmarks. Todo eso seguirá importando. Pero quizá aparezca una competencia adicional, más cercana a la dirección que al simple uso de herramientas: aprender a orquestar inteligencias.

Saber quién debe construir, quién debe revisar, cuándo merece la pena introducir una mirada nueva y cuándo una segunda opinión sólo añadiría coste y ruido.

Mi pequeña experiencia con aquella arquitectura no demuestra ninguna gran teoría sobre inteligencia artificial. Tampoco convierte un modelo menos potente en uno mejor. Lo que sí me recordó es algo bastante antiguo que la tecnología no ha abolido: incluso una solución excelente puede beneficiarse de alguien que llegue después y pregunte, sencillamente, “¿por qué esto tiene que ser así?”.

Las IA serán cada vez más capaces y seguramente cometerán menos errores. Pero precisamente por eso nuestras habilidades para dirigirlas tendrán que hacerse también más sofisticadas. Quizá una de las competencias profesionales más importantes no sea simplemente saber cuál elegir, sino saber cuándo necesitamos otra mirada independiente.