La política siempre ha tenido dificultades para gobernar la tecnología. No porque toda regulación sea innecesaria, sino porque las leyes necesitan categorías estables mientras la innovación las cambia continuamente. La inteligencia artificial está llevando esa contradicción al límite: cuando el legislador consigue entender una parte del problema, las empresas y los usuarios ya están resolviendo otro.

Hace unos días escribía en este blog sobre una pregunta que probablemente escucharemos muchas veces durante los próximos años: si un determinado texto ha sido escrito por una persona o por una inteligencia artificial (Ver aquí). Mi conclusión era que quizás estamos convirtiendo en trascendental una distinción que cada vez explicará menos cosas. Un profesional puede aportar el conocimiento, las fuentes, la tesis, el criterio y la responsabilidad de un artículo y utilizar una inteligencia artificial para ayudarle a desarrollarlo, mientras otra persona puede escribir sin IA sobre una materia que desconoce completamente. Saber quién eligió materialmente cada palabra nos aporta información sobre el proceso, pero muy poca sobre el valor intelectual del resultado.

La actualidad ha convertido esta discusión en algo bastante menos teórico. Anthropic anunció el pasado 14 de agosto que los nuevos modelos de Claude incorporarán una marca de agua estadística en los textos que generan. No añade caracteres ocultos ni inserta una etiqueta visible, sino que modifica sutilmente determinadas elecciones entre palabras posibles para dejar un patrón detectable posteriormente. La propia compañía reconoce que esa señal únicamente permite concluir que Claude estuvo probablemente involucrado en algún momento del proceso y que no puede distinguir entre un texto escrito originalmente por Claude y otro intensamente editado por el modelo. Incluso una traducción puede contener la marca aunque todas las ideas procedan íntegramente del autor del documento original.

Google trabaja desde hace tiempo en una dirección similar con SynthID, que incorpora marcas digitales en imágenes, audio, vídeo y también texto generado mediante Gemini. En este último caso, la señal se construye modificando ligeramente las probabilidades con las que el modelo selecciona determinados tokens. Google ha advertido además desde el principio de que el watermarking no constituye una solución definitiva para identificar todo el contenido creado mediante inteligencia artificial y que una reescritura profunda puede reducir considerablemente su capacidad de detección.

No estamos, por tanto, ante una extravagancia de una compañía tecnológica. Detrás se encuentra el artículo 50 del Reglamento Europeo de Inteligencia Artificial, cuyas obligaciones de transparencia comenzaron a aplicarse el 2 de agosto de 2026 y que exige a los proveedores de sistemas generativos adoptar mecanismos que permitan detectar determinados contenidos como artificialmente generados o manipulados.

La intención resulta comprensible. La posibilidad de fabricar fotografías falsas, voces clonadas, vídeos inexistentes o campañas de desinformación a una escala desconocida hasta ahora plantea problemas reales y exige respuestas. Sería absurdo defender que la tecnología debe desarrollarse en un vacío jurídico simplemente porque evoluciona deprisa.

Lo que me interesa es otra cosa.

Porque la historia del watermarking de los textos vuelve a revelar una vieja debilidad de la política frente a la tecnología: la tendencia a enfrentarse a realidades nuevas utilizando categorías construidas para el mundo anterior y, cuando esas categorías ya no funcionan demasiado bien, intentar recuperar el control mediante etiquetas, registros, prohibiciones y obligaciones de información.

Es nuestra versión digital de ponerle vallas al campo.

El problema no es que los políticos regulen. Es que suelen hacerlo tarde y mal.

La expresión puede parecer excesivamente dura, pero quienes llevamos muchos años trabajando alrededor de Internet, la estrategia online y la reputación digital hemos visto suficientes ciclos tecnológicos como para reconocer un patrón bastante estable. Primero aparece una innovación y durante algún tiempo casi nadie en las instituciones presta demasiada atención. Después crece, empieza a modificar mercados y costumbres, aparece algún abuso visible y el asunto alcanza la conversación pública. Solo entonces llega la presión política por «hacer algo». Comienzan las consultas, los estudios, las negociaciones y los procedimientos legislativos y, cuando finalmente entra en vigor la norma, la tecnología que originó el debate lleva años evolucionando.

Con la inteligencia artificial esa diferencia de velocidades resulta todavía más extrema.

Un procedimiento legislativo europeo serio necesita inevitablemente tiempo. Debe conciliar intereses nacionales, derechos fundamentales, sectores económicos, competencia, seguridad jurídica y multitud de cuestiones legítimas. El problema consiste en que durante esos años la tecnología no permanece congelada esperando la decisión.

El AI Act ofrece un ejemplo casi perfecto. El reglamento entró en vigor en agosto de 2024 y su aplicación se diseñó de manera progresiva. Sin embargo, antes incluso de que hubiese terminado de desplegarse completamente, las instituciones europeas ya habían tenido que aprobar modificaciones mediante el llamado AI Omnibus. La Comisión presentó la propuesta de simplificación en noviembre de 2025, se alcanzó un acuerdo político en mayo de 2026 y las modificaciones entraron en vigor el 27 de julio de 2026, apenas unos días antes de que comenzase una de las principales fases de aplicación del reglamento original. Entre otras cosas, se ampliaron hasta 2027 y 2028 los plazos de determinadas obligaciones relativas a sistemas de alto riesgo.

No digo esto para sostener que el AI Act haya fracasado. Sería una conclusión demasiado simplista.

Lo verdaderamente revelador es que la regulación comenzó a necesitar ser corregida antes de haber terminado de aplicarse.

La Comisión argumenta razonablemente que necesitaba adaptar los plazos para que las empresas dispusieran de estándares, orientaciones y herramientas adecuadas. Pero precisamente ahí encontramos el problema de fondo: cuando se legisla sobre una tecnología que todavía está definiendo sus propias estructuras, es extremadamente difícil saber con años de antelación cómo será el ecosistema sobre el que terminarán aplicándose las obligaciones.

En política, una rectificación puede necesitar una nueva norma.

En software, puede bastar una actualización el jueves por la tarde.

Estamos intentando gobernar dos mundos que operan con relojes completamente distintos.

El Derecho necesita categorías estables y la tecnología las actualiza constantemente.

Existe además una dificultad todavía más profunda que la simple velocidad.

El Derecho necesita clasificar.

Necesita establecer quién es consumidor y quién profesional, qué constituye una publicación, dónde se encuentra un prestador de servicios, quién es responsable, qué significa copiar una obra, qué es un dato personal, cuándo existe una comunicación pública o qué debemos considerar contenido generado mediante inteligencia artificial.

Sin categorías suficientemente precisas no existe seguridad jurídica.

Internet lleva treinta años especializándose precisamente en hacer borrosas esas fronteras.

Antes de la Red resultaba relativamente sencillo distinguir entre un periódico y un lector. Hoy una persona puede tener más audiencia desde una cuenta de YouTube que muchas publicaciones tradicionales. Antes publicar internacionalmente exigía una infraestructura industrial considerable; hoy una pequeña empresa puede prestar servicios en cincuenta países desde un despacho. Antes un consumidor consumía y un productor producía; las plataformas convirtieron millones de personas en ambas cosas simultáneamente.

La IA añade ahora otra frontera a la lista de víctimas: la que separaba con relativa comodidad al autor de la herramienta.

Mientras utilizábamos un procesador de textos nadie se preguntaba si Microsoft Word era coautor de una novela. Cuando un arquitecto emplea software especializado para calcular una estructura, nadie atribuye el edificio al programa. Si contrata un estudio externo para determinadas mediciones o dispone de un equipo de delineantes, tampoco concluimos que haya perdido la autoría de su proyecto. Sabemos distinguir entre concepción, dirección, ejecución y responsabilidad.

La IA complica psicológicamente esa distinción porque hace algo que las herramientas anteriores no hacían: habla.

Puede proponer argumentos, escribir párrafos, cuestionar conclusiones, revisar documentación, traducir, resumir y discutir con nosotros utilizando el mismo instrumento que durante siglos consideramos una manifestación directa del pensamiento humano: el lenguaje.

Y entonces empezamos a antropomorfizar la herramienta.

De repente nos preguntamos si «Claude escribió el artículo», aunque el usuario pueda haber dedicado días a suministrarle documentación, discutir cada argumento, rechazar propuestas, aportar conocimiento propio y revisar finalmente todas las afirmaciones.

El legislador se encuentra con esa complejidad y necesita convertirla en algo administrable.

¿Intervino una inteligencia artificial?

Sí o no.

¿Hay que marcarlo?

Sí o no.

¿Debe mostrarse una etiqueta?

Sí o no.

El problema es que la realidad ya ha dejado de funcionar de manera binaria.

Y entonces aparece una excepción extraordinariamente reveladora

Aquí es donde el artículo 50 se vuelve mucho más interesante de lo que parece.

La regulación europea distingue entre dos niveles diferentes de transparencia. Por un lado, el proveedor del sistema generativo debe incorporar mecanismos legibles por máquinas que permitan reconocer determinados contenidos como generados o manipulados mediante IA. Por otro, quien utiliza esos sistemas y publica textos destinados a informar al público sobre asuntos de interés general puede tener una obligación de comunicar de manera visible la naturaleza artificial del contenido.

Pero esta segunda obligación tiene una excepción.

Un texto publicado sobre asuntos de interés público que haya pasado por una verdadera revisión humana o por control editorial no necesita llevar esa etiqueta visible. Y la propia Comisión deja bastante claro que no está hablando de pasar el corrector ortográfico antes de publicar. Define la revisión humana como un examen deliberado de la sustancia realizado por una o varias personas con conocimientos relevantes y juicio profesional sobre la materia. El control editorial supone disponer realmente de autoridad para aprobar, modificar o rechazar el contenido por razones sustantivas, verificar información y valorar la fiabilidad de las fuentes. La responsabilidad editorial exige, además, que alguien asuma finalmente la responsabilidad legal de la publicación.

Resulta difícil imaginar una paradoja mejor.

Después de dedicar enormes esfuerzos regulatorios a determinar si una máquina ha intervenido en la producción de un texto, cuando llega el momento de decidir si ese texto debe advertirse públicamente como artificial, el legislador termina regresando a conceptos bastante más humanos.

Conocimiento, criterio profesional, comprobación de fuentes, control y responsabilidad.

Es decir, prácticamente los mismos elementos que defendía en mi artículo anterior cuando sostenía que preguntar si un texto es «humano o de IA» empieza a resultar insuficiente para determinar su valor.

La regulación parece reconocer implícitamente que la cuestión fundamental no es únicamente qué herramienta intervino, sino qué hizo después una persona competente con aquello que produjo la herramienta.

Y ahí es donde surge una segunda pregunta, mucho más incómoda.

¿Una excepción a medida de los medios tradicionales?

La tentación inicial consiste en pensarlo. Los grandes medios disponen justamente de aquello que describe la norma: redactores, responsables editoriales, directores, procesos de validación, departamentos jurídicos y una organización capaz de asumir formalmente la responsabilidad sobre lo publicado.

El periódico puede utilizar inteligencia artificial en su proceso, revisar posteriormente el resultado y quedar exento de mostrar determinadas etiquetas.

El profesional independiente, la pequeña empresa, un consultor, un creador especializado o una startup pueden estar realizando un proceso intelectualmente igual de riguroso y, sin embargo, no disponer de una estructura formal semejante.

¿Se ha diseñado entonces una excepción para proteger a los medios?

No tenemos elementos para sostener seriamente algo así y conviene decirlo con claridad. La interpretación publicada por la Comisión no limita la revisión humana a periodistas ni reserva el concepto de control profesional a los grandes grupos editoriales. De hecho, menciona expresamente mecanismos como la revisión académica y las cadenas profesionales de validación. Jurídicamente no estamos ante una patente de corso concedida a los periódicos.

Pero descartar la intención no elimina el efecto. Y el efecto puede resultar mucho más interesante que cualquier teoría conspirativa.

Las regulaciones complejas favorecen estructuralmente a quienes disponen de estructuras complejas para gestionarlas.

Un gran grupo editorial puede pedir a su departamento jurídico que redacte un protocolo de revisión. Puede identificar formalmente quién posee responsabilidad editorial, registrar procedimientos, documentar la supervisión, consultar a expertos y acreditar posteriormente qué controles aplicó.

El autónomo que escribe sobre su especialidad tiene que hacer exactamente lo mismo mientras además intenta llevar su negocio.

La ley puede tratar formalmente igual a ambos; pero el coste de comprenderla y demostrar que se ha cumplido puede ser radicalmente distinto.

La burocracia es mucho más barata cuando se compran abogados al por mayor

Este es uno de los fenómenos que más me preocupan cuando Europa intenta regular mercados digitales. La complejidad jurídica no suele expulsar del mercado a las grandes empresas. Las grandes empresas convierten la complejidad jurídica en otro departamento.

Para Google, Meta, Microsoft o una gran editorial, una nueva obligación europea puede exigir abogados adicionales, responsables de compliance, documentación y cambios de producto. Son costes relevantes, sin duda, pero forman parte de organizaciones capaces de repartirlos entre millones de clientes o usuarios.

Para una startup con ocho personas, esas mismas obligaciones pueden determinar si el siguiente empleado será un programador que mejore el producto o un asesor necesario para explicar qué puede hacer el programador sin infringir una norma. Ahí aparece una contradicción que Europa debería tomarse mucho más en serio.

Buena parte de la regulación tecnológica nace con el propósito declarado de limitar los abusos de los actores dominantes y proteger a ciudadanos y empresas pequeñas. Sin embargo, si cada nueva capa de protección requiere especialistas, documentación, auditorías y procesos adicionales, el coste fijo de participar en el mercado aumenta. Y cuanto mayor es ese coste fijo, más fácil resulta absorberlo cuando ya se es grande.

La burocracia puede terminar siendo una formidable barrera de entrada sin que nadie la haya diseñado conscientemente para serlo. No hace falta imaginar a políticos conspirando en un despacho para favorecer a las grandes compañías o a determinados medios. Basta con un sistema que considere el coste jurídico únicamente desde la perspectiva de quien tiene capacidad para cumplirlo.

Ya hemos visto antes esta película

España cuenta con un antecedente particularmente ilustrativo de lo que ocurre cuando se intenta corregir un mercado digital dando por supuesto cómo reaccionarán sus actores.

En 2014, la reforma de la Ley de Propiedad Intelectual introdujo un mecanismo que obligaba a los agregadores a compensar a los editores por mostrar fragmentos de sus noticias. La medida pretendía proteger económicamente a los medios frente a las grandes plataformas y venía impulsada por una vieja disputa acerca de quién capturaba el valor generado alrededor de la información periodística.

Google respondió de una manera extraordinariamente sencilla: cerró Google News en España.

Lo hizo en diciembre de 2014, antes de la entrada en vigor de la reforma. La compañía sostuvo entonces que el nuevo derecho de compensación resultaba obligatorio incluso para editores que quisieran aparecer gratuitamente en el servicio y que, al no mostrar publicidad en Google News, el modelo resultaba insostenible para ella. El objetivo de la ley no era cerrar Google News. Pero Google News cerró.

El servicio permaneció fuera de España durante casi ocho años y regresó en junio de 2022, después de una nueva reforma que permitió a los editores negociar individualmente las condiciones de utilización de sus contenidos. El Reuters Institute ha estudiado aquel episodio y encontró que la intervención modificó la estructura del consumo digital de noticias y aumentó su fragmentación, mientras Google sostiene que el cierre tuvo un impacto especialmente importante sobre el tráfico recibido por los editores pequeños.

No hace falta convertir a Google en víctima ni atribuir al legislador español todas las consecuencias posteriores para extraer una lección bastante sencilla. La política creó una norma esperando modificar el comportamiento de una plataforma y la plataforma modificó el mercado.

Ese mecanismo se repite constantemente en tecnología porque las empresas y los usuarios no permanecen inmóviles después de ser regulados. Cambian de estrategia. Y eso nos devuelve directamente a las marcas de agua de la IA.

Si marcas a Claude, quizás el usuario simplemente deje de utilizar Claude

Imaginemos que dentro de unos meses la marca de agua de Claude comienza a utilizarse en procesos editoriales, universitarios o profesionales y que, aunque Anthropic advierta de que únicamente demuestra participación del modelo, una parte del mercado empieza a interpretarla como «este contenido no lo ha escrito una persona».

La consecuencia reputacional puede ser considerable.

Un profesional que ha utilizado Claude para mejorar un artículo propio puede encontrarse sometido a la misma sospecha que alguien que pidió al modelo un texto completo y lo publicó sin leerlo.

¿Qué hará ese profesional? Una posibilidad es que deje de utilizar inteligencia artificial; pero no parece la más probable. Puede utilizar otro proveedor; puede reservar Claude para razonamiento y emplear otro modelo para la redacción final; puede introducir una fase posterior de transformación; puede ejecutar un modelo abierto, o puede seleccionar para cada tarea la tecnología cuya huella resulte menos problemática. Podría incluso contratar un potencial futuro servicio de eliminación de huellas.

La propia Anthropic reconoce que una reescritura completa puede hacer desaparecer el watermark y que la ausencia de la marca no demuestra, en sentido contrario, que un texto no haya sido generado mediante IA.

La regulación corre entonces el riesgo de producir un resultado bastante curioso: penalizar al proveedor de IA que hace más transparente su intervención y crear una ventaja competitiva para quien resulte menos detectable.

Desde la perspectiva de producto esto no es una hipótesis académica. Cuando se trabaja en estrategia online e inteligencia artificial, cualquier característica que afecte a la reputación del resultado final termina formando parte de la decisión tecnológica. Hasta ahora hemos elegido modelos principalmente por calidad, coste, velocidad, razonamiento, contexto o fiabilidad. Si utilizar uno de ellos puede generar además una señal que clientes, medios, universidades o plataformas interpreten negativamente, esa circunstancia pasará inevitablemente a formar parte relevante de la decisión y no hace falta querer engañar a nadie para querer tomarla. Basta con no querer asumir una acusación que, además, la propia tecnología de detección no permite demostrar.

El legislador quería aumentar la transparencia; pero puede terminar creando un mercado para evitar sus efectos. Es el famoso dicho popular de «hecha la ley; hecha la trampa».

Los usuarios también legislan con los pies

Este es uno de los errores más frecuentes de la regulación tecnológica: pensar en los ciudadanos y las empresas como sujetos pasivos que simplemente incorporarán una obligación nueva a su comportamiento anterior. Los mercados, sin embargo, no funcionan así. Cuando una norma cambia los costes, las personas buscan alternativas; cuando una obligación modifica la reputación o el atractivo de una herramienta, los usuarios pueden optar por otra; cuando un servicio deja de resultar viable, se abre espacio para que aparezca un competidor; cuando una determinada arquitectura queda excesivamente limitada, los desarrolladores buscan formas distintas de resolver el mismo problema, y cuando una jurisdicción dificulta en exceso una actividad, parte de esa actividad puede acabar desplazándose hacia otros entornos regulatorios. La innovación, en definitiva, no consiste únicamente en inventar nuevas tecnologías, sino también en reorganizar procesos, modelos de negocio y decisiones alrededor de los obstáculos que van apareciendo.

Por eso la famosa expresión «ponerle vallas al campo» describe tan bien determinados intentos de control digital. La valla puede ser perfectamente real. Puede cerrar un camino concreto. Puede incluso cumplir una función necesaria; pero lo que no garantiza es que quienes quieren atravesar el campo sigan utilizando exactamente ese camino.

El viejo reflejo político: si no puede gobernarse, que al menos pueda etiquetarse

Hay algo todavía más profundo detrás de esta dinámica; el poder siempre ha necesitado hacer legible la realidad que administra.

Para gobernar necesitamos nombres, registros, categorías, responsables, licencias y fronteras. No se trata necesariamente de una pulsión autoritaria; es, en buena medida, una necesidad básica de cualquier administración. Resulta muy difícil aplicar una norma sobre algo que no somos capaces de definir y la tecnología crea constantemente espacios que inicialmente resultan ilegibles para este sistema.

Internet eliminó distancias geográficas, mezcló productores con consumidores, internacionalizó pequeñas actividades y convirtió la copia en una operación prácticamente gratuita. Durante décadas hemos intentado reconstruir jurídicamente alrededor de esa nueva realidad categorías que procedían del mundo físico.

Con la inteligencia artificial estamos haciendo lo mismo. Queremos saber quién escribió un texto; pero quizás participaron cuatro modelos y dos personas. Queremos saber si una obra es humana; pero un humano pudo aportar todas las ideas y delegar únicamente la redacción. Queremos saber si es artificial; pero quizá una IA únicamente reorganizó un documento existente. Queremos etiquetar la utilización de una herramienta; pero la herramienta puede estar distribuida entre diferentes fases de un proceso y haber realizado funciones radicalmente distintas en cada una de ellas. Ante toda esta complejidad, la etiqueta proporciona una enorme sensación de control.

«Generado con IA»; problema resuelto. Solo que no sabemos prácticamente nada sobre lo que ocurrió.

El ritual regulatorio puede llegar a sustituir a la comprensión

Ya hemos creado antes mecanismos de transparencia que terminan perdiendo parte de su significado por exceso de exposición.

Cualquier usuario europeo conoce la experiencia de entrar en una página web y encontrarse ante un panel que explica el tratamiento de decenas de cookies, socios publicitarios, finalidades y opciones. En teoría disponemos de más información y más capacidad de decisión que antes. En la práctica, una gran cantidad de usuarios ha aprendido simplemente dónde se encuentra el botón que le permite llegar cuanto antes al contenido que buscaba.

La información sigue estando ahí; pero lo que puede haberse degradado es nuestra atención hacia ella.

Existe un riesgo semejante con la IA. Si cada contenido que haya sido asistido, editado, traducido, resumido o desarrollado parcialmente mediante sistemas generativos termina necesitando una advertencia genérica, la etiqueta «IA» puede convertirse en una categoría tan amplia que deje de aportar información realmente útil. Un artículo falso generado automáticamente y difundido por miles de cuentas coordinadas pertenece a una realidad muy distinta de la de un estudio realizado por un científico que utiliza IA para mejorar su inglés, del mismo modo que una traducción automática, una nota de prensa preparada por un departamento de comunicación con ayuda de un asistente o el trabajo de un escritor que dedica dos horas a discutir una idea con un modelo antes de redactarla responden a contextos, grados de intervención y responsabilidades completamente diferentes. Agrupar todas estas situaciones bajo la misma denominación de «contenido de IA» puede resultar técnicamente cómodo, pero conceptualmente desastroso, porque borra precisamente las diferencias que deberían ayudar al lector a interpretar el origen, el proceso de elaboración y la fiabilidad de un contenido.

Una buena regulación debería aumentar la información significativa disponible para el ciudadano, no limitarse a multiplicar etiquetas que, por exceso de generalidad, terminen diciendo cada vez menos.

Hay algo inevitablemente mediocre en legislar para demostrar que se está legislando

Aquí merece la pena ser algo menos diplomático. La política tiene incentivos que no siempre coinciden con la resolución óptima de un problema. Cuando aparece una preocupación social, existe una enorme presión para demostrar que el poder público está actuando. Explicar que una tecnología es nueva, que desconocemos todavía parte de sus consecuencias y que quizá sea conveniente observar durante algún tiempo antes de establecer una solución puede resultar intelectualmente sensato; pero políticamente suena mucho peor que anunciar una ley.

«Lo vamos a regular» transmite autoridad; pero «todavía no sabemos cuál es la mejor regulación» transmite incertidumbre. Y la política moderna tolera bastante mal reconocer incertidumbres. Por eso existe la tentación constante de intervenir sobre aquello que resulta visible y mensurable. Si preocupan los contenidos artificiales, se marcan. Si preocupan determinadas plataformas, se crean nuevas categorías. Si preocupa una práctica, se establece una obligación de información.

Después descubrimos que los actores regulados han cambiado su comportamiento y necesitamos otra norma para corregir las consecuencias de la anterior.

No creo que esto sea patrimonio de una determinada ideología. Gobiernos de prácticamente cualquier orientación comparten un incentivo parecido: demostrar capacidad de control sobre fenómenos que inquietan a sus ciudadanos.

La tecnología, desgraciadamente para ellos, tiene la desagradable costumbre de no pedir permiso para evolucionar.

Por otra parte, y únicamente lo apuntaré, todos sabemos que esta regulación excesiva, en ocasiones puede resultar muy rentable en términos de sanciones y multas.

Tampoco debemos caer en el extremo contrario

Nada de lo anterior significa que debamos abrazar una especie de darwinismo tecnológico en el que cualquier innovación pueda desarrollarse sin límites porque el legislador siempre llegará tarde.

Hay ámbitos donde no actuar sería irresponsable.

Una inteligencia artificial utilizada para manipular a menores, discriminar en decisiones esenciales, falsificar identidades, comprometer infraestructuras críticas o fabricar desinformación a gran escala plantea problemas que no desaparecen invocando la innovación. La crítica seria no puede consistir en exigir menos Derecho por sistema. Tiene que exigir mejor Derecho.

Normas centradas en los daños y responsabilidades más que en las tecnologías concretas. Obligaciones proporcionales al riesgo real. Regulaciones capaces de distinguir entre usos profundamente diferentes de una misma herramienta. Sistemas que eviten imponer a una microempresa el mismo coste fijo de interpretación que puede asumir una multinacional. Y, sobre todo, una cierta humildad institucional para aceptar que en tecnologías que evolucionan a gran velocidad cualquier regulación debe considerarse provisional y susceptible de ser corregida.

No debería avergonzar a nadie el hecho de modificar una ley tecnológica; debería preocuparnos mucho más mantenerla únicamente para no reconocer que el mundo ha cambiado.

Tal vez estemos vigilando demasiado la herramienta y demasiado poco al responsable

La excepción editorial del artículo 50 apunta, quizá involuntariamente, hacia una solución bastante más madura. Si una persona con conocimientos suficientes revisa sustancialmente un contenido, comprueba sus fuentes, ejerce un juicio profesional sobre lo que se publica y, además, existe alguien que acepta la responsabilidad por ese resultado, la propia normativa entiende que la situación cambia. Tal vez deberíamos llevar esa intuición bastante más lejos y preguntarnos si, en determinados contextos, hemos puesto demasiada atención en la herramienta utilizada y demasiado poca en la conducta realizada y en quién debe responder por ella.

Si un medio utiliza IA para elaborar una noticia falsa, el problema fundamental debería seguir siendo que ese medio publicó una noticia falsa. Si un abogado se sirve de un sistema generativo y presenta ante un tribunal jurisprudencia inexistente, debería responder por haber aportado información falsa o no verificada, con independencia de que el error proceda de una alucinación de un modelo o de una investigación negligente. Del mismo modo, si una empresa automatiza miles de mensajes engañosos, lo relevante no es únicamente que haya empleado inteligencia artificial, sino que ha ejecutado un engaño y que la tecnología le ha permitido hacerlo a una escala extraordinaria. En cambio, si un médico utiliza IA para ayudarse a preparar un texto riguroso que después revisa, corrige y valida personalmente, quizá no exista ningún problema específico que resolver por el mero hecho de haber intervenido una herramienta generativa.

La tecnología puede modificar la gravedad de una conducta, multiplicar su capacidad de difusión, reducir enormemente su coste o alterar las circunstancias en las que se produce. Todo ello puede y debe tener consecuencias jurídicas. Pero de ahí no se desprende necesariamente que tengamos que inventar una nueva categoría moral para cada herramienta que interviene en el proceso. Quizás haya llegado el momento de desplazar una parte de la obsesión regulatoria desde la pregunta «¿qué utilizaste?» hacia otras dos bastante más importantes: «¿qué hiciste?» y «¿quién responde por ello?». Es un enfoque menos vistoso que colocar una etiqueta junto a un contenido, pero probablemente se acerca mucho más al problema que realmente queremos resolver.

La autoridad tampoco debería convertirse en un privilegio institucional

Esta cuestión nos devuelve inevitablemente a los medios de comunicación y a la lógica de la excepción editorial. Tiene sentido que una redacción profesional capaz de revisar un contenido, contrastarlo y asumir responsabilidad editorial reciba un tratamiento distinto al de un sistema que publica automáticamente miles de textos sin supervisión. Lo que sería mucho más discutible es convertir esa diferencia razonable en una equivalencia entre estructura institucional y autoridad intelectual, como si la existencia de una organización editorial garantizara por sí sola la calidad del conocimiento y su ausencia implicara necesariamente una falta de fiabilidad.

Un gran periódico puede equivocarse y un profesional independiente puede conocer profundamente aquello sobre lo que escribe. Una empresa pequeña puede disponer de procedimientos de revisión excelentes, mientras que una organización enorme puede aplicar controles deficientes. Un investigador, un médico, un abogado, un ingeniero o cualquier otro experto puede publicar directamente en su propio sitio web sin que exista entre él y el lector una organización editorial tradicional. En todos esos casos, lo importante no es solamente quién posee la infraestructura de publicación, sino qué conocimiento existe detrás del contenido, qué mecanismos de revisión se han aplicado y quién está dispuesto a asumir la responsabilidad por lo publicado.

Este matiz será especialmente importante en el nuevo ecosistema informativo.

Durante buena parte del siglo XX, la autoridad y la infraestructura de publicación permanecieron bastante unidas porque acceder a una audiencia masiva requería disponer de medios de producción y distribución costosos. Imprentas, rotativas, frecuencias de radio, estudios de televisión, redes comerciales y estructuras de distribución creaban una barrera económica que hacía que las instituciones capaces de publicar a gran escala fueran también, en buena medida, las encargadas de construir y administrar la autoridad pública. Internet rompió esa asociación al permitir que prácticamente cualquiera pudiera publicar. La inteligencia artificial está acelerando ahora una segunda ruptura, porque también está reduciendo de manera extraordinaria el coste de producir contenido elaborado.

Eso significa que necesitaremos mejores mecanismos para reconocer la autoridad, precisamente porque la abundancia de contenido hará cada vez menos útil usar la mera capacidad de publicación como señal de credibilidad.

Después de muchos años trabajando alrededor de la estrategia online y la reputación de marca, esta es una de las transformaciones que me parecen más importantes. La reputación digital ya no consiste únicamente en conseguir visibilidad o en controlar qué aparece cuando alguien busca nuestro nombre. Cada vez consiste más en construir señales capaces de permitir que personas y máquinas reconozcan quién posee conocimiento real sobre una determinada materia, qué trayectoria respalda ese conocimiento, qué evidencias utiliza y hasta qué punto puede atribuirse responsabilidad a aquello que publica.

La inteligencia artificial hará que el contenido sea extraordinariamente abundante, pero no hará abundante la autoridad. Precisamente por eso sería un error que la regulación terminara protegiendo exclusivamente las viejas formas institucionales de acreditarla en el momento en que la tecnología está permitiendo que aparezcan otras nuevas. El reto no debería consistir en sustituir una jerarquía por otra, sino en construir mecanismos capaces de reconocer la competencia, la experiencia, la trazabilidad y la responsabilidad allí donde realmente existan.

La próxima frontera no será detectar IA, sino acreditar responsabilidad

Dentro de algunos años es posible que contemplemos la actual obsesión por determinar si un texto ha sido generado mediante inteligencia artificial como una fase relativamente primitiva de esta transición. No porque la procedencia vaya a dejar de importar, sino porque pronto necesitaremos información mucho más sofisticada que una simple división entre «contenido humano» y «contenido de IA».

Lo verdaderamente útil será saber quién responde de un contenido, qué fuentes lo sostienen, si hubo revisión humana significativa, qué conocimiento aportó quien lo publica, qué sistemas intervinieron en su elaboración y qué partes del proceso fueron realmente autónomas. Es muy posible que los futuros sistemas de confianza dejen de limitarse a mostrar una advertencia binaria del tipo «IA sí» o «IA no» y comiencen a describir cadenas de procedencia, revisión y responsabilidad. Esa información sería mucho más valiosa para evaluar un contenido que conocer únicamente si un modelo generativo participó en algún punto del proceso.

Una marca de agua puede revelar que una herramienta de IA intervino en la creación de un texto, una imagen o un vídeo, pero no puede decirnos si ese contenido es bueno, si es falso, si quien lo firma conoce realmente la materia, si se han utilizado fuentes fiables o si ha existido intención de engañar. Tampoco puede substituir la tarea mucho más incómoda de evaluar el contenido y las circunstancias en las que fue producido. Podemos desarrollar tecnologías cada vez más sofisticadas para identificar la participación de otras tecnologías, pero seguimos teniendo enormes dificultades para identificar algo bastante más importante: el criterio con el que han sido utilizadas.

Ahí reside probablemente una de las grandes paradojas de esta etapa. Detectar la intervención de una máquina puede acabar siendo técnicamente mucho más sencillo que determinar si alguien actuó con conocimiento, diligencia, honestidad y responsabilidad. Sin embargo, desde el punto de vista social y jurídico, es precisamente esa segunda cuestión la que debería importarnos más.

Ponerle puertas al campo nunca ha impedido que el campo cambie

La expresión tiene siglos porque describe una tentación humana muy anterior a Internet. Cuando algo parece escapar a nuestro control, tendemos a construir límites alrededor de ello. A veces esos límites funcionan y, en muchas ocasiones, son necesarios. El problema aparece cuando confundimos haber levantado una valla con haber comprendido el territorio que intentábamos ordenar.

La innovación digital posee una capacidad extraordinaria para reorganizarse alrededor de cualquier frontera que construyamos. Una plataforma puede abandonar un mercado si considera que determinadas obligaciones hacen inviable su actividad; un desarrollador puede cambiar de proveedor o utilizar una arquitectura distinta; una empresa puede modificar sus procesos para evitar una determinada restricción; y una nueva tecnología puede convertir en irrelevante, en pocos años, la categoría que acabábamos de incorporar cuidadosamente a una norma. Nada de esto significa que regular sea inútil. Significa que cualquier regulación tecnológica debería diseñarse partiendo de una realidad incómoda: el campo sobre el que se legisla no permanece quieto.

La inteligencia artificial probablemente será una de las pruebas más exigentes que haya afrontado nuestra manera tradicional de regular la tecnología, no solamente porque avanza con enorme rapidez, sino porque está penetrando en actividades —crear, decidir, escribir, investigar, asesorar o interpretar información— que hasta ahora considerábamos profundamente humanas y jurídicamente relativamente sencillas de atribuir. Cuando una herramienta participa en todas esas tareas, intentar separar permanentemente lo humano de lo artificial mediante categorías rígidas puede acabar resultando mucho más complicado de lo que parece.

Podemos responder a esa complejidad multiplicando clasificaciones, marcas, etiquetas y obligaciones hasta recuperar la sensación de que volvemos a tener el control. O podemos aceptar una posibilidad bastante más incómoda: que la inteligencia artificial no solo nos obligará a modificar algunas normas, sino también nuestra manera de pensar conceptos como la responsabilidad, la autoría, la autoridad, la diligencia profesional y el propio trabajo intelectual.

La primera opción permite producir respuestas regulatorias con mayor rapidez porque consiste, en buena medida, en aplicar categorías conocidas a fenómenos nuevos. La segunda exige comprender con más profundidad qué está cambiando realmente y distinguir qué problemas proceden de la tecnología y cuáles son, en realidad, viejos problemas humanos amplificados por herramientas nuevas. Esa diferencia es importante porque la historia de la regulación tecnológica está llena de intentos de ordenar aquello que ya estaba transformándose mientras se escribían las normas.

Por eso, mientras discutimos dónde colocar la próxima puerta, convendría mirar de vez en cuando alrededor. Existe una posibilidad nada despreciable de que, para cuando terminemos de construirla, el campo haya cambiado de forma o de sitio.