El verdadero alcance de las marcas de agua de IA

I. Marcas de agua hace algunos años

Recuerdo hace algunos años en la época de las primeras computadoras, esa época en la que algunos profesores no aceptaban entregar una tarea impresa y te exigían entregarla a mano o a máquina de escribir. Esas tareas podían contener una investigación profunda, estar correctamente escritas y cumplir con todo lo solicitado, pero aun así estaba prohibido entregarlas impresas. La computadora en sus inicios despertaba una sospecha que hoy se ha normalizado, como si su uso hubiera reducido de manera automática el trabajo intelectual del alumno.

Hace poco precisamente escribí sobre los detectores de IA, y señalaba que un trabajo realizado totalmente por un humano podía ser más malo que uno realizado con asistencia de inteligencia artificial y al revés, y esto mismo pasaba en la escuela, podías escribir a mano un ensayo, pero eso no garantizaba que fuese mejor que un trabajo utilizando la computadora, con independencia del famoso copiar y pegar.

También recuerdo que algo parecido ocurrió años después con Photoshop, cuando las redes sociales se llenaron de críticas y, en muchos espacios, de burlas; sin embargo, con el tiempo esto también se normalizó y aprendimos a distinguir un ajuste de color, un retoque, una composición artística y una manipulación.

Aun con esto, resulta relevante señalar que Adobe, con su herramienta Photoshop, no inventó la manipulación de fotografías, el Metropolitan Museum of Art ha documentado técnicas de retoque y montaje desde la década de 1840; lo que hizo Photoshop 1.0, lanzado en 1990, fue volver más accesible el método.

La comparación con la inteligencia artificial, si bien tiene límites evidentes por la escala, la velocidad y la capacidad de producir imitaciones convincentes, ha cambiado de manera sustancial el riesgo.

Aun así, la historia nos ayuda a identificar una reacción que se repite con cada nueva herramienta, la tendencia a usar el nombre como una conclusión sobre el trabajo producido.

II. Diferentes marcas de agua

Así como ha ocurrido con otras herramientas, con la llegada de la inteligencia artificial llegaron también diferentes métodos y herramientas para detectar contenido generado, pero considero importante mencionar que cada método cuenta con un mecanismo diferente, aunque se suele utilizar la misma expresión para catalogarlos con independencia de que muchos de ellos respondan a diferentes cuestiones.

Por ejemplo, existen los que incluyen una leyenda visible que dice «generado con IA» y que fueron desarrollados para que el humano los pueda identificar; por otro lado, existen los que ponen una marca invisible como SynthID, que incorpora una señal detectable dentro de una imagen, un audio, un video o, en ciertos productos, un texto; asimismo, están las credenciales C2PA, que pueden registrar datos sobre el origen y las transformaciones de un archivo; finalmente, un detector de IA, en cambio, examina diversos patrones y emite una conclusión basada en probabilidades, aunque no encuentre una señal colocada por el sistema que produjo el contenido.

Es importante entender las diferencias entre estos mecanismos ya que no resultan equivalentes y las conclusiones que se pueden obtener tampoco lo son y menos aún son infalibles como ya lo he demostrado con una de estas herramientas. Por ejemplo, los metadatos pueden desaparecer al convertir un archivo o mediante métodos más sofisticados; una marca incorporada al contenido puede perderse con ciertas modificaciones; una etiqueta visible puede recortarse del contenido o copiarse fuera de contexto; un detector, por su parte, puede acertar o clasificar como artificial algo escrito sin ayuda, o al revés, como en la publicación realizada en Substack donde gran parte del texto fue generado por IA y aun así se marcó como contenido 100% humano.

Incluso, como he explicado, aun cuando la señal resulte auténtica, su alcance sigue siendo limitadísimo, por ejemplo, OpenAI explica que puede indicar que cierta imagen fue generada por una de sus herramientas, pero no confirma su exactitud, su integridad, los derechos sobre ella ni su contexto. El estándar C2PA formula además el límite de una manera todavía más clara ya que permite validar la asociación entre ciertos datos y un archivo sin emitir un juicio acerca de si esa procedencia es buena o mala.

Una marca de agua, por tanto, solo puede contestar a la pregunta sobre la creación técnica o sobre cierta parte del proceso del contenido, pero desafortunadamente no puede contestar lo que realmente queremos que nos conteste: si lo mostrado es verdadero, si el resultado tiene algún valor y sobre todo, la responsabilidad sobre el contenido.

Saber con qué herramienta se produjo algo puede ser relevante en ciertos contextos, pero convertir ese dato en la calificación del resultado exige un razonamiento que la marca de agua por ahora no contiene.

III. ¿Claude y ChatGPT incorporan marcas de agua?

En el caso de Claude, Anthropic explica que los modelos compatibles incorporan una marca imperceptible directamente en el texto y que ciertos archivos generados añaden metadatos de procedencia firmados con C2PA. Los modelos de Claude lanzados en la Unión Europea a partir del 2 de agosto de 2026 incorporan el marcado desde su lanzamiento y la medida se aplica donde esos modelos se ofrecen, mientras que la empresa trabaja para añadirlo a modelos anteriores durante el periodo de transición, por lo que no sería correcto afirmar que cualquier texto producido por cualquier versión de Claude ya contiene necesariamente esa señal.

ChatGPT plantea una situación distinta, OpenAI confirma que las imágenes generadas con ChatGPT, Codex y su API incluyen metadatos C2PA y marcas de agua SynthID, pero, al 16 de agosto de 2026, su documentación pública no confirma una marca oculta equivalente en el texto ordinario de ChatGPT. Esa diferencia muestra por qué preguntar simplemente si una herramienta «tiene marca de agua» resulta insuficiente, pues la respuesta cambia según el modelo, el formato y la fecha en que se produjo el contenido.

IV. Razones para marcar los contenidos

Existen varios casos relevantes para defender el etiquetado de contenidos, por ejemplo, una voz clonada durante una llamada, una imagen falsa de un candidato en vísperas de una elección, un video íntimo creado sin consentimiento, noticias falsas, etc. La velocidad con la que estos contenidos circulan, las consecuencias legales y la dificultad para revisar cada pieza permiten justificar mecanismos que ayuden a conocer su procedencia antes de compartirlos o darlos como válidos.

Además, las marcas también pueden proteger al creador humano, por ejemplo, C2PA no se limita a señalar el uso de inteligencia artificial; cámaras, medios y autores pueden dejar constancia del origen y parte del historial de edición de un archivo, por tanto, cuando cualquier fotografía real puede descartarse con la frase «eso lo hizo una IA», la procedencia que se puede verificar sirve en ambos sentidos.

Además hay otros contextos donde revelar el uso de la IA puede cambiar legítimamente la valoración, por ejemplo, si una escuela examina una capacidad individual, un concurso prohíbe ciertas asistencias, un cliente contrató una ilustración bajo condiciones específicas o si una persona presenta como testimonio propio una experiencia inventada por un modelo, ocultar el proceso puede incumplir las reglas o las condiciones que daban sentido al encargo, además, esto mismo sucede cuando existe una obligación legal, profesional o editorial de explicar cómo se obtuvo el resultado.

Desde esa perspectiva, la marca puede aportar información útil para que el receptor tome una mejor decisión, pero creo que es importante matizarlo porque el argumento generalista de que todo lo que se hace con IA está mal hecho carece de sustento cuando la misma solución se aplica sin atender al medio, al riesgo ni al grado de intervención, es decir, generar la totalidad de una voz no plantea el mismo problema que corregir el ruido de una grabación; inventar una fotografía periodística que retrate la tesis central sin introducir detalles que induzcan al error es diferente de presentar como documental una fotografía inventada y así con una infinidad de ejemplos que podría plantear.

V. El estigma que pueden provocar estas etiquetas

He leído en varios grupos que existe desacuerdo con el etiquetado de contenido, muchos han mencionado que dejarán de pagar la suscripción a Claude por el marcado de contenido y, en los grupos legales en particular, el desacuerdo al menos no se enfoca en la transparencia, la mayoría de los abogados que he leído está de acuerdo, pero el problema es que muchos temen que la etiqueta deje de informar y empiece a desacreditar el contenido de fondo.

Un experimento prerregistrado con 877 participantes, publicado en 2026, encontró que las etiquetas «generado con IA» y «engañoso» reducían la autenticidad percibida de imágenes; también observó que, después de ver contenido marcado, las imágenes sin etiqueta parecían un poco más auténticas.

Ese resultado no demuestra que debamos abandonar las etiquetas, pero sí muestra que estas etiquetas modifican la lectura general del contenido, pues si el público comienza a tratar «sin etiqueta» como sinónimo de verdadero y «con IA» como sinónimo de falso, habremos creado una confianza que ninguna de las dos categorías se merece por sí sola.

En conclusión, la marca de agua puede ofrecer evidencia técnica y sólida para ciertos casos, pero esa etiqueta no lleva incorporada una medida sobre el valor del contenido.

VI. Qué exige realmente el AI Act

Es necesario estudiar el Reglamento de Inteligencia Artificial de la Unión Europea para entender que son falsas las afirmaciones como que «Europa obliga a marcar todo lo hecho con IA». El artículo 50 contiene diversas obligaciones para sujetos y situaciones diferentes, aplicables desde el 2 de agosto de 2026, con algunas excepciones y reglas.

En términos generales, los proveedores deben facilitar que determinado contenido sintético pueda identificarse mediante una señal legible por una máquina, sin embargo, la regla excluye funciones de edición estándar que no alteran sustancialmente los datos o su significado. Quienes utilizan los sistemas tienen deberes en supuestos específicos, entre ellos los deepfakes y ciertos textos de interés general sin revisión humana o control editorial.

Esta diferencia resulta importante porque el hecho de incorporar una etiqueta de procedencia en el archivo no siempre equivale a mostrar al lector una advertencia visible, además, es igual de importante determinar quién realiza la conducta, qué medio se utiliza y si una persona revisó o no el resultado.

En ese sentido, la regulación europea intenta responder a riesgos de engaño y desinformación pero no establece que toda intervención de IA vuelva defectuoso el contenido ni que una etiqueta resuelva su evaluación.

Adicionalmente, considero que este diseño, si bien puede perseguir una finalidad legítima, tiene algunas cuestiones que pueden discutirse, a saber, si las excepciones son muy amplias, si la señal será interoperable, si el cumplimiento favorecerá a las empresas con más recursos o si el público realmente comprenderá esta herramienta (aunque la historia nos muestre otra cosa). Además, me parece que sería más defendible una infraestructura común de procedencia que sea aplicada a todos en lugar de que cada plataforma improvise su propia etiqueta.

VII. Si AlphaFold usa IA, ¿sus resultados son slop?

Sé que esta pregunta parece provocadora, pero sirve para probar la lógica con la que muchos de estos temas se suelen discutir en la actualidad. AlphaFold ha puesto a disposición de la comunidad científica más de doscientos millones de predicciones de estructuras de proteínas y su trabajo fue reconocido por el Comité Nobel. OpenAI, por su parte, ha descrito investigaciones en las que sus modelos ayudaron a desarrollar resultados que después fueron validados y refinados por los científicos. Anthropic presentó Claude Science como un entorno que conserva código, artefactos e historial para auditar los análisis.

En todos esos procesos interviene inteligencia artificial.

Me parecería extraño que alguien llamara slop a un resultado como los citados en el párrafo anterior solo porque se desarrollaron con el uso de IA, sin embargo, el término suele describir contenido producido en masa, descuidado, repetitivo y sin suficiente valor para justificar la atención que se reclama. Cualquiera podrá determinar que hay material humano que cumple perfectamente con esa descripción y resultados asistidos por IA que son realmente valiosos.

El origen puede ayudar a explicar una parte del proceso, pero la pobreza o riqueza del resultado requiere examinar el propio resultado.

Debo reconocer que el ejemplo usado podría no ser el mejor para los casos de contenido basura generado por IA o para las prácticas indebidas que la regulación europea pretende controlar, pero es útil para evidenciar el método, ya que la investigación asistida por IA tampoco queda fuera de cuestionamiento pues las predicciones de AlphaFold incluyen medidas de confianza, y el Instituto Europeo de Bioinformática advierte que las regiones de baja confianza pueden apartarse de las estructuras experimentales. Es decir, una prueba sugerida por un modelo debe verificarse, así como un análisis necesita que los métodos sean reproducibles. Por tanto, un hallazgo que no se puede reproducir experimentalmente, o que no resiste al cálculo o a la revisión, sigue siendo insuficiente y malo, aunque proceda del sistema más avanzado del mundo.

La ciencia ofrece así un contraste útil porque no se conforma con preguntar si intervino la inteligencia artificial, lo que se pregunta es qué datos se usaron, cómo se obtuvo el resultado, con qué nivel de incertidumbre, si puede reproducirse y qué evidencia lo puede confirmar.

VIII. Qué deberíamos exigir después de la marca

No creo que exista una respuesta fácil para determinar si las marcas de agua en sistemas de inteligencia artificial serán útiles o si se requieren en todo contenido producido, pero creo que aplicará una de las palabras más usadas por la profesión «depende», porque la categoría abarca soluciones y contextos demasiado diferentes, aunque por ahora me interesa más preguntar cuándo la información cambia razonablemente la decisión del receptor, qué tan confiable es la señal y qué riesgo pretende reducir.

En medios donde una falsificación puede causar un daño rápido y difícil de reparar, considero que la procedencia técnica y una advertencia visible pueden ser necesarias, sin embargo, en una evaluación, un proceso judicial, una investigación científica o un encargo sujeto a reglas, quizá haga falta explicar bastante más que el uso de la herramienta. En usos triviales de asistencia, entretenimiento, etc., esa etiqueta puede aportar poco y predisponer demasiado.

Así, considero que en la mayoría de los casos, después de conocer la procedencia todavía nos queda casi todo el trabajo importante, hay que revisar si las fuentes sostienen lo que se afirma, si la imagen conserva su contexto real, si el razonamiento tiene errores, si se respetaron los derechos de otras personas y si alguien está dispuesto a responder por lo publicado, ya que ninguna marca de agua asume esa responsabilidad.

Tal vez la discusión pública se ha concentrado en identificar el uso de la herramienta porque ese es el dato que parece más fácil de obtener que el propio juicio que sigue, tal como ocurrió con la tarea impresa y con Photoshop, aunque ahora la escala y los riesgos sean otros.