Análisis de marcas de agua de OpenAI: ChatGPT en la UE, API con participación opcional

Una fecha límite de cumplimiento rara vez llega como un gran anuncio. Más a menudo, aparece como una configuración de producto que está activada para un grupo, desactivada para otro, y rodeada de documentación que los abogados fingirán que es obvia. Según TechCrunch, OpenAI añadirá una marca de agua invisible al texto generado por ChatGPT y Codex en la Unión Europea para cumplir con la Ley de IA de la UE. La parte importante para quienes construyen productos es la división: los usuarios elegibles de ChatGPT y Codex en la UE reciben la opción predeterminada, mientras que los desarrolladores de API de todo el mundo obtienen una configuración opcional para modelos seleccionados.

La norma llega como una configuración predeterminada del producto, según TechCrunch

TechCrunch informa que las normas de transparencia de la Ley de IA de la UE entraron en vigor el 2 de agosto y exigen que las empresas de IA marquen el contenido generado por IA de una manera que otros sistemas puedan identificar. OpenAI dijo que la marca de agua se implementará durante las próximas semanas para usuarios elegibles de ChatGPT y Codex en todos los planes, pero solo en la UE. Los desarrolladores que usan la API de OpenAI en cualquier lugar del mundo pueden activarla para modelos seleccionados desde hoy, y está desactivada de forma predeterminada. OpenAI también dijo que no está haciendo de la marca de agua en texto una opción predeterminada global en el lanzamiento, que es la frase que tu equipo de implementación debería subrayar, no dejar pasar con un asentimiento cortés.

@title Implementación de la marca de agua de OpenAI
@source OpenAI will start watermarking ChatGPT's text in the EU
@source Our approach to EU text provenance rules

  August 2 ··· EU rules apply
  October 5 ·· OpenAI post
  October 5 ·· API option starts
  Coming weeks · EU rollout

@caption El cambio de cumplimiento llega primero como geografía y configuraciones predeterminadas.

Esa es la forma práctica de la obligación. Para usuarios ordinarios de ChatGPT y Codex en la UE, el marcado ocurre dentro del producto una vez que la implementación les llega. Para clientes de API, no hay un hada mágica del cumplimiento que active la función en todo el mundo. Si una aplicación atiende a usuarios de la UE y depende de la API de OpenAI, la primera pregunta de implementación no es si existe la marca de agua, sino si el desarrollador la ha habilitado para el modelo y el caso de uso relevantes.

La marca está en la redacción, no en la página, según OpenAI

OpenAI describe el esfuerzo en su propio sitio como un enfoque para las normas de procedencia de texto de la UE, con el objetivo de promover la transparencia dentro de los límites técnicos actuales. TechCrunch informa que la marca de agua no es un símbolo visible. En cambio, funciona moldeando sutilmente las elecciones de palabras del modelo, dejando un patrón que los lectores no pueden ver pero que un detector puede identificar. Como el patrón vive en las propias palabras, TechCrunch dice que viaja con el texto cuando se copia y se pega.

OpenAI también publicó un informe técnico sobre el método, llamado textGrain, según TechCrunch. El informe fue coescrito con investigadores de la Universidad de Pensilvania y Yale, y describe el uso de una clave secreta para ordenar predicciones de la siguiente palabra mientras se completa una oración. A lo largo de muchos de estos pequeños empujones, el detector puede identificar contenido generado por IA usando solo el texto y la clave. Esto no es una etiqueta de seguimiento de usuario: TechCrunch informa que OpenAI dijo que la marca de agua no identifica al usuario, y que no observó ningún cambio significativo en el rendimiento del modelo con la función activada.

Lo que exige la ley es más limitado que el debate, según 9to5Mac

9to5Mac presenta la medida como la explicación de OpenAI sobre cómo cumplirá con los requisitos de la Ley de IA de la UE para que los proveedores de sistemas de IA generativa marquen el texto generado por IA de una manera que lo haga identificable. Eso no significa que cada oración generada en todas partes por cada producto de OpenAI ahora lleve una marca visible. Significa que un proveedor está implementando un mecanismo de marcado identificable por máquina para la superficie regulada que ha decidido abordar primero. LinkedIn convertirá eso en doce moralejas de cumplimiento antes del almuerzo; los hechos operativos son más pequeños y más útiles.

La distinción importa porque el mismo proveedor de modelos ahora ofrece comportamientos diferentes según la superficie del producto y la geografía. ChatGPT y Codex en la UE reciben un trato distinto al uso de la API en otros lugares. Incluso dentro del uso de la API, la configuración está disponible para modelos seleccionados y está desactivada de forma predeterminada, según TechCrunch. Si estás redactando términos para clientes, cuestionarios de adquisición o políticas escolares, no escribas la frase perezosa de que el texto de OpenAI lleva marca de agua. Escribe qué producto, qué geografía, qué modelo y si la configuración está habilitada.

La lista de verificación para constructores trata sobre todo de configuraciones predeterminadas, según TechCrunch y OpenAI

Para los equipos de producto, el ejercicio inmediato de cumplimiento es de inventario, no de filosofía. Mapea dónde tu aplicación llama a ChatGPT, Codex o la API de OpenAI, luego separa las superficies para usuarios finales de la UE de las que no son de la UE. Si usas la API, la información de TechCrunch significa que no deberías asumir que la marca de agua está activa a menos que tu configuración lo diga. Si revendes o integras texto generado, tus contratos deberían decir quién es responsable de activar las funciones de procedencia disponibles y cómo se verifica esa configuración.

Para educadores y equipos de políticas laborales, la advertencia es igual de clara. Un detector de marca de agua puede apoyar comprobaciones de procedencia, pero la descripción de TechCrunch no lo convierte en un oráculo universal de autoría. OpenAI dice que la marca de agua no identifica al usuario, y el mecanismo depende de detectar un patrón en el texto. Trátalo como una señal sobre si el texto probablemente provino de un sistema de generación marcado, no como un sustituto del diseño de evaluaciones, las reglas de divulgación o la evidencia básica.

Lo siguiente que hay que observar es si otros proveedores siguen el mismo patrón segmentado o eligen configuraciones predeterminadas más amplias. La Ley de IA de la UE empieza a aparecer no como un interruptor global único, sino como una segmentación por superficie de producto: herramientas de consumo en la UE de una manera, clientes de API de otra, y el resto del mundo esperando una decisión empresarial. Quienes construyen productos deberían documentar esas costuras ahora. Los reguladores suelen disfrutar de las costuras casi tanto como yo disfruto los avisos de aplicación normativa.