Fatiga por divulgaciones de IA: análisis UX del 2 de agosto

Una etiqueta de IA en un anuncio puede ayudar. Una etiqueta de IA en cada anuncio, recomendación, ayuda de calendario e interacción de soporte puede volverse parte del fondo. La frase útil de WIRED para este problema es fatiga de divulgación: el momento en que un aviso obligatorio existe legalmente, pero deja de funcionar en el comportamiento de las personas. La Ley de IA de la UE no pide a los usuarios que admiren tu banner de cumplimiento. Les pide que entiendan cuándo la IA está presente.

Qué pide realmente el 2 de agosto

WIRED informa que, a partir del 2 de agosto, las personas en la Unión Europea deben ser informadas cuando estén interactuando con un sistema de IA o viendo contenido generado o alterado por esta tecnología. El mismo informe de WIRED ofrece el inventario cotidiano: anuncios, recomendaciones musicales, aplicaciones de gestión de calendario y líneas de atención de quejas, si usan IA, tendrán que avisar a los europeos.

Ese es el punto que hace que esta norma sea incómoda a nivel operativo. La IA no está limitada a una sola ventana de chatbot con una etiqueta ordenada en la parte superior.

En obligaciones sencillas, esto significa que los equipos de producto necesitan dos inventarios, no uno. Primero, enumerar los lugares donde un usuario interactúa con un sistema de IA, como un chatbot o una línea de atención basada en IA. Segundo, enumerar los lugares donde un usuario ve contenido generado por IA o editado por IA, como un anuncio deepfake o una publicación corporativa alterada en redes sociales.

Si el mismo usuario cruza cuatro de esas superficies en una sola sesión, la ley no ha resuelto mágicamente el problema de UX. Simplemente ha hecho visible el problema.

Por qué la fatiga es el error de cumplimiento

The Tech Buzz describe el riesgo con claridad: las notificaciones constantes pueden insensibilizar a los usuarios frente a las advertencias que deberían protegerlos. También señala que los proveedores de software empresarial enfrentan un gran desafío de cumplimiento porque la IA ha estado impulsando discretamente aplicaciones, feeds de contenido e interacciones de atención al cliente.

Esa no es una razón para omitir la divulgación. Es una razón para dejar de tratar la divulgación como un texto legal decorativo.

WIRED cita a Frederiek Fernhout, abogado de tecnología en Stibbe, diciendo: “Si un proveedor cumple realmente con las obligaciones de transparencia, se volverá muy visible cuánta IA se utiliza”. Añadió: “Especialmente en marketing”.

Léelo como una advertencia de producto, no solo legal. Si cada recurso de campaña, guion de soporte y módulo de recomendación produce la misma etiqueta vaga, los usuarios aprenderán una cosa: ignorar la etiqueta.

El trabajo de producto escondido dentro del aviso

La versión de Winzheng del informe de WIRED plantea el recorrido del usuario en términos directos: puede que el servicio de atención al cliente en línea no tenga a una persona real al otro lado, un video de un discurso político podría ser un deepfake, e incluso un artículo puede haber sido producido con ayuda de IA.

Esos son riesgos diferentes. Un aviso en una línea de quejas le dice a una persona quién, o qué, está gestionando su problema. Una etiqueta de deepfake le dice a un espectador que no trate una grabación como evidencia ordinaria. Una frase genérica que diga que la IA estuvo involucrada no cumple especialmente bien ninguna de esas dos funciones.

La ley exige divulgación, no spam de ventanas modales. Quienes construyen productos deberían diseñar avisos en torno a la decisión que el usuario debe tomar en ese momento: continuar el chat, confiar en el contenido multimedia, basarse en la recomendación o buscar un canal humano.

Eso significa que la etiqueta útil está cerca de la interacción con la IA, es específica sobre lo que la IA está haciendo y es lo bastante duradera como para verse después de la primera pantalla. Tu abogado de privacidad puede aceptar una frase conforme a la norma. Puede que tu usuario no la note, lo cual es un fallo distinto con el mismo resultado práctico.

Qué observar después de que lleguen las etiquetas

WIRED dice que las normas de transparencia de la Ley de IA de la UE están destinadas a reducir el engaño y la manipulación, y a ayudar a las personas a tomar decisiones informadas. Esa intención se pondrá a prueba en interfaces cotidianas, no en discursos de política pública.

La pregunta interesante después del 2 de agosto es si las empresas medirán si los usuarios entienden el aviso, o solo si existía una etiqueta en algún lugar del flujo.

Las capturas de pantalla de cumplimiento son útiles para auditorías. Son menos útiles para las personas que intentan decidir si una voz, imagen, respuesta o recomendación merece confianza.

Para quienes construyen productos, la siguiente tarea es poco glamorosa y necesaria: mapear los puntos de contacto con IA, clasificar el tipo de aviso y eliminar lenguaje duplicado que entrena a las personas a dejar de leer. Para estudiantes y usuarios, esperen descubrir cuánta automatización ha estado presente en la vida digital rutinaria.

La norma hace que esa automatización sea más difícil de ocultar. Que se vuelva más fácil de entender ahora es un problema de diseño, que es donde muchos programas de cumplimiento van discretamente a aprender humildad.