Fadiga de Divulgação de IA: Análise de UX de 2 de agosto

Um rótulo de IA em um anúncio pode ajudar. Um rótulo de IA em todos os anúncios, recomendações, assistentes de calendário e interações de suporte pode virar papel de parede. A expressão útil da WIRED para esse problema é fadiga de divulgação: o momento em que um aviso obrigatório existe do ponto de vista legal, mas deixa de funcionar no comportamento das pessoas. A Lei de IA da UE não pede que os usuários admirem seu banner de conformidade. Ela pede que eles entendam quando a IA está presente.

O que 2 de agosto realmente exige

A WIRED relata que, a partir de 2 de agosto, as pessoas na União Europeia devem ser informadas quando estiverem interagindo com um sistema de IA ou vendo conteúdo gerado ou alterado por essa tecnologia. A mesma reportagem da WIRED apresenta o inventário do dia a dia: anúncios, recomendações de música, aplicativos de gerenciamento de calendário e centrais de reclamação, se usarem IA, precisarão avisar os europeus. Esse é o ponto que torna essa regra operacionalmente complicada. A IA não está confinada a uma única janela de chatbot com um rótulo organizado no topo.

Em termos simples de obrigação, isso significa que as equipes de produto precisam de dois inventários, não um. Primeiro, listar os lugares em que um usuário interage com um sistema de IA, como um chatbot ou uma central de atendimento baseada em IA. Segundo, listar os lugares em que um usuário vê conteúdo gerado por IA ou editado por IA, como um anúncio deepfake ou uma publicação corporativa alterada em redes sociais. Se o mesmo usuário passa por quatro dessas superfícies em uma única sessão, a lei não resolveu magicamente o problema de UX. Ela apenas tornou o problema visível.

Por que a fadiga é o bug da conformidade

A Tech Buzz descreve o risco de forma direta: notificações constantes podem dessensibilizar os usuários aos avisos que deveriam protegê-los. Ela também observa que fornecedores de software empresarial enfrentam um grande desafio de conformidade porque a IA vem, silenciosamente, impulsionando aplicativos, feeds de conteúdo e interações de atendimento ao cliente. Isso não é motivo para pular a divulgação. É motivo para parar de tratar a divulgação como texto decorativo padrão.

A WIRED cita Frederiek Fernhout, advogado de tecnologia da Stibbe, dizendo: "Se um fornecedor estiver realmente em conformidade com as obrigações de transparência, ficará muito visível o quanto a IA é usada." Ele acrescentou: "Especialmente em marketing." Leia isso como um alerta de produto, não apenas como um alerta jurídico. Se todo material de campanha, roteiro de suporte e módulo de recomendação produzir o mesmo rótulo vago, os usuários aprenderão uma coisa: ignore o rótulo.

O trabalho de produto escondido dentro do aviso

A versão da Winzheng da reportagem da WIRED descreve a jornada do usuário em termos diretos: o atendimento ao cliente online pode não ter uma pessoa real do outro lado, um vídeo de discurso político pode ser um deepfake, e até mesmo um artigo pode ter sido produzido com ajuda de IA. Esses são riscos diferentes. Um aviso em uma central de reclamação informa a uma pessoa quem, ou o quê, está tratando do problema dela. Um rótulo de deepfake informa ao espectador que ele não deve tratar uma gravação como uma evidência comum. Uma frase genérica dizendo que a IA esteve envolvida não cumpre particularmente bem nenhuma dessas funções.

A lei exige divulgação, não spam de janelas modais. Quem cria produtos deve projetar avisos em torno da decisão do usuário naquele momento: continuar o chat, confiar na mídia, seguir a recomendação ou procurar um canal humano. Isso significa que o rótulo útil fica perto da interação com IA, é específico sobre o que a IA está fazendo e é durável o suficiente para ser visto depois da primeira tela. Seu advogado de privacidade pode aceitar uma frase em conformidade. Seu usuário pode não notá-la, o que é uma falha diferente com o mesmo resultado prático.

O que observar depois

que os rótulos chegarem A WIRED diz que as regras de transparência da Lei de IA da UE têm como objetivo reduzir engano e manipulação e ajudar as pessoas a fazer escolhas informadas. Essa intenção será testada em interfaces comuns, não em discursos sobre políticas. A pergunta interessante depois de 2 de agosto é se as empresas medirão se os usuários entendem o aviso, ou apenas se um rótulo existia em algum lugar do fluxo.

Capturas de tela de conformidade são úteis para auditorias. Elas são menos úteis para pessoas tentando decidir se uma voz, imagem, resposta ou recomendação merece confiança. Para quem constrói produtos, o próximo item de trabalho é pouco glamouroso e necessário: mapear pontos de contato com IA, classificar o tipo de aviso e remover linguagem duplicada que treina as pessoas a parar de ler. Para aprendizes e usuários, espere descobrir quanta automação já estava presente na vida digital cotidiana. A regra torna essa automação mais difícil de esconder. Se ela ficará mais fácil de entender agora é um problema de design, que é onde muitos programas de conformidade discretamente vão aprender humildade.