Análise de Marca d’Água da OpenAI: ChatGPT na UE, opção de adesão à API

Um prazo de conformidade raramente chega como um grande anúncio. Com mais frequência, ele aparece como uma configuração de produto que está ativada para um grupo, desativada para outro, e cercada por uma documentação que os advogados fingirão ser óbvia. Segundo o TechCrunch, a OpenAI adicionará uma marca d’água invisível ao texto gerado pelo ChatGPT e pelo Codex na União Europeia para cumprir a Lei de IA da UE. A parte importante para quem constrói produtos é a divisão: usuários elegíveis do ChatGPT e do Codex na UE recebem o padrão, enquanto desenvolvedores de API no mundo todo recebem uma configuração opcional para modelos selecionados.

A regra chega como padrão de produto, segundo o TechCrunch

O TechCrunch informa que as regras de transparência da Lei de IA da UE entraram em vigor em 2 de agosto e exigem que empresas de IA marquem conteúdo gerado por IA de uma forma que outros sistemas possam identificar. A OpenAI disse que a marca d’água será implementada nas próximas semanas para usuários elegíveis do ChatGPT e do Codex em todos os planos, mas apenas na UE. Desenvolvedores que usam a API da OpenAI em qualquer lugar do mundo podem ativá-la para modelos selecionados a partir de hoje, e ela vem desativada por padrão. A OpenAI também disse que não está tornando a marca d’água em texto um padrão global no lançamento, que é a frase que sua equipe de implementação deve sublinhar, não apenas aceitar com um aceno educado.

@title Lançamento da marca d’água da OpenAI
@source OpenAI will start watermarking ChatGPT's text in the EU
@source Our approach to EU text provenance rules

  August 2 ··· EU rules apply
  October 5 ·· OpenAI post
  October 5 ·· API option starts
  Coming weeks · EU rollout

@caption A mudança de conformidade chega primeiro como geografia e configurações padrão.

Essa é a forma prática da obrigação. Para usuários comuns do ChatGPT e do Codex na UE, a marcação acontece dentro do produto quando o lançamento chega até eles. Para clientes da API, não há uma fada mágica da conformidade ativando o recurso no mundo todo. Se um app atende usuários da UE e depende da API da OpenAI, a primeira pergunta de implementação não é se a marca d’água existe, mas se o desenvolvedor a ativou para o modelo e o caso de uso relevantes.

A marca está nas palavras, não na página, segundo a OpenAI

A OpenAI descreve o esforço em seu próprio site como uma abordagem às regras de procedência de texto da UE, com o objetivo de promover transparência dentro dos limites técnicos atuais. O TechCrunch informa que a marca d’água não é um símbolo visível. Em vez disso, ela funciona moldando sutilmente as escolhas de palavras do modelo, deixando um padrão que leitores não conseguem ver, mas que um detector consegue identificar. Como o padrão vive nas próprias palavras, o TechCrunch diz que ele acompanha o texto quando é copiado e colado.

A OpenAI também publicou um relatório técnico sobre o método, chamado textGrain, segundo o TechCrunch. O relatório foi coescrito com pesquisadores da Universidade da Pensilvânia e de Yale, e descreve o uso de uma chave secreta para ordenar previsões da próxima palavra enquanto uma frase é completada. Com muitos desses pequenos ajustes, o detector consegue identificar conteúdo gerado por IA usando apenas o texto e a chave. Isso não é um rótulo de rastreamento de usuário: o TechCrunch informa que a OpenAI disse que a marca d’água não identifica o usuário, e que não observou nenhuma mudança significativa no desempenho do modelo com o recurso ativado.

O que a lei exige é mais restrito do que o debate, segundo o 9to5Mac

O 9to5Mac apresenta a medida como a explicação da OpenAI sobre como cumprirá os requisitos da Lei de IA da UE para provedores de sistemas de IA generativa marcarem texto gerado por IA de uma forma que o torne identificável. Isso não significa que cada frase gerada em todos os lugares por todos os produtos da OpenAI agora esteja visivelmente marcada. Significa que um provedor está implementando um mecanismo de marcação identificável por máquina para a superfície regulada que escolheu abordar primeiro. O LinkedIn transformará isso em doze lições morais sobre conformidade até a hora do almoço; os fatos operacionais são menores e mais úteis.

A distinção importa porque o mesmo provedor de modelos agora está oferecendo comportamentos diferentes por superfície de produto e geografia. ChatGPT e Codex na UE são tratados de forma diferente do uso da API em outros lugares. Mesmo dentro do uso da API, a configuração está disponível para modelos selecionados e desativada por padrão, segundo o TechCrunch. Se você está redigindo termos para clientes, questionários de compras ou políticas escolares, não escreva a frase preguiçosa de que texto da OpenAI tem marca d’água. Escreva qual produto, qual geografia, qual modelo e se a configuração está ativada.

A lista de verificação para quem constrói produtos é principalmente sobre padrões, segundo o TechCrunch e a OpenAI

Para equipes de produto, o exercício imediato de conformidade é inventário, não filosofia. Mapeie onde sua aplicação chama o ChatGPT, o Codex ou a API da OpenAI, depois separe as superfícies voltadas a usuários finais da UE das que não são da UE. Se você usa a API, a reportagem do TechCrunch significa que você não deve presumir que a marca d’água está ativa a menos que sua configuração diga isso. Se você revende ou incorpora texto gerado, seus contratos devem dizer quem é responsável por ativar os recursos de procedência disponíveis e como essa configuração é verificada.

Para educadores e equipes de políticas no trabalho, a ressalva é igualmente clara. Um detector de marca d’água pode apoiar verificações de procedência, mas a descrição do TechCrunch não o transforma em um oráculo universal de autoria. A OpenAI diz que a marca d’água não identifica o usuário, e o mecanismo depende da detecção de um padrão no texto. Trate isso como um sinal sobre se o texto provavelmente veio de um sistema de geração marcado, não como substituto para o desenho de avaliações, regras de divulgação ou evidências básicas.

A próxima coisa a observar é se outros provedores seguirão o mesmo padrão segmentado ou escolherão padrões mais amplos. A Lei de IA da UE está começando a aparecer não como uma chave global única, mas como segmentação por superfície de produto: ferramentas de consumo da UE de um jeito, clientes de API de outro, e o resto do mundo esperando uma decisão de negócios. Quem constrói produtos deve documentar essas emendas agora. Reguladores costumam gostar de emendas quase tanto quanto eu gosto de notificações de fiscalização.