Anthropic explica o funcionamento da ‘marca d’água invisível’ de suas IAs
Ler Resumo
A Anthropic publicou em seu blog na última sexta-feira, 18, um comunicado que explica o funcionamento de fato de sua “marca d’água invisível”, característica que passará a acompanhar todos os resultados que seus modelos produzem, de textos a gráficos e outros documentos. A medida foi anunciada pela empresa na última semana e angariou uma sequência de dúvidas nas redes sociais.
Na última semana, a Anthropic anunciou que passaria a incluir em todos os resultados de seus agentes de inteligência artificial uma marca d’água invisível aos olhos humanos. Essa etiqueta seria diferente a depender do produto final, com métodos diversos para textos, imagens e outros tipos de documentos. A mudança foi imposta à empresa pela União Europeia, para que ela esteja sujeita ao AI Act, legislação do bloco que regula as inteligências artificiais.
A empresa foi uma dentre as outras 190 que assinaram o Código de Prática da UE sobre a Transparência de Conteúdo Gerado por Inteligência Artificial, em julho de 2026. Esse código de prática obriga as companhias a criarem e colocarem marcas d’água identificáveis em todos os produtos gerados por IA, ao menos na UE. Apesar disso, a empresa decidiu colocar a marca d’água em todos os seus produtos de forma global.
Como funciona cada marcação
No caso de textos, a marcação é feita com base nas palavras geradas pela IA que estão dentro de um texto. Cada vez que um usuário gera uma produção que diz algo como “o clima está…”, existe uma probabilidade maior de a máquina adicionar palavras como “chuvoso” ou “nublado”. A marcação funciona a partir de decisões “de baixo risco” como essa para gerar um padrão na resposta do Claude. Em resumo, as possíveis respostas do texto, antes geradas por aleatoriedade, agora serão geradas por uma “cola”, que exibe resultados da mesma forma que a seleção aleatória. A mudança está no fato de que, quem tiver essa “cola” poderá verificar o quanto aquele texto tem ou não a probabilidade de ter sido gerado por uma IA.
A ferramenta é baseada no SynthID, método do Google DeepMind criado exatamente para essa finalidade: adicionar marcas d’água indetectáveis a esses tipos de texto. De acordo com comunicado, a empresa reitera que não houve mudanças na qualidade do conteúdo, no nível de criatividade ou nos padrões de leitura do texto gerado pela IA.
“Uma analogia prática é se estivéssemos jogando Monopoly. Em cada turno, cada jogador escolhe um número aleatório de espaços ao redor do tabuleiro para rolar o dado. Suponha que, em vez de rolar o dado para garantir a aleatoriedade, decidimos usar um livro com todos os dígitos de pi (π) para tal. Começamos de um dígito escolhido de forma aleatória, e deste ponto em seguida cada jogador usa o dígito em seguida como seu próximo “rolar” dos dados”, explica a empresa.
“Para todos os fins, os movimentos ainda são aleatórios: não faz diferença se a aleatoriedade vem de pi ou do rolar dos dados”, diz a Anthropic em seu comunicado. O trunfo da situação está na “chave” da aleatoriedade. Ao poder observar a sequência de todos os movimentos do jogo e ao também saber o valor de pi, cria-se uma forma de confirmar se o jogo utilizou os números de pi para gerar a aleatoriedade, criando uma forma de “marca d’água”.
Os códigos
Códigos gerados pelo Claude também estão sujeitos à marcação, mas de uma outra forma e em menor intensidade. Códigos de programação, diferente de um texto corrido, não passam por decisões arbitrárias e simples sobre a palavra seguinte. Caso o agente precise responder o valor de uma soma dentro de um contexto puramente matemático, não há outra opção de resposta senão o resultado. Por isso, na maior parte dos casos de código, a marca d’água não é aplicada. Ainda assim, espaços como os comentários do código podem passar pela marcação com facilidade, por serem textos mais comuns.
Limitações
Mesmo com toda a engenharia para fazer com que essas etiquetas sejam possíveis, elas ainda estão sujeitas a modificações, e até a sumirem. Ao usar a “chave” da Anthropic para verificação, só é possível ter como resposta a probabilidade de aquele texto ter sido escrito pelo Claude, mas não uma confirmação de fato. Textos escritos por outras IAs também não podem ser verificados pela chave.
Caso as mudanças ou quantidade do texto seja pouca, a marcação também pode não funcionar. Nos casos em que o Claude é usado como forma de verificar e corrigir a ortografia em textos, a marcação só consegue funcionar nas poucas mudanças de texto que ocorrem, fator que pode ser muito pouco para ela conseguir se estabelecer. No caso de imagens e outros documentos, o agente vai adicionar ao arquivo uma credencial de conteúdo em seus metadados, que explica que aquele arquivo passou pela IA de alguma forma. O método usado é o C2PA, conhecido na indústria, e é o mesmo usado por câmeras para guardar informações específicas sobre fotografias. Esses dados podem ser facilmente modificados, a depender do caso.
A Anthropic ainda não lançou uma ferramenta abrangente que consegue verificar as chaves no caso dos textos. De acordo com o comunicado, uma API de detecção será oferecida em breve, mas eles ainda estão trabalhando em sua implementação.
