A Anthropic, empresa que desenvolve o modelo Claude, anunciou recentemente a inclusão de marcas d’água invisíveis em seus conteúdos gerados. Esta medida foi adotada para cumprir novas regras da União Europeia. No entanto, desenvolvedores começaram a divulgar métodos para remover essas marcas d’água, mostrando a necessidade de um sistema eficaz de detecção.
Como Funciona a Marca d’Água do Claude
A Anthropic utiliza uma técnica chamada SynthID, desenvolvida pelo Google, para inserir marcas d’água de forma imperceptível. Essas marcas são inseridas na escolha de palavras e frases feita pelo modelo Claude, tornando o texto aparentemente normal para o leitor, mas perceptível por sistemas preparados para identificar o padrão.
Métodos de Remoção
Desenvolvedores estão criando métodos para remover essas marcas d’água. Um exemplo é o código de Guillaume Meyer, que utiliza outro modelo de linguagem sem marca d’água para produzir várias versões do mesmo conteúdo, substituindo palavras por sinônimos e reorganizando levemente o texto. Outros métodos incluem remover caracteres invisíveis e semelhantes, reorganizar frases dentro de parágrafos e trocar palavras por sinônimos. Além disso, Leon Chlon, Visiting Fellow da Universidade de Oxford, propôs remover as marcas condensando a resposta ou traduzindo o conteúdo para um idioma com semântica diferente e retornando ao idioma original.
Desafios e Limitações
A própria Anthropic reconhece que conteúdos fortemente editados, parafraseados ou traduzidos podem deixar de carregar a marca d’água. A empresa está desenvolvendo uma API para detecção dos textos marcados. No entanto, a própria Anthropic ainda não disponibilizou o software responsável pela detecção, o que impede a confirmação de que os métodos divulgados são efetivamente capazes de remover a identificação em todos os casos.
Conclusão
A remoção eficaz da marca d’água do Claude é um desafio técnico complexo. A Anthropic está trabalhando para lançar uma ferramenta de detecção, mas até que isso aconteça, não é possível determinar a eficácia dos métodos de remoção apresentados pelos desenvolvedores. A remoção da marca d’água do Claude é importante para cumprir novas regras da União Europeia e para evitar possíveis falsos positivos e dificuldades na detecção de diferentes níveis de uso de inteligência artificial.