Como rótulos e marcas d'água de IA são lidos

Todo grande serviço de geração marca sua saída de algum jeito. O problema é que cada um faz isso de um modo diferente: uns escrevem metadados, outros embutem uma marca nos pixels, outros imprimem palavras num canto, e cada um exige seu próprio leitor. Este produto lê de uma vez tudo o que especificações e modelos públicos permitem, e diz com clareza o que não consegue ler.

As marcas ficam em três camadas

A primeira são os metadados: a asserção de divulgação de IA de um manifesto C2PA, o tipo de fonte digital do IPTC e o rótulo AIGC da norma chinesa GB 45438. O próprio arquivo os escreveu, então são fáceis de ler e somem com um único novo salvamento. A segunda é uma marca d'água invisível nos pixels. A marca fixa do pipeline oficial do Stable Diffusion e o Adobe TrustMark são lidos localmente com código e modelos publicados. A terceira é o texto visível: frases de rótulo publicadas como Imagined with AI, AI-generated content, AI生成 e o equivalente em coreano são lidas na borda da imagem por reconhecimento de texto.

Quanto pesa cada marca

Uma marca deixada pelo próprio serviço gerador é decisiva: a divulgação de IA do C2PA, o rótulo gerado por IA do GB 45438 e a marca d'água do Stable Diffusion são todos assim, e o eixo de procedência os registra como gerado por IA, autodeclarado. Texto visível qualquer um pode digitar, então é evidência moderada e nunca produz um veredicto sozinho. Rótulos que refletem uma declaração do usuário ou um palpite da plataforma são fracos. O Adobe TrustMark não é evidência de IA de forma alguma: ele também é embutido junto com as Credenciais de Conteúdo em fotografias reais, por isso é usado apenas como informação de procedência.

Rastros de uma marca removida

Uma marca ausente não é evidência, mas uma marca que deveria estar lá e não está é outra coisa. Quando os pixels ainda carregam uma marca d'água TrustMark e o manifesto C2PA sumiu, o arquivo teve credenciais e os metadados foram removidos. O mesmo vale quando o arquivo nomeia uma ferramenta que anexa credenciais a toda saída e mesmo assim não tem manifesto, ou quando o espaço do rótulo GB 45438 está presente mas vazio. Nesses casos o estado de procedência é registrado como removido, enquanto o veredicto de probabilidade de IA não se move.

O que não pode ser lido localmente

O Google SynthID é amplamente usado em imagens, áudio, vídeo e texto, mas seu detector não é público, então só pode ser confirmado pelo serviço de cada empresa ou por uma API que exige pedido de acesso. As marcas d'água de texto do Gemini e do Claude usam chaves privadas e também não podem ser lidas localmente. Até marcas legíveis se perdem no caminho: a marca do Stable Diffusion desaparece após uma recompressão JPEG, o TrustMark quase sempre sobrevive à recompressão e à redução pela metade, e o texto visível sobrevive a uma captura de tela, mas não a um corte. Um resultado que não encontrou marca alguma significa sempre desconhecido, nunca feito por pessoa.

Perguntas frequentes

Se não há marca, foi feito por uma pessoa?
Não. A maioria dos arquivos nunca teve marca, e qualquer marca que existia some com um novo salvamento ou uma captura de tela. A ausência de marca não é usada como evidência em nenhuma direção.
Se a imagem diz gerado por IA, está resolvido?
Não. Qualquer um pode digitar essa frase, então ela é apenas evidência moderada. Precisa se combinar com outras evidências antes de chegar a um veredicto.
Vocês conseguem ler uma marca d'água SynthID?
No momento, não. O detector não é público, então só pode ser confirmado pelo serviço do Google ou por uma API de acesso restrito. Este produto lê o que especificações e modelos públicos permitem e registra o restante como não lido.
Uma marca d'água TrustMark significa gerado por IA?
Não. O TrustMark existe para que as Credenciais de Conteúdo da Adobe possam ser recuperadas depois de removidas, e o Photoshop também o embute em fotografias reais. Ele é usado apenas como informação de procedência e não afeta a probabilidade de IA.

Continue por aqui

Este texto é orientação geral, não aconselhamento jurídico. Um resultado de análise é uma avaliação probabilística, não uma prova.

Testar um arquivo