A empresa de criptografia Succinct Labs lançou o Zcam, um aplicativo de câmera gratuito para iPhone que assina criptograficamente fotos e vídeos no momento em que são capturados, oferecendo uma nova linha de defesa contra deepfakes gerados por IA. O app, disponibilizado na App Store do iOS em 23 de abril, muda a abordagem à autenticidade digital: em vez de tentar detectar conteúdos falsos, ele busca comprovar que o conteúdo é real.
Como o Zcam Funciona
Quando um usuário tira uma foto ou grava um vídeo, o Zcam calcula um hash criptográfico dos dados brutos de pixels e o assina com uma chave privada gerada dentro do Secure Enclave da — um coprocessador resistente a adulterações integrado aos iPhones modernos. O serviço App Attest da Apple então gera um atestado confirmando que a assinatura foi produzida pelo próprio aplicativo Zcam. O hash, a assinatura e o atestado são incorporados ao arquivo como um manifesto C2PA — um padrão aberto desenvolvido pelo (Google), pela OpenAI e pela BBC para incorporar metadados de proveniência assinados em arquivos de mídia.
O resultado é uma foto ou vídeo que carrega sua própria cadeia de custódia. Qualquer plataforma receptora pode extrair o manifesto, recalcular o hash e verificar a assinatura. “Se um único pixel for alterado — por edições ou manipulação por IA — os hashes não vão coincidir”, escreveu a empresa em seu post de lançamento. “Se coincidirem, o visualizador sabe que a foto é real.”
Por Que a Detecção É Insuficiente
A Succinct, que tem o apoio da Paradigm e levantou US$ 55 milhões em 2024, afirmou que o aplicativo surgiu de uma pesquisa interna que demonstrou a falta de confiabilidade das ferramentas de detecção de IA. A empresa avaliou sete detectores comerciais de deepfake em imagens geradas por IA que simulavam cenários de fraude, como recibos falsos e sinistros de seguro. Os detectores tiveram um desempenho razoável em imagens sem modificações, mas edições simples — desfoque, compressão, ruído — reduziram as taxas de detecção em até 96%.
A Succinct citou uma pesquisa do Centro de Serviços Financeiros da Deloitte que projeta que a IA generativa fará as perdas por fraude nos Estados Unidos saltarem de US$ 12,3 bilhões em 2023 para US$ 40 bilhões até 2027.
Limitações e Ambições
A empresa reconheceu que nenhuma camada isolada do seu sistema é infalível. Enclaves seguros já foram comprometidos anteriormente, e o middleware entre a captura e a assinatura pode, em teoria, ser adulterado. O SDK do Zcam é de código aberto, mas ainda não passou por auditoria e não está pronto para uso em produção.
A Succinct vislumbra aplicações no jornalismo, no processamento de sinistros de seguros, na verificação de identidade e em provas jurídicas. A empresa, que também desenvolveu o SP1 — uma máquina virtual de conhecimento zero que protege mais de US$ 4 bilhões em ativos digitais —, descreveu o Zcam como “um primeiro passo em direção a uma internet onde qualquer pessoa possa provar o que é real”.
#Zcam #Iphone #Apple
