YouTube expande ferramenta de detecção de deepfakes para políticos e jornalistas.
O YouTube anunciou na terça-feira que está disponibilizando sua tecnologia de detecção de imagens geradas por IA para um grupo piloto de autoridades governamentais, candidatos políticos e jornalistas, oferecendo a figuras públicas novas ferramentas para identificar e denunciar vídeos deepfake que usam seus rostos sem permissão.
A expansão marca a primeira vez que a plataforma estende a ferramenta além de sua comunidade de criadores, onde foi lançada no ano passado para aproximadamente 4 milhões de membros do Programa de Parcerias do YouTube.
Como Funciona
O sistema opera de forma similar ao Content ID do YouTube, que sinaliza material protegido por direitos autorais, mas em vez disso escaneia vídeos enviados em busca de rostos gerados por IA. Os participantes devem verificar sua identidade enviando um documento de identidade com foto emitido pelo governo e uma selfie em vídeo. Uma vez cadastrados, eles podem visualizar vídeos sinalizados em um painel e solicitar sua remoção através do processo de denúncia de privacidade do YouTube.
No entanto, a detecção não garante a remoção. O YouTube afirmou que continuaria a proteger paródias e sátiras políticas, mesmo quando direcionadas a líderes mundiais ou figuras influentes.
“Esta expansão é realmente sobre a integridade da conversa pública”, disse Leslie Miller, Vice-Presidente de Assuntos Governamentais e Política Pública do YouTube. “Sabemos que os riscos da personificação por IA são particularmente altos para aqueles no espaço cívico. Mas enquanto estamos fornecendo este novo escudo, também estamos sendo cuidadosos sobre como o utilizamos.”
Dos Criadores à Arena Cívica
O YouTube desenvolveu inicialmente o sistema de detecção de semelhança em 2024 em parceria com a Creative Artists Agency, testando-o com criadores de destaque, incluindo MrBeast e Marques Brownlee. Depois foi lançado para todos os criadores elegíveis no ano passado.
Entre os criadores, o volume de solicitações de remoção tem sido baixo. “A maior parte acaba sendo bastante benigna ou contribui para seus negócios de forma geral”, disse Amjad Hanif, Vice-Presidente de Produtos para Criadores do YouTube. Essa dinâmica pode mudar à medida que a ferramenta alcança o espaço cívico, onde a personificação gerada por IA representa riscos mais agudos para o discurso público.
O YouTube se recusou a confirmar quais autoridades ou jornalistas estariam entre os testadores iniciais, mesmo quando questionado especificamente sobre o Presidente Trump. A empresa disse que planeja expandir o acesso de forma ampla nos próximos meses e também está explorando a detecção de personificação de voz e representações geradas por IA de personagens populares.
Um Esforço Legislativo
Paralelamente ao lançamento técnico, o YouTube reiterou seu apoio à Lei NO FAKES, legislação federal que estabeleceria um direito de imagem e regulamentaria o uso não autorizado de rostos e vozes gerados por IA. “A tecnologia por si só não é a linha de chegada”, escreveu a empresa em uma postagem de blog anunciando a expansão.
#youtube #ia #deepfakes
