Principais conclusões
- O YouTube está desenvolvendo ferramentas de detecção de IA para vozes e rostos para proteger usuários de deepfakes.
- As ferramentas visam ajudar os usuários a identificar vídeos com semelhanças e vozes simuladas, reforçando a confiança no conteúdo.
- O Google precisa ficar à frente dos usuários nefastos de IA para garantir a sobrevivência do YouTube na era da IA.
Na era da IA, é importante garantir que a tecnologia seja usada de forma responsável. O Google pode ter sofrido alguns contratempos na Pesquisa, mas claramente, a equipe do YouTube quer ficar por dentro da tecnologia para garantir que seus parceiros tenham as ferramentas para detectar e gerenciar conteúdo de IA que pode simular seu canto. Embora a ferramenta não esteja pronta até o ano que vem, o YouTube também está trabalhando em uma nova tecnologia para gerenciar conteúdo de IA que mostra as semelhanças dos usuários. Claramente, o YouTube está preocupado com a IA sendo usada para falsificar vozes e rostos de artistas, o que é definitivamente uma preocupação real, e é por isso que é encorajador ver o YouTube na frente do problema com planos para subjugar atores nefastos na plataforma.
Você pode ler os detalhes completos das duas novas ferramentas do YouTube acima. A primeira dará aos usuários a capacidade de detectar IA simulando a voz de um usuário, e a segunda fornecerá uma ferramenta para identificar rostos criados por IA. Idealmente, essas ferramentas permitirão que os usuários derrubem vídeos usando semelhanças e vozes simuladas. Embora a postagem do Google seja redigida em linguagem detalhando como protegerá artistas, atores e atletas, seria de se esperar que a tecnologia alcançasse além das celebridades e estivesse disponível para o usuário comum. Felizmente, os usuários já podem denunciar deepfakes de si mesmos.
Claro, o YouTube já oferece alguns recursos de IA para gerar conteúdo na plataforma, como seu experimental Dream Screen for Shorts que pode gerar fundos. Eles se inclinam para o objetivo do YouTube de oferecer maneiras seguras de usar IA seguindo suas diretrizes declaradas, mas é claro que nem todos usarão as ferramentas incluídas, mas usarão tecnologia externa, e é por isso que salvaguardas são necessárias, como as duas ferramentas propostas reveladas hoje.
Em um mundo onde está ficando cada vez mais difícil separar a realidade da IA, as novas ferramentas de detecção de IA propostas pelo YouTube certamente serão adições bem-vindas ao sistema de ID de conteúdo. Afinal, se ninguém pode confiar no conteúdo do YouTube, ele certamente não sobreviverá à era da IA, e é por isso que o Google terá que ficar alerta, mantendo-se um passo à frente daqueles que usam IA para enganar e enganar usuários. Não será um trabalho fácil, mas certamente o Google, de todas as empresas, tem a capacidade de ver isso acontecer.
