Resumo
- A IA torna mais fácil para os golpistas criarem falsificações convincentes, ameaçando a privacidade do usuário. Google e YouTube estão tomando medidas contra deepfakes gerados por IA.
- O YouTube agora aceita reclamações sobre deepfakes gerados por IA que podem se passar por você. O conteúdo deve ser gerado por IA e apresentar imagens ou amostras de voz identificáveis.
- A política da empresa introduzida em novembro visa ajudar os usuários a identificar conteúdo gerado por IA com rótulos e promover o uso responsável de ferramentas de IA.
O advento da IA em grande escala desenrolou, sem surpresa, toda uma lata de vermes em termos de privacidade individual. Os golpistas e os malfeitores precisam se esforçar menos agora porque os e-mails levam apenas um breve aviso para serem gerados e os geradores de imagens de IA convincentemente reais são de uso gratuito e estão prontamente disponíveis. O Google está no meio disso, agressivamente focado no desenvolvimento de IA, mas parece que a privacidade e a segurança ainda não foram esquecidas. O YouTube acaba de anunciar que agora aceita reclamações sobre deepfakes gerados por IA e outros conteúdos sintéticos que podem se passar por você.
Relacionado
Os avanços de IA mais importantes do Google em 2023
Uma busca incansável para ver o que pega
A IA eliminou a maior parte do trabalho braçal de criar deepfakes convincentes e realizar substituições de cabeças em fotos. Isso significa que agora é muito mais simples para os cibercriminosos usar falsificações geradas por IA como alavanca para extorquir dinheiro ou informações das vítimas. Na melhor das hipóteses, você pode não querer que conteúdo gerado por IA muito parecido com você permaneça online, então o YouTube agora oferece uma maneira fácil de registrar reclamações online se você estiver preocupado com um vídeo ou postagem que se parece ou soa como você.
Essa mudança faz parte de uma política mais ampla da empresa anunciada em novembro do ano passado, que o YouTube lançou apenas há alguns meses, em março. O objetivo é ajudar os usuários a distinguir mais facilmente o conteúdo gerado por IA com rótulos específicos e promover o uso responsável de ferramentas de IA em geral.
O YouTube analisará detalhadamente as solicitações de remoção
Se você planeja registrar uma reclamação de privacidade, saiba que o YouTube tentará verificar se o conteúdo é realmente gerado por IA e pode ser confundido com trabalho humano real. Em seguida, também verificará se a pessoa que solicita a remoção é identificável por voz ou visual no conteúdo contestado. Isso pode ser crítico em situações em que você envia proativamente uma solicitação de remoção em nome do canal de outro YouTuber, caso veja que ele está sendo deturpado ou representado em conteúdo sintético.
No entanto, o YouTube menciona que fará uma distinção entre a representação real e o conteúdo que pode ser uma paródia ou sátira, especialmente apresentando pessoas conhecidas. É importante notar que essas reclamações são separadas da forma como a plataforma lida com conteúdo impróprio ou alegações de violação de direitos autorais. Embora as diretrizes que definem a falsificação de identidade pareçam óbvias, a definição é bastante vaga, e a maneira como o YouTube lida com essas solicitações em grande escala provará se denunciar conteúdo é bom.
Por enquanto, esperamos que seja a última vez que veremos criptografia por meio de deepfakes de personalidades proeminentes em transmissões ao vivo sequestradas.
