Você pode ver imagens suas geradas aleatoriamente por IA após usar Meta AI, em um teste assustador

Resumo

O Instagram começou a testar o Meta AI para inserir imagens de usuários geradas por IA em seus feeds.
O recurso “Imagine Yourself” da Meta AI solicita que sua ferramenta de geração de imagens crie retratos de usuários espontaneamente, seguindo o processo de integração.
Meta confirmou a inserção intencional de retratos gerados por IA, que são visíveis apenas para o usuário individual.

Em outro movimento de avanço da IA que claramente ninguém pediu, o Instagram começou a encher os feeds dos usuários com imagens generativas de IA deles mesmos em situações imaginárias. O recurso perturbador veio depois que o usuário do Reddit u/Green_Video_9831 aparentemente usou Meta AI para editar uma foto sua (via 404 Media). Jornalistas da 404 Media contataram a Meta, com um representante explicando: “As imagens não são ‘anúncios’”, mas sim um recurso que a Meta divulgou em setembro.

De todas as características do mundo, esta é certamente uma

Uma imagem gerada por IA de um usuário do Instagram em uma sala de espelhos, que apareceu em seu feed

O anúncio da Meta AI de setembro não mencionou explicitamente que inseriria aleatoriamente imagens de usuários geradas por IA em seus feeds sem aviso prévio. Ele ressaltou que um usuário seria capaz de “se imaginar como um super-herói ou qualquer outra coisa diretamente no feed, nas histórias e nas fotos do seu perfil do Facebook” e “compartilhar suas imagens geradas por IA para que seus amigos possam ver”. Ele também explicou: “Estamos testando novo conteúdo gerado pela Meta AI em seus feeds do Facebook e Instagram, para que você possa ver imagens da Meta AI criadas apenas para você (com base em seus interesses ou tendências atuais).”

Os usuários do Reddit estavam céticos de que a afirmação fosse real, a princípio. O usuário confirmou nos comentários e à 404 Media que as inserções assustadoras começaram depois que ele usou a ferramenta Meta AI, e um porta-voz da Meta apoiou a afirmação. Essa tática é, na verdade, parte do recurso “Imagine Yourself” e, embora permaneça em fase de testes, o comportamento é muito intencional por parte do Meta. Pelo que vale, o Instagram rotulou explicitamente as imagens com: “Só você pode ver isso”.

uma imagem gerada por IA de um tigre neon feito de macarrão exibido em um telefone contra um fundo de colagem verde

Relacionado

7 coisas que aprendi usando imagens geradas por IA pela primeira vez

O que você talvez não saiba sobre geradores de imagens de IA

Definitivamente, estes não são anúncios da Meta AI, de acordo com a Meta

As capturas de tela a seguir, fornecidas pela Meta como exemplos aparentes dessas implementações in-feed, mostram um usuário iniciando ostensivamente o processo de geração de IA e vendo um resultado na forma de imagens semelhantes a paisagens. Em nenhum momento o Meta indica que estaria inserindo imagens do usuário em um feed sem aviso prévio.

O teste ocorre logo depois que um conjunto de personalidades de IA mal recebidas apareceu no Facebook, causando irritação generalizada. A Meta também lançou chatbots de IA em suas plataformas baseadas em texto e imagem no início de dezembro, que recebeu menos críticas, mas também não incluiu nenhum recurso visual gerado automaticamente por IA.

Embora a IA generativa esteja invadindo basicamente todas as partes da Internet, esta parece ser a primeira vez que uma plataforma de mídia social fornece aos usuários imagens falsas de si mesmos, sem instruções explícitas. No entanto, a 404 Media informou que o Snapchat se reserva o direito de usar imagens do seu rosto geradas por IA em anúncios. Jason Koebler, cofundador da publicação, saltou na granada para nós e carregou sua selfie no Meta AI por meio do processo de integração “Imagine Yourself”. Até o momento, ele ainda não tinha visto inserida em seu feed nenhuma imagem sua em uma sala imaginária de espelhos infinitos.