Meta não consegue diferenciar imagens geradas por IA de fotos reais

A inteligência artificial está agora em toda parte. E embora a IA já estivesse em uso antes do grande boom que vimos recentemente, os consumidores realmente não conseguiam ver o potencial que ela tinha até o lançamento do OpenAI’sChatGPT. Com o interesse do consumidor despertado, era apenas uma questão de tempo até que pesos pesados ​​como Google e Meta entrassem no ringue com suas próprias plataformas de IA. Desde então, vimos uma variedade de ferramentas de IA sendo disponibilizadas ao público, até mesmo serviços que podem usar a IA para gerar fotos e vídeos convincentes e realistas.

Relacionado

Meta AI: O que é, quem pode usar e como?

Aprenda sobre Meta AI e como você pode usar essa inteligência artificial gratuita e de código aberto para bater papo, criar imagens e muito mais

À medida que essas ferramentas melhoram, fica cada vez mais difícil dizer o que é real e o que não é. Por esse motivo, a Meta criou seu sistema de rotulagem “Made with AI” para plataformas como Instagram, Facebook e Threads, a fim de ajudar os usuários a distinguir o que é o quê. E embora esse possa ser um ótimo recurso, parece que, apesar das boas intenções do Meta, o recurso nem sempre rotula com precisão as imagens em suas plataformas.

De acordo com o TechCrunch, o Meta está usando o rótulo “Made with AI” em imagens que não são criadas com IA. Claro que nem sempre as coisas ficam em preto e branco sempre que vemos imagens na internet, algumas delas tendo algum tipo de alteração feita. A agência de notícias compartilha que não se trata apenas de uma simples questão de as imagens serem rotuladas incorretamente, mas talvez as imagens com edições também estejam sendo rotuladas.

Como você pode imaginar, esse tipo de rótulo pode ser frustrante para os fotógrafos, especialmente quando uma imagem não é criada com IA. Embora Meta não tenha fornecido ao TechCrunch uma razão para isso estar ocorrendo, a agência de notícias conseguiu um comentário do ex-fotógrafo da Casa Branca Pete Souza, que compartilhou que isso pode estar ocorrendo devido a alterações feitas no popular software de edição da Adobe. programas, especificamente no que diz respeito à forma como o cultivo funciona agora.

Independentemente disso, a edição tornou-se muito mais complicada agora do que costumava ser, especialmente com as novas ferramentas de IA que podem realmente alterar uma imagem com o clique de um botão. E embora algumas dessas edições possam não ser profundas, ainda são tecnicamente imagens que foram manipuladas usando IA. Claro, há pessoas em ambos os lados da cerca, com alguns acreditando que edições simples não devem ser atingidas com rótulos de IA, enquanto outros acreditam que qualquer manipulação de qualquer imagem deve ser observada.

Infelizmente, a partir de agora, o Meta não parece ter uma maneira de distinguir essas diferenças, por isso deve rotular o que puder. No entanto, a marca tem um esboço de como detecta essas imagens em seu site, compartilhando que rotula “qualquer conteúdo que contenha sinais padrão da indústria gerados por IA”. Isso também inclui imagens “criadas ou editadas usando ferramentas de IA de terceiros”.

Dito isto, a marca está ansiosa por fazer melhorias na sua tecnologia, partilhando que está a trabalhar ativamente com as empresas para melhorar o seu processo de etiquetagem e que a “intenção sempre foi ajudar as pessoas a saber quando veem conteúdo que foi feito com IA Estamos levando em consideração o feedback recente e continuamos avaliando nossa abordagem para que nossos rótulos reflitam a quantidade de IA usada em uma imagem.”

Por enquanto, parece que os rótulos permanecerão válidos e aqueles que usam ferramentas de IA para auxiliar em suas edições correrão o risco de sua arte ser rotulada como algo gerado por IA. Claro, tudo isso pode mudar no futuro, à medida que as ferramentas forem refinadas, junto com o sistema Meta.