Resumo
- O Google enfrenta reação negativa por causa de resultados de pesquisa bizarros gerados por IA.
- O gigante das buscas culpa “vazios de dados” e consultas peculiares por conselhos estranhos.
- Apesar das falhas, o Google promete melhorar seus recursos de pesquisa de IA.
Quando o Google revelou seus resumos escritos por IA para resultados de pesquisa, isso foi considerado o maior salto para o mecanismo de pesquisa em décadas. Mas agora, as pessoas estão se perguntando se foi um salto na direção certa. Poucos dias após o lançamento do AI Overviews nos EUA, as mídias sociais explodiram com exemplos do novo recurso do Google dando conselhos bizarros, como sugerir aos usuários que colocassem cola em suas pizzas ou comessem pedras diariamente. Foi um desastre de relações públicas. Para corrigir o fiasco, o Google agora está colocando limites em seus recursos de pesquisa de IA.
Em uma postagem no blog, a chefe de pesquisa do Google, Liz Reid, explicou que os resultados estranhos foram devido a “vazios de dados” e consultas peculiares dos usuários. Poucas pessoas perguntam sobre comer pedras, então o mecanismo de busca não tinha fontes confiáveis para extrair. Reid disse que a IA tomou por engano um artigo satírico do The Onion, republicado por uma empresa de software, como fonte factual.
As visões gerais de IA estão assumindo o controle da Pesquisa Google, goste você ou não
O Google está ficando teimoso em não deixar você sair da Pesquisa
Reid também observou que perguntas estranhas dos usuários contribuíram para as respostas estranhas, mas afirmou que, no geral, os resultados da IA estão aumentando a satisfação do usuário com a Pesquisa. Ela enfatizou que, embora as visões gerais de IA geralmente não “alucinem”, elas podem interpretar mal o conteúdo ou as consultas. O objetivo do Google é que as visões gerais de IA forneçam informações precisas apoiadas pelos principais resultados da web.
Google está em modo de controle total de danos
Reconhecendo as falhas, o Google está tomando medidas para melhorar a situação. Reid mencionou que a empresa já desenvolveu mecanismos para detectar “consultas sem sentido” que não deveriam acionar uma visão geral de IA e restringiu a inclusão de conteúdo satírico e humorístico.
O Google também atualizou seus sistemas para limitar o conteúdo gerado pelo usuário que poderia fornecer conselhos enganosos e adicionou restrições para consultas onde as visões gerais de IA não eram úteis. Eles também abordam resultados de pesquisa de IA que violam políticas de conteúdo, incluindo aqueles que são potencialmente prejudiciais ou obscenos.
Além disso, o Google sugeriu que muitas das capturas de tela amplamente compartilhadas desses resultados errôneos eram falsas ou fabricadas, alegando que essas visões gerais de IA específicas nunca apareceram.
As dificuldades do Google com as visões gerais de IA ressaltam as limitações atuais da tecnologia de IA e a ânsia dos gigantes da tecnologia em implementá-las de qualquer maneira. Apesar dos problemas, as visões gerais da IA não desaparecerão tão cedo. O Google planeja continuar mostrando-os aos usuários e expandindo seu lançamento para mais países.
