Estereótipos é algo a que estamos acostumados como humanos. Naturalmente, fazemos julgamentos rápidos sobre as pessoas com base em sua aparência, fala ou ação. Essas suposições nos ajudam a dar sentido ao mundo, mas podem ser erradas ou injustas. Hoje, está inserido em nossa tecnologia. Se você pesquisar termos como “pessoas mais velhas…” ou “por que os millennials…” em seu tablet ou telefone Android, poderá ver sugestões do Google como “…as pessoas mais velhas são esquecidas?” ou “… os millennials estão sozinhos?”
A inteligência artificial usa esses estereótipos assim como nós. Achei interessante porque li e ouvi falar sobre isso, mas só recentemente experimentei. Aqui está a experiência que me fez rir e refletir.
Relacionado
O que é Grok?
O que torna o Grok único é que ele se integra profundamente ao X, acessando dados em tempo real da plataforma.
Quem é você quando está online?
Esta tendência X vai colocar você em diferentes estados de espírito
Há uma tendência no X (antigo Twitter) em que as pessoas pedem ao Grok AI para adivinhar sua aparência com base em seus tweets ou resumir suas contas. Os resultados trouxeram uma mistura de reações, desde confusão e diversão até instigantes. Entre os meus favoritos está o usuário que pediu a Grok para escrever um poema baseado em seu post X. O poema era excessivamente dramático, repetitivo e mais uma saga épica do que um simples resumo de seu conteúdo.
Eu tive que tentar. Houve vários casos em que ele continuava copiando a foto do seu perfil, então solicitei que ele me informasse sem imagens. Ele respondeu que eu parecia um nerd de meia-idade. Fiquei curioso para saber como chegou a essa conclusão, então pressionei para obter mais detalhes. O acompanhamento foi mais específico, descrevendo-me como um homem solitário de 40 anos que passa os dias jogando videogame no quarto. Quase engasguei.
A descrição está longe da realidade, pois sou mulher e ainda estou aproveitando a fase de crise do quarto de vida da minha vida. Isso me fez pensar como a IA influencia a maneira como nos comunicamos online. É engraçado porque, pelos nossos tweets, muitos de nós podemos parecer pessoas diferentes. Não é todo dia que sou confundido com um jogador recluso de 40 anos, mas aqui estamos.
Faz você pensar em como moldamos nossas personas digitais sem perceber. A internet tem uma maneira engraçada de nos transformar em caricaturas, e a IA adiciona uma nova camada a essa mistura.
IA e padrões em expressões virtuais
Essas máquinas não pensam como nós, ou pensam?
Grok é um chatbot de IA desenvolvido pela empresa de IA de Elon Musk, xAI. Tem um tom bem-humorado e rebelde, inspirado em “O Guia do Mochileiro das Galáxias”. Daí a razão para as respostas chocantemente contundentes. Ele usa o modelo de linguagem Grok-1, que tem desempenho melhor que o GPT-3.5, mas não é tão avançado quanto o GPT-4.
Grok foi lançado em novembro de 2023, e as versões mais recentes do Grok-2 e Grok-2 Mini foram introduzidas em agosto de 2024. Inicialmente, a IA exigia uma assinatura de US$ 8, mas agora seu uso é gratuito. Como outros modelos generativos, Grok só pode “ver” através dos dados. Ele gera respostas baseadas em padrões. Provavelmente analisa a escolha de palavras, frases, hashtags e até mesmo o tom de suas postagens.
Por exemplo, minhas postagens incluem muitos jargões e notícias de tecnologia, nostalgia por gadgets antigos ou trocadilhos em torno de hobbies de nicho. Usar termos como “vintage”, “antigamente” ou fazer piadas secas sobre o pai pode ter me feito parecer um homem de meia-idade. Falar muito sobre videogames clássicos e outras subculturas, ou mesmo sobre coisas obscuras, também pode ser o motivo pelo qual fui estereotipado.
Independentemente disso, Grok não me entendia como indivíduo, e o julgamento restrito não surgiu do nada. Baseia-se em padrões e suposições, muitas vezes ligando características ou interesses a dados demográficos específicos. Os preconceitos sociais moldam os dados que processa, como a ideia de que os homens são mais propensos a envolver-se em temas tecnológicos. Além disso, outros géneros estão sub-representados na indústria, especialmente na investigação em IA. No final das contas, não é culpa de Grok. Os dados são os culpados.
Relacionado
8 mitos comuns sobre IA descobertos
A IA não está aqui para roubar nossos empregos
O poder da percepção
O que tudo isso diz sobre nós?
Quando pegamos nossos teclados e fazemos uma postagem, influenciamos como somos percebidos. O conteúdo que compartilhamos cria uma personalidade que todos julgam. Cada tweet, retuíte ou hashtag está sujeito a avaliação, seja intencional ou não. Com base no exemplo anterior, se você fala constantemente sobre jogos, a IA pode categorizá-lo como um jogador, mesmo que isso seja apenas uma pequena parte da sua vida.
Da mesma forma, o tom formal, sarcástico ou casual que você usa é importante. Se apresentarmos apenas alguns aspectos de nós mesmos, alimentamos o algoritmo e outras pessoas com uma versão linear de nossa identidade. Embora os estereótipos não devam ser celebrados, a tendência X é um bom motivo para olhar para dentro e refletir sobre isso. É também um lembrete das limitações da IA.
Quando vi pela primeira vez o palpite de Grok, pensei que estava errado. No entanto, depois de pensar mais sobre isso, percebi que há alguma verdade nisso. Posso ser analítico e antiquado. Como qualquer pessoa, ele pode formar opiniões sobre você com base em um pequeno pedaço de quem você é. A diferença está no contexto e no algoritmo.
Avalie sua identidade na Internet
Os modelos de IA, incluindo os generativos, refletem o mundo que criamos. Eles captam nossos preconceitos, valores e suposições e os refletem em seus resultados. Eliminá-los é mais complexo do que simplesmente alterar os dados. Trata-se também de repensar a forma como a IA é treinada e utilizada. Além disso, o conteúdo gerado por IA é complicado e pode prejudicar as pessoas. Ainda assim, não tem intenções próprias. Ao usar Grok ou qualquer IA, questione objetivamente suas conclusões e pergunte-se se ela representa quem você é. Considere isso um experimento.
