Imagine isto: uma grande empresa de tecnologia cria um modelo generativo de IA que deveria ser mais poderoso, mas também inclusivo, do que o que veio antes dele. No entanto, devido à provável falta de conjuntos de dados diversificados o suficiente, o modelo deve corrigir excessivamente a diversidade, levando à geração de imagens que são historicamente imprecisas.
Um importante representante da empresa é então confrontado com a forma como a empresa está lidando com esses problemas por uma pessoa vestindo uma camisa com a estampa de um corpo feminino nu fotorrealista e responde à pergunta aparentemente sem abordar a escolha grosseira e inadequada do guarda-roupa. . E como cereja no topo do bolo, tudo isto se desenrola poucos dias antes do Dia Internacional da Mulher.
Foi o que aconteceu em um hackathon recente realizado na AGI House em São Francisco, com a participação de muitos especialistas de alto nível em IA e aprendizado de máquina. No evento generativo focado em IA, o cofundador do Google, Sergey Brin, fez uma aparição surpresa, pronto para trabalhar com os participantes em tópicos de IA, nos quais ele agora se concentra no Google. Um dos participantes teve uma escolha interessante de traje, vestindo uma camiseta com uma representação fotorrealista de um corpo feminino.
A questão foi levantada por Jennifer Stirrup, uma reconhecida especialista em ciência de dados e IA. “Como mulher do setor de tecnologia, não quero trabalhar em um ambiente de trabalho profissional onde camisetas como esta sejam permitidas”, ela escreve em um post no X. “A misoginia é muitas vezes contundente e impensada, bem como diretamente ofensiva. Isso aparece quando as pessoas não levam as mulheres tão a sério quanto os homens. Portanto, ficamos reduzidos aos nossos corpos e à utilidade sexual, repetidas vezes.”
Não está claro se Sergey Brin abordou a camiseta inadequada da pessoa que fez a pergunta. O vídeo mostra apenas uma parte da pergunta da pessoa e da resposta de Brin, ambas abafadas o suficiente para não serem 100% compreensíveis. Parece que o pequeno trecho que foi tornado público girava principalmente em torno da questão em si.
Parece também que a equipe de mídia social dos organizadores até endossa a forma como a pessoa se veste. AGI House, local onde aconteceu o evento, republicou duas postagens mostrando o mesmo vídeo da pergunta da pessoa no X. Parece também que nenhum dos outros participantes do evento falou publicamente sobre a camiseta, embora não esteja claro se não se incomodaram com isso ou se sentiram medo ou desconforto em fazê-lo.
Embora o vídeo pareça mostrar que a sala está cheia apenas de homens, outra perspectiva que mostra Brin entrando revela que parece haver alguma representação feminina, embora esteja longe de ser equilibrada.
esse nao é um caso isolado
A indústria tem problemas em escala
A indústria tecnológica é incrivelmente dominada pelos homens, e com eventos como este a desenrolar-se sem repercussões imediatas óbvias (pelo menos aos olhos do público), não é de admirar que seja esse o caso. Esta não é a primeira vez que vemos comportamentos inadequados como esse e provavelmente não será a última. Na verdade, o Google foi forçado a pagar US$ 118 milhões em 2022 para resolver um processo por discriminação de gênero. Apenas um ano depois, em outubro de 2023, o Google teve de pagar US$ 1 milhão a uma executiva devido ao preconceito de gênero.
Tanto as ações em geral, como as ações judiciais, quanto os atos individuais de ultrapassagem, como a pessoa da camiseta, podem afastar as mulheres e qualquer pessoa que não queira trabalhar em um ambiente como esse, impossibilitando a criação de tipos de grupos diversos de pessoas que precisamos para tornar a tecnologia menos tendenciosa. Na era da IA generativa, com os seus grandes problemas de diversidade devido a conjuntos de dados limitados e inerentemente distorcidos — o que provavelmente fez com que as imagens do Gemini fossem corrigidas excessivamente para a diversidade em primeiro lugar —, isto é ainda mais importante.
Ao mesmo tempo, precisamos de reconhecer que as empresas estão a trabalhar para alcançar mais diversidade, pelo menos no papel. A busca do Google para representar com mais precisão todos os tipos de tons de pele com o ajuste de câmera True Tone vem à mente apenas como um exemplo. A empresa também tem metas de diversidade e igualdade de gênero listadas em um site dedicado, embora pareça ter sido atualizado pela última vez em 2022 e se oponha às ações judiciais mencionadas anteriormente. Outra grande empresa tecnológica, a Apple, também está a trabalhar ativamente para um espaço de trabalho mais inclusivo, pelo menos de acordo com as suas próprias estatísticas de inclusão e diversidade.
Estes são apenas alguns exemplos e todos eles são passos na direção certa, mas enquanto os homens puderem andar pelos eventos com camisetas exibindo conteúdo impróprio e os processos judiciais de igualdade atingirem as empresas de tecnologia, fica claro que a indústria ainda tem um longo caminho a percorrer. caminho a percorrer.
