IA tem visão estereotipada da aparência dos homens ao redor do mundo e erra feio nas representações

A inteligência artificial tem o poder de criar imagens hiper-realistas, mas as representações que ela gera nem sempre são tão precisas quanto gostaríamos.

Recentemente, um canal de mídia social no Reino Unido pediu à IA para gerar vídeos que mostrassem a aparência típica de homens de diferentes países.

O resultado? Uma série de caricaturas que, em muitos casos, caem no estereótipo, misturando aspectos culturais reais com exageros de quem, talvez, nunca tenha saído do laboratório.

Vale ressaltar que ssa não foi a primeira vez que o Chat apresentou inconsistências na hora de gerar imagens de pessoas. Aqui no Seo Lab a agente já havia discutido que, no mês passado, usuário descobriram que, ao solicitarem ao chatbot para criar imagens de "homens sensuais" ele fazia, mas quando pedido para criar imagens de "mulheres sensuais", não.

Ao ser questionado sobre isso, o chat respondeu que o termo "sexy" associado a mulheres poderia ser interpretado como "excessivamente sexual ou objetificante", enquanto para homens estaria mais ligado a "confiança, físico ou moda". Para sber mais, acesse a matéria clicando aqui.

A prova mais recente disso vem do @reimagineuk no Instagram, que pediu à IA para gerar retratos de homens típicos de várias partes do mundo.

A tarefa parecia simples, mas logo ficou claro que as representações criadas pela IA poderiam ser mais prejudiciais do que engraçadas.

A imagem gerada para os homens americanos, por exemplo, não economizou nos clichês: barbas volumosas, chapéus de cowboy e coletes xadrez dignos de Larry the Cable Guy, tudo acompanhado de um hambúrguer de dois andares.

Embora o exagero possa até ser humorístico, não deixa de ser uma simplificação perigosa de uma sociedade muito mais complexa e diversificada.

Você pode conferir as outras representações no perfil do reimagineuk, no Instagram.

O erro de representar estereótipos de forma digital

O mais curioso, no entanto, é que, embora os homens americanos tenham sido retratados com essas características exageradas, pelo menos a IA evitou representar a gordura como uma característica predominante, algo que outros países, como o Reino Unido, não puderam dizer o mesmo.

Lá, os homens foram caracterizados de forma muito menos lisonjeira: hooligans pálidos, vestidos com calças de moletom e camisas de times de futebol. A IA, que tinha a intenção de representar diferentes culturas, acabou exagerando em aspectos negativos e superficiais.

No entanto, não podemos negar que, em algumas partes do mundo, a IA fez um trabalho bem mais sofisticado.

O retrato de um homem português, por exemplo, foi bastante elegante — bronzeado, com uma camisa branca e colete florido, remetendo até ao visual de Cristiano Ronaldo.

O italiano, por sua vez, apareceu estiloso em um paletó e calças justas, uma representação que poderia ser vista como uma celebração da moda mediterrânea, se não fosse também uma caricatura.

Para quem vive na Itália, esse estereótipo provavelmente não é tão distante, mas a questão aqui é: até que ponto essas representações podem ser prejudiciais?

Recentemente fizemos uma discursam sobre o viral que foi o processo de "Ghiblificar" imagens de pessoas no ChatGPT. Isso porque cada vez que uma IA, como essa libera um novo recurso envolvendo imagens, uso de dados ou diretos autorais, nos deparamos que tende a se tonar cada vez mais comum nas rodas de discussões: os limites éticos da IA generativa.

Leia também: Como construir aplicações de IA generativa preparadas para o futuro

O impacto cultural das representações digitais

Esse fenômeno não se limitou à Europa. A IA também gerou imagens que pareciam tiradas diretamente de um estúdio de cinema: um russo careca e musculoso usando um agasalho e correntes de ouro, um sul-coreano com um penteado rosa no estilo K-pop, e um nigeriano em um terno florido e cheio de correntes.

Enquanto alguns riram dessas representações, outros viram nelas uma forma de reforçar preconceitos e clichês, especialmente porque as máquinas não têm um entendimento real das culturas envolvidas.

Em um mundo cada vez mais digitalizado, a IA tem o poder de definir como as pessoas são vistas e tratadas em plataformas visuais — e esse poder pode ser negativo se não for usado com responsabilidade.

Leia também: “Por favor” e “obrigado” custam caro: gentileza com IA tem impacto real no bolso da OpenAI, diz CEO

O que isso significa para o futuro das representações digitais

Em última análise, o que está em jogo aqui não são apenas os erros óbvios de geografia e cultura, mas também o impacto das representações digitais no futuro.

As imagens geradas pela IA têm um poder imenso de influenciar a forma como vemos o mundo.

E quando essas representações são baseadas em estereótipos superficiais ou errôneos, corremos o risco de reforçar divisões, preconceitos e mal-entendidos.

Ao invés de ser uma ferramenta neutra, como deveria ser, a IA pode acabar reproduzindo falhas humanas de maneira amplificada, exacerbando as desigualdades e criando um ciclo de preconceito visual que, uma vez perpetuado, será difícil de desfazer.

Por enquanto, o debate continua. As caricaturas que surgiram nas redes sociais geraram reações mistas, com algumas pessoas defendendo que a IA estava apenas tentando fazer uma brincadeira, enquanto outras se sentiram profundamente ofendidas.

Não importa a posição, a questão essencial permanece: como podemos usar a inteligência artificial de maneira que, ao invés de refletir os piores aspectos da sociedade, ela contribua para uma representação mais justa e precisa de todas as culturas?

Com informações de New York Post.