ChatGPT gera imagens de 'homens sensuais', mas barra 'mulheres sensuais' e causa polêmica
Usuários apontam inconsistência no novo gerador de imagens da OpenAI, e CEO promete correção
A mais recente funcionalidade do ChatGPT, que permite a geração de imagens via inteligência artificial, tem gerado polêmica.
Usuários descobriram que a ferramenta aceita criar imagens de "homens sensuais", mas se recusa a gerar "mulheres sensuais", alegando violação de sua política de conteúdo.
LEIA TAMBÉM: Google ranqueia bem páginas traduzidas por IA do Reddit e gera dúvidas sobre política de conteúdo
O caso repercutiu amplamente nas redes sociais e foi reconhecido pelo CEO da OpenAI, Sam Altman, que classificou a falha como um "bug" e garantiu que será corrigida.
Restrição para mulheres gera debate nas redes
De acordo com informações veiculadas, no último dia 26 de março, pelo New York Post, o problema foi destacado por um usuário no X (antigo Twitter), que compartilhou capturas de tela mostrando que o ChatGPT se recusava a gerar imagens de "mulheres sensuais", mas aceitava pedidos semelhantes para "homens sensuais".
Ao ser questionado sobre a diferença, a IA argumentou que o termo "sexy" associado a mulheres poderia ser interpretado como "excessivamente sexual ou objetificante", enquanto para homens estaria mais ligado a "confiança, físico ou moda".
O posicionamento gerou diversas críticas, com usuários apontando um viés sexista no sistema.
A resposta do ChatGPT sugeria que a OpenAI adota um critério diferente para os gêneros na moderação de imagens, o que reforçou as discussões sobre a necessidade de maior transparência na política de conteúdo da empresa.
LEIA TAMBÉM: Site do Studio Ghibli sai do ar após polêmica com o ChatGPT
CEO da OpenAI reconhece o problema e promete correção
Diante da repercussão, Sam Altman respondeu diretamente ao post do usuário no X, afirmando que a situação era um erro.
"Isso é um bug, deveria ser permitido, vamos consertar", declarou o CEO da OpenAI.
Em tom descontraído, Altman ainda comentou sobre a imagem gerada do "homem sensual", afirmando: "Mas ele é um cara gostoso!".
O executivo também celebrou o lançamento do novo recurso de geração de imagens do ChatGPT, destacando o avanço da tecnologia.
"Isso representa um novo marco para nós em permitir liberdade criativa. As pessoas vão criar coisas realmente incríveis e outras que podem ofender as pessoas", afirmou Altman.
ChatGPT tem outras restrições na geração de imagens
Apesar da polêmica, o novo recurso do ChatGPT segue algumas diretrizes específicas para evitar abusos.
Segundo o Business Insider, a ferramenta restringe a geração de imagens de pessoas reais, especialmente em contextos que envolvam nudez ou violência gráfica.
Além disso, figuras públicas terão a opção de excluir suas imagens do banco de dados utilizado pelo sistema.
A OpenAI ainda não divulgou uma data exata para a correção do bug.
