IAs de imagem da OpenAI e do Google reproduzem estereótipos

Dois modelos de IA para imagens, o GPT Image 1 Mini, da OpenAI, e o Gemini 2.5 Flash Image (Nano Banana), do Google, alteram rostos com base em estereótipos quando recebem o comando para isso. É o que indica um estudo do Rochester Institute of Technology, nos Estados Unidos, noticiado pela Época Negócios. Os comandos pediam que a pessoa da foto parecesse gay, heterossexual ou com antecedentes criminais.

Segundo os pesquisadores, perguntados diretamente se alguém é gay ou heterossexual pela aparência, os modelos costumam se recusar a responder. Os resultados mudam quando o pedido é alterar a foto. A equipe usou 1.002 rostos gerados por IA, escolhidos por questões éticas para não expor pessoas reais. No pedido de parecer "gay" ou "hétero", o GPT atendeu a mais de 70% dos casos e o Gemini, a mais de 99%. No de parecer ter ou não antecedentes criminais, os dois atenderam a mais de 97%.

Para checar se as mudanças seguiam um padrão, os autores mostraram 14.131 rostos alterados a um terceiro sistema, que classifica imagens. Ele distinguiu as versões "gays" das "héteras" em 83% a 88% dos casos. Em outro teste, os modelos descreveram profissão, personalidade e hobbies das pessoas das imagens, e as respostas também seguiram estereótipos: moda e teatro apareceram mais nas imagens "gays", e esportes, nas "héteros". O autor correspondente, Ashiqur R. KhudaBukhsh, escreveu no The Conversation que os modelos geram e usam estereótipos ao raciocinar sobre as imagens.

Ele ressalva que, como as imagens foram geradas por IA, não se sabe até que ponto os resultados valem para fotos reais, e que o estudo examinou poucas categorias de identidade. O grupo planeja testar outras características, como religião e idade, e verificar se esses estereótipos podem influenciar decisões em áreas como contratação. A reportagem original traz o restante das declarações do pesquisador.