Algoritmo do Twitter favorece mulheres jovens e magras em corte de fotos; veja como funciona

Competição promovida pelo Twitter queria encontrar problemas na inteligência artificial de corte de fotos

Chamado Def Con, o concurso surgiu depois que o Twitter enfrentou diversas críticas pelo favorecimento de pessoas brancas em detrimento de pessoas negras em suas fotos

O algoritmo de corte de fotos no Twitter continua com problemas após o caso de favorecimento de pessoas brancas nas imagens da rede social. Agora, um concurso realizado pelo própria plataforma apontou que o sistema tem priorizado, nos cortes, mulheres jovens, magras e brancas. O problema foi indicado por Bogdan Kulynych, um estudante de segurança da computação da EPFL, na Suíça, que foi o vencedor da ação que desafiava profissionais a encontrar falhas na inteligência artificial (IA) da rede em relação à fotos de pessoas. 

Segundo a pesquisa de Kulynych, baseada em no algoritmo StyleGAN2 de deep fake — método que permite criar imagens de pessoas reais em computador por IA — o corte das fotos no Twitter favorecem pessoas com traços femininos, brancas e jovens, reconhecendo características como a textura da pele para determinar idade e gênero. Outros dois vencedores do desafio também descobriram que  o corte desfavorecia pessoas com traços como cabelos brancos ou que tivessem parte de texto em árabe, por exemplo, para priorizar postagens em inglês. 

“Basicamente, quanto mais magra, jovem e feminina for uma imagem, mais ela será favorecida”, afirmou Patrick Hall, cientista do BNH, empresa que presta consultoria em IA e que foi jurado na competição.

Chamado Def Con, o concurso surgiu depois que o Twitter enfrentou diversas críticas pelo favorecimento de pessoas brancas em detrimento de pessoas negras em suas fotos. A polêmica, em novembro de 2020, fez com que a rede social adotasse uma outra visualização de fotos na feed, e testasse uma opção de mostrar uma imagem sem cortes. Ainda assim, as prévias de imagens, geradas pelo algoritmo, continuaram enviesadas em relação à raça, idade e gênero. 

“Quando pensamos sobre preconceitos em nossos modelos, não se trata apenas do acadêmico ou experimental, mas como isso também funciona com a forma como pensamos na sociedade”, disse Rumman Chowdhury, diretor da área de pesquisa em aprendizado de máquina do Twitter. “Nós criamos esses filtros porque pensamos que isso é bonito, mas isso acaba treinando nossos modelos e conduzindo essas noções irrealistas do que significa ser atraente”. 

Deixe um comentário

Preencha os seus dados abaixo ou clique em um ícone para log in:

Logotipo do WordPress.com

Você está comentando utilizando sua conta WordPress.com. Sair /  Alterar )

Foto do Google

Você está comentando utilizando sua conta Google. Sair /  Alterar )

Imagem do Twitter

Você está comentando utilizando sua conta Twitter. Sair /  Alterar )

Foto do Facebook

Você está comentando utilizando sua conta Facebook. Sair /  Alterar )

Conectando a %s

Este site utiliza o Akismet para reduzir spam. Saiba como seus dados em comentários são processados.