Jess Smith, ex-nadadora paralímpica australiana, compartilhou sua experiência com geradores de imagens de inteligência artificial (IA) que inicialmente falhavam em criar imagens precisas de si mesma, uma mulher com uma deficiência no braço esquerdo. Após diversas tentativas frustradas, onde a IA gerava imagens com dois braços ou próteses, Smith questionou a falta de representação em relação à sua condição. A resposta inicial da IA era a falta de dados suficientes.
Após contato da BBC com a OpenAI, responsável pelo ChatGPT, Smith conseguiu finalmente gerar uma imagem precisa. A empresa declarou ter feito melhorias significativas em seu modelo de geração de imagens, reconhecendo os desafios em termos de representação justa e trabalhando para aprimorar seus métodos de treinamento e diversificar os exemplos.
Outros usuários, como Naomi Bowman, que possui visão em apenas um olho, também enfrentaram problemas semelhantes, com a IA alterando características faciais mesmo após instruções específicas para não fazê-lo. Especialistas apontam que o preconceito na IA reflete os pontos cegos existentes na sociedade, destacando a importância da diversidade nas equipes de desenvolvimento e na construção dos dados.
Abran Maldonado, CEO da Create Labs, enfatiza a necessidade de representação cultural na criação de sistemas de IA, mencionando estudos que comprovam a menor precisão de algoritmos de reconhecimento facial em identificar rostos asiáticos e afro-americanos. Jess Smith ressalta que as barreiras enfrentadas por pessoas com deficiência são frequentemente sociais, e que a inclusão deve ser considerada na construção de sistemas e espaços, tanto no mundo real quanto no da IA. Ela relata que ao compartilhar sua experiência, muitas vezes as pessoas se afastam, demonstrando o desconforto em lidar com o tema da deficiência.