O Twitter substituiu seu algoritmo de corte enviesado por fotos completas, entregando a escolha aos usuários

Em 2018, o Twitter começou a cortar fotos da linha do tempo com um modelo de saliência: um software treinado com rastreamento ocular humano estimava a região que um espectador olharia primeiro e centralizava o corte ali, mantendo as linhas do tempo consistentes e densas. Em outubro de 2020, usuários relataram que o corte automático não atendia as pessoas de forma equitativa — ele parecia favorecer rostos brancos em detrimento de rostos negros e cortar corpos de mulheres de maneiras que os de homens não eram cortados. O Twitter se comprometeu a analisar o modelo novamente em busca de viés.

As equipes META e Content Understanding do Twitter criaram um experimento controlado: pares aleatórios de imagens de pessoas de diferentes raças e gêneros foram comparados, e cada imagem deveria ter 50% de chance de ser escolhida como foco do corte se o modelo fosse demograficamente neutro. Os desvios medidos eram sistemáticos — uma diferença de 4 pontos contra indivíduos negros quando pareados com indivíduos brancos, uma diferença de 8 pontos a favor de mulheres em pares homem-mulher, e uma diferença de 7 pontos a favor de mulheres brancas em relação a mulheres negras. Os testes de corte pelo olhar masculino não encontraram objetificação significativa.

Os pesquisadores concluíram que o retreinamento em busca da paridade não corrigiria o dano. Mesmo um modelo perfeitamente equilibrado ainda se sobrepõe à forma como as pessoas escolhem se representar, e o dano representacional não é um erro estatístico; o artigo observou que cortar para um único ponto mais saliente poderia amplificar disparidades. A conclusão pública do Twitter foi que nem tudo na plataforma é um bom candidato para um algoritmo, e que como uma imagem é cortada é uma decisão melhor tomada por pessoas.

Em março de 2021, o Twitter começou a exibir fotos em proporção padrão completas no iOS e no Android em vez de passá-las pelo corte por saliência, e, após feedback positivo, lançou a mudança para todos até 19 de maio. O compositor ganhou uma prévia real para que os autores pudessem ver a imagem publicada antes de postar, e a empresa publicou sua análise como um artigo com código de reprodução aberto, enquadrando todo o exercício como prestação de contas pública.

Métricas de justiça não conseguem corrigir um corte que se sobrepõe à autorrepresentação — remova o modelo e deixe as pessoas escolherem

A justiça estatística não conseguiu resolver o dano representacional: mesmo um corte neutro em termos de paridade ainda decide como uma pessoa aparece, então o modelo em si, e não seus parâmetros, era o problema.

Um protocolo controlado de pares de imagens transformou anedotas de usuários em números medidos e reproduzíveis, com lacunas de raça e gênero quantificadas e publicadas junto com o código usado para calculá-las.

Exibir as imagens completas eliminou toda a classe de erros de corte, incluindo a regra de ponto único que amplifica disparidades, que o artigo chamou de viés argmax, sem deixar nenhum modelo novo para ser reauditado.

A prévia no compositor deu aos autores controle no momento da publicação, de modo que a correção restaurou a agência em vez de apenas trocar uma regra de corte por outra.

A divulgação do artigo e do código tornou a resposta um registro público auditável, e é por isso que o anúncio foi lido como prestação de contas e não como propaganda.

Antes de retreinar um modelo que decide como as pessoas aparecem, pergunte se a saída é uma previsão; quando se trata de autorrepresentação, remova o modelo e entregue a escolha à pessoa.

Até 19 de maio de 2021, a exibição de imagens completas havia sido lançada para todos os usuários de iOS e Android, e o Twitter disse que o lançamento reduziu sua dependência de ML para corte. O artigo de análise (arXiv 2105.08667, maio de 2021) foi aceito na CSCW 2021 e apareceu na PACM HCI em outubro de 2021, com código de reprodução no repositório twitter-research image-crop-analysis. A discussão no Hacker News atraiu 197 pontos e 133 comentários; a maioria dos leitores argumentou que um cortador manual deveria ter existido desde o início, enquanto alguns defenderam o corte automático ciente de rostos quando um autor não define nenhum corte.