Funcionários do Twitter passaram anos tentando tornar a plataforma mais segura. Elon Musk poderia minar tudo isso

POR BILLY PERRIGO  26 DE ABRIL DE 2022 12H41 EDT

Ilustração de Tim O’Brien para TIME

Aqui está uma velha piada entre os funcionários do Twitter de que estar na plataforma é como jogar um grande jogo multiplayer online onde todos os dias há um personagem principal diferente – ou seja, uma pessoa que é criticada, assediada ou empurrada para o centro das atenções. De acordo com a piada, você tem apenas um objetivo no jogo do Twitter: nunca se tornar esse personagem principal.

Um dia em 2018, o personagem principal do Twitter era Vernon Unsworth, um mergulhador britânico que passou dias ajudando no resgate de um grupo de meninos tailandeses presos em uma caverna inundada. Depois que o bilionário Elon Musk ofereceu um submarino minúsculo aos mergulhadores de resgate, Unsworth disse à mídia que a ideia de Musk era apenas um golpe inútil de relações públicas. Musk então foi ao Twitter, onde (em tweets que mais tarde ele apagou) ele acusou infundadamente o homem de ser um “pedófilo”. Os tweets levaram centenas de fãs de Musk a atacar o mergulhador com ataques abusivos e humilhantes. Musk posteriormente se desculpou pelos tweets no tribunal, dizendo que não queria que eles fossem levados literalmente.

A saga foi um exemplo de dogpiling: um fenômeno em que poderosos usuários do Twitter estimulam legiões de seus fãs a assediar outra pessoa. Durante anos, equipes de funcionários do Twitter trabalharam – embora com sucessos limitados – para reduzir o dogpilling e outras formas comuns de abuso.

Em 25 de abril, esses funcionários do Twitter souberam que Musk, arquiteto da saga “pedo guy”, poderia se tornar seu novo chefe – depois que o conselho aceitou uma oferta de US$ 44 bilhões do homem mais rico do mundo.

Em comunicado anunciando que o Twitter havia concordado em deixá-lo comprar a rede social, o CEO da Tesla e da SpaceX falou em termos grandiosos familiares a quem segue seus pronunciamentos sobre colonizar Marte ou construir veículos elétricos: “A liberdade de expressão é a base de uma democracia em funcionamento. , e o Twitter é a praça da cidade digital onde são debatidos assuntos vitais para o futuro da humanidade.”

Mas muitos na linha de frente da luta por espaços democráticos online questionaram se a propriedade de Musk do Twitter prejudicaria, em vez de reforçar, a democracia. Para funcionários que testemunharam o próprio comportamento de Musk na plataforma, as palavras do bilionário sobre liberdade de expressão soaram vazias. Com mais de 85 milhões de seguidores, Musk usou sua conta influente não apenas para direcionar insultos a críticos e compartilhar memes sobre ir ao banheiro, mas também, segundo os reguladores , para fazer “declarações públicas falsas e enganosas” que impulsionaram o preço das ações da Tesla. e prejudicou os investidores.

Alguns funcionários do Twitter acreditam que esse registro é um mau presságio para os esforços anti-assédio da empresa. “Várias vezes, seus seguidores foram os autores de assédio direcionado, e o uso de seu perfil encorajou o dogpiling – que são exatamente os comportamentos que estamos tentando limitar”, disse um funcionário da equipe de saúde da plataforma do Twitter, que trabalha para tornar o site um espaço online mais seguro para os usuários. “Desde que Trump foi banido, Musk se tornou o usuário número um do Twitter”, disse a pessoa. O funcionário, que não estava autorizado a falar publicamente, acrescentou que temia que a aquisição de Musk, no mínimo, reduziria a confiança do usuário nos esforços antiabuso do Twitter e, na pior das hipóteses, poderia resultar na despriorização ou cancelamento do trabalho.

Membros de comunidades marginalizadas – que são desproporcionalmente vítimas de ameaças e abusos online – estão entre as mais protegidas pelo atual sistema de moderação de conteúdo do Twitter. Ativistas dessas comunidades compartilham as preocupações dos funcionários do Twitter de que essas proteções possam ser revertidas. “Se Elon Musk assumisse o controle, o dano que seria causado se espalharia pelos funcionários do Twitter que não conseguiriam implementar as coisas de que precisam para manter a plataforma segura”, Jelani Drew-Davi, gerente de campanha do digital civil. grupo de direitos humanos Kairos, disse à TIME nos dias que antecederam o acordo. Como exemplo do histórico de Musk em assuntos semelhantes, Drew-Davi citou um processo alegando uma cultura de abuso racista desenfreado contra trabalhadores negros em uma fábrica da Tesla na Califórnia.

Desde a explosão do uso de mídia social há mais de uma década, pesquisadores e tecnólogos forjaram uma compreensão das maneiras pelas quais o design de sites de mídia social tem impacto no discurso cívico e, em última análise, nos processos democráticos. Uma de suas principais descobertas: sites que privilegiam a liberdade de expressão acima de tudo tendem a se tornar espaços onde o discurso cívico é abafado pelo assédio, restringindo a participação a poucos privilegiados.

Essa descoberta informou o trabalho recente do Twitter. Embora a empresa remova tweets e bane contas de infratores graves, grande parte de sua abordagem atual se concentra em estimular os usuários a serem mais gentis. Antes da oferta de Musk, uma das prioridades declaradas da plataforma era facilitar “conversas seguras, inclusivas e autênticas”. Também se comprometeu a “minimizar a distribuição e o alcance de informações prejudiciais ou enganosas, especialmente quando sua intenção é interromper um processo cívico ou causar danos offline”. Nos casos em que os tweets são considerados ruins para o discurso cívico, mas não ilegais – como desinformação ou insultos – os tweets podem ser removidos dos algoritmos de recomendação, o que significa que o Twitter não os impulsiona para os feeds de usuários que não seguem seu autor diretamente, em vez de ser totalmente excluído da plataforma.

“De certa forma, os objetivos [de Musk] estão alinhados com os nossos, pois certamente estamos interessados ​​em proteger a democracia”, diz o funcionário do Twitter da equipe de saúde. “Mas a ideia de trazer mais liberdade de expressão para a plataforma expõe sua ingenuidade em relação às porcas e parafusos. Muitas plataformas [foram] fundadas nesse princípio de liberdade de expressão, mas a realidade é que ou elas se tornam uma fossa que as pessoas não querem usar, ou percebem que há realmente a necessidade de algum nível de moderação.”

Analistas de negócios apontam que a moderação de conteúdo também é boa para os lucros. “Sem moderação de conteúdo vigorosa, a plataforma que Musk busca possuir seria inundada por spam, pornografia, desinformação anti-vacinação, conspirações de QAnon e campanhas fraudulentas para minar as eleições presidenciais de meio de mandato e 2024”, disse Paul Barrett, vice-diretor da NYU. Stern Center for Business and Human Rights, em um comunicado. “Esse não é um negócio com o qual a maioria dos usuários de mídia social ou anunciantes gostaria de se associar.”

O acordo de aquisição de Musk não foi uma história simples. Houve várias reviravoltas, pois o financiamento parecia duvidoso e o conselho de administração do Twitter parecia reticente, adotando uma estratégia conhecida como “pílula venenosa” para evitar uma aquisição. Durante todo o tempo, Musk apresentou sua busca como um desafio às elites intransigentes do Vale do Silício. Suas declarações sobre liberdade de expressão muitas vezes se alinham com os pontos de discussão republicanos de que os conservadores estão sendo injustamente censurados por empresas de tecnologia e – em um movimento que pode abrir as portas para o retorno do ex-presidente Donald Trump à plataforma – Musk disse que preferiria “ tempo limite” para usuários que quebram as regras do site, em vez de banimentos permanentes. (O Twitter baniu Trump permanentemente após 6 de janeiro de 2021, por incitação à violência durante sua tentativa de derrubar de forma não democrática os resultados das eleições de 2020.)

O debate sobre transparência no Twitter

Juntamente com compromissos vagos, incluindo adicionar um botão de edição e se livrar de spam na plataforma, o apelo mais substancial de Musk foi para que o Twitter fosse mais transparente sobre sua tomada de decisões. Ele quer que ele “abra o código” de seu algoritmo, para que os usuários possam descobrir quando o Twitter parou de recomendar seus tweets a outros usuários. “Essa ação deve ser tornada aparente”, disse ele em uma conferência TED em 14 de abril, “para que não haja manipulação nos bastidores, seja algorítmica ou manual”.

Mas os funcionários que trabalham nas trincheiras da moderação de conteúdo dizem que, embora a transparência total seja um objetivo nobre, informar os usuários sobre quais tweets específicos estão sendo “rebaixados” na prática daria aos maus atores informações úteis sobre como evitar os limites de spam, desinformação e discurso de ódio. De fato, o Twitter já está entre as redes sociais mais transparentes em termos de compartilhamento de como seu algoritmo funciona, além de pesquisar suas próprias falhas e compartilhar os resultados publicamente.

Essa pesquisa sugere que, na prática, visões mais conservadoras podem ter se beneficiado mais do design do algoritmo do Twitter. Em outubro passado, o Twitter divulgou uma pesquisa mostrando que seu algoritmo estava agindo de forma suspeita: no período que antecedeu as eleições de 2020 nos EUA, fontes de notícias partidárias de direita receberam um impulso maior do algoritmo do Twitter do que fontes de notícias moderadas ou de esquerda. A pesquisa também encontrou um efeito semelhante para políticos em seis dos sete países estudados, incluindo os EUA. Ela mostrou que o algoritmo do Twitter recomendou, a mais usuários, postagens de políticos de partidos de direita tradicionais do que de partidos centristas ou de esquerda.

Seis meses depois, essa equipe continua seu trabalho analisando o viés algorítmico, em meio a sugestões de alguns conservadores de que esse trabalho significa interferir na liberdade de expressão. As primeiras indicações sugerem, de acordo com o Twitter, que o impulso da plataforma de políticos de centro-direita não é uma qualidade intrínseca de seu algoritmo. Em vez disso, os pesquisadores descobriram que a amplificação muda ao longo do tempo de acordo com os tópicos com os quais as pessoas se preocupam e as mudanças na forma como os usuários se comportam. Os dados estão ajudando os pesquisadores a começar a entender o Twitter como um “sistema sociotécnico”, com definições sobre o que constitui níveis normais e anormais de amplificação algorítmica de conteúdo político. Tal entendimento pode um dia permitir que a empresa intervenha quando eventos perigosos do mundo real estiverem acontecendo. Mas fazer isso seria uma intervenção política necessariamente baseada nos valores do Twitter como empresa. Da noite para o dia, esses valores parecem ter mudado de “facilitar uma conversa saudável” para o autoproclamado “absolutismo” de liberdade de expressão de Musk.

No Twitter, onde o discurso é limitado a 280 caracteres por tweet, a discussão sutil de pesquisas complexas e julgamentos de valor não é fácil – e no clima febril, até os próprios funcionários do Twitter correm o risco de se tornar o temido personagem principal do Twitter. Rumman Chowdhury, líder da equipe que realizou a pesquisa de amplificação algorítmica, sugeriu em uma série de tweets que ela se opunha a Musk comprar a empresa, embora ela não tenha dito que isso era por medo de que sua aquisição significasse uma fim de seu trabalho. Em vez disso, seus comentários pareciam fazer referência à capacidade dele de armar multidões do Twitter contra os críticos. “O efeito arrepiante imediato de Musk foi algo que me incomodou significativamente”, escreveu ela. “O Twitter tem uma bela cultura de críticas construtivas hilárias, e eu vi isso em silêncio por causa de seus asseclas atacando funcionários.” Logo, ela silenciou suas notificações no tópico, acrescentando: “os trolls desceram”.

Deixe um comentário

Preencha os seus dados abaixo ou clique em um ícone para log in:

Logotipo do WordPress.com

Você está comentando utilizando sua conta WordPress.com. Sair /  Alterar )

Imagem do Twitter

Você está comentando utilizando sua conta Twitter. Sair /  Alterar )

Foto do Facebook

Você está comentando utilizando sua conta Facebook. Sair /  Alterar )

Conectando a %s

Este site utiliza o Akismet para reduzir spam. Saiba como seus dados em comentários são processados.