As equipes de moderação de conteúdo do Twitter estão enfrentando grandes desafios na moderação da desinformação – Technology News, Firstpost

A Associated Press08 de novembro de 2022 10:09:15 IST

Por MATT O’BRIEN e DAVID KLEPPER:

O Twitter está lutando para responder à desinformação política e outras postagens prejudiciais na plataforma de mídia social depois que Elon Musk demitiu cerca de metade de sua força de trabalho poucos dias antes das eleições de meio de mandato nos EUA, de acordo com funcionários que sobreviveram aos cortes e um grupo externo de direitos ao voto.

As recentes demissões em massa pouparam muitas das pessoas cujo trabalho é manter o ódio e a desinformação fora da plataforma de mídia social. Musk cortou apenas 15% dos trabalhadores de moderação de conteúdo da linha de frente, em comparação com cerca de 50% de cortes de empregos em toda a empresa, disse um executivo na semana passada.

Mas, em preparação para as demissões, os funcionários disseram que a empresa também reduziu drasticamente o número de funcionários que podem examinar o histórico e o comportamento digital de uma conta específica – uma prática necessária para investigar se foi usada de forma maliciosa e tomar medidas para suspendê-la. A empresa disse que congelou o acesso a essas ferramentas para reduzir o “risco interno” em um momento de transição.

Os desenvolvimentos estão causando preocupação, já que as eleições de meio de mandato dos EUA culminam na terça-feira. Embora milhões de americanos já tenham votado antecipadamente e ausentes, espera-se que outros milhões vão às urnas para votar pessoalmente. Os observadores das eleições temem que a plataforma não esteja equipada para lidar com discurso de ódio, desinformação que possa afetar a segurança dos eleitores e atores que procuram lançar dúvidas sobre os legítimos vencedores das eleições em todo o país.

Pesquisadores que rastreiam informações erradas antes das eleições notificaram o Twitter na sexta-feira sobre três postagens de figuras conhecidas da extrema direita que desmentiram alegações sobre fraude eleitoral. As postagens permanecem até três dias depois. Quando a Common Cause pediu uma atualização ao Twitter na segunda-feira, a plataforma disse que as postagens estavam “sob revisão”.

Antes de Musk assumir, o Twitter respondeu muito mais rapidamente, disse Jesse Littlewood, vice-presidente de campanhas da Common Cause. O grupo disse que mantinha contato regular com a equipe do Twitter antes de Musk assumir. Agora, eles estão recebendo uma resposta de um endereço de e-mail genérico.

“Tínhamos recebido decisões muito mais rápidas deles, às vezes em poucas horas”, disse Littlewood. Agora, ele disse: “É como apertar o botão do sinal de pé no semáforo e nada está acontecendo”.

Musk destruiu equipes que trabalhavam em marketing, comunicação e curadoria editorial do que as pessoas veem no Twitter. Mas sua decisão de manter a maior parte da equipe de moderação de conteúdo do Twitter foi uma surpresa bem-vinda para alguns dentro e fora da empresa. Afinal, Musk prometeu deixar a liberdade de expressão florescer afrouxando as restrições de conteúdo do Twitter e restaurando contas banidas por violar essas regras. Ele também prometeu encerrar o atual sistema de verificação de usuários em favor de uma taxa de assinatura de US$ 7,99.

Mas o fato de a equipe de moderação de conteúdo ter sobrevivido pode significar que funções críticas de desinformação, como bloquear incitações à violência política, continuarão, e alguns dos piores cenários em torno de desinformação eleitoral não serão realizados. Alguns dos próprios tweets de Musk foram anotados com contexto verificado nos últimos dias.

Dois funcionários que sobreviveram aos cortes de empregos creditam a um executivo anteriormente pouco conhecido Yoel Roth, chefe global de segurança e integridade do Twitter, por alavancar a importância de sua equipe para os objetivos de Musk para o Twitter, evitando movimentos que possam irritar o mercurial CEO da Tesla.

“Yoel Roth salvou a empresa sozinho”, disse um funcionário do Twitter que falou sob condição de anonimato por causa de preocupações com a segurança do emprego. “No lado público, ele se envolveu de maneira adequada e ponderada com Elon Musk de uma maneira que não era subserviente, mas adiada, porque Elon é o rei.”

Roth se tornou o rosto público da moderação de conteúdo do Twitter desde que Musk assumiu e defende regularmente os esforços contínuos do Twitter para combater desinformação prejudicial. Musk, um prolífico tweeter com mais de 110 milhões de seguidores, frequentemente aponta o feed do Twitter de Roth como a conta mais confiável da adesão da empresa aos padrões de integridade. E o bilionário, que abraça a ideia de que a liderança anterior do Twitter suprimiu as visões de direita, defendeu Roth quando partidários ardentes de Musk exigiram sua demissão por comentários anteriores que eles achavam que mostravam o viés liberal de Roth.

Roth, que já trabalhou em uma loja da Apple consertando computadores Mac, ingressou no Twitter em 2015 depois de passar um ano estudando discurso de ódio online no Berkman Klein Center for Internet and Society da Universidade de Harvard, de acordo com seu perfil no LinkedIn. Em maio, ele assumiu um cargo sênior “responsável por todas as políticas de usuário, conteúdo e segurança, compreendendo mais de 120 formuladores de políticas, investigadores de ameaças, analistas de dados e especialistas em operações”.

Roth não respondeu aos pedidos de comentário.

Uma jurista que faz parte do Conselho de Confiança e Segurança do Twitter, um conselho consultivo criado em 2016, disse que há muito se impressiona com a franqueza de Roth sobre os desafios da moderação de conteúdo e as nuances da liberdade de expressão – como a importância de coibir conteúdo abusivo para permitir a liberdade de expressão de mulheres e outras pessoas com maior probabilidade de serem assediadas online.

“Se Musk pudesse cortar todo mundo na moderação de conteúdo e apenas substituí-lo por seus homens de ‘sim’, ele provavelmente teria feito isso”, disse Mary Anne Franks, professora de direito da Universidade de Miami e presidente da Cyber ​​Civil Rights Initiative. . “A única razão pela qual ele não fez isso é porque ele talvez reconheça que isso tornaria o Twitter impraticável.”

Um funcionário do Twitter disse na segunda-feira que os sobreviventes de demissões estavam procurando ativamente novos empregos, em parte devido à falta de compromisso de Musk em manter a plataforma livre de discursos de ódio e desinformação. Falando anonimamente por causa de preocupações com a segurança do emprego, o funcionário disse que os cortes de empregos tornariam a equipe do Twitter menos eficaz em acompanhar e agir em reclamações sobre desinformação relacionada a eleições, porque incluíam pessoas que lideram equipes de integridade cívica.

Franks disse que sempre houve uma tensão dentro do Twitter e de outras empresas de mídia social entre ganhar dinheiro e proteger a democracia e a liberdade de expressão. Ela disse que isso está ficando mais difícil sob Musk, que mostrou que o Twitter pode agir rapidamente ao banir um comediante que zombou dele se passando por sua conta, mas que expressou hostilidade em relação aos padrões antiabuso do Twitter.

“Imagino que alguém em uma posição como a de Roth no Twitter teria que jogar um jogo bastante delicado tentando não tropeçar em nenhum dos fios, não provocar uma reação de Musk porque ele é incrivelmente magro”, disse Franks.