Twitter intervindo rápido na moderação, à medida que o conteúdo prejudicial aumenta

O Twitter de Elon Musk está se apoiando fortemente na automação para moderar o conteúdo, acabando com certas análises manuais e favorecendo as restrições de distribuição em vez de remover certos discursos, disse seu novo chefe de confiança e segurança à Reuters.

O Twitter também está restringindo de forma mais agressiva hashtags e resultados de pesquisa propensos a abuso em áreas que incluem exploração infantil, independentemente dos impactos potenciais sobre "usos benignos" desses termos, disse a vice-presidente de produtos de confiança e segurança do Twitter, Ella Irwin.

"A maior mudança é que a equipe está totalmente capacitada para agir rápido e ser o mais agressiva possível", disse Irwin na quinta-feira, na primeira entrevista que um executivo do Twitter concedeu desde a aquisição da empresa de mídia social por Musk no final de outubro.

Seus comentários foram feitos no momento em que os pesquisadores relatam um aumento no discurso de ódio no serviço de mídia social, depois que Musk anunciou uma anistia para contas suspensas sob a liderança anterior da empresa que não infringiram a lei ou se envolveram em "spam flagrante".

A empresa enfrentou questões pontuais sobre sua capacidade e disposição de moderar conteúdo prejudicial e ilegal desde que Musk cortou metade da equipe do Twitter e emitiu um ultimato para trabalhar longas horas que resultou na perda de mais centenas de funcionários.

E os anunciantes, principal fonte de receita do Twitter, fugiram da plataforma devido a preocupações com a segurança da marca.

Na sexta-feira, Musk prometeu "reforço significativo da moderação de conteúdo e proteção da liberdade de expressão" em uma reunião com o presidente da França, Emmanuel Macron.

Irwin disse que Musk encorajou a equipe a se preocupar menos sobre como suas ações afetariam o crescimento do usuário ou a receita, dizendo que a segurança era a principal prioridade da empresa. "Ele enfatiza isso todos os dias, várias vezes ao dia", disse ela.

A abordagem de segurança que Irwin descreveu, pelo menos em parte, reflete uma aceleração das mudanças que já estavam sendo planejadas desde o ano passado em relação ao tratamento do Twitter de conduta odiosa e outras violações de políticas, de acordo com ex-funcionários familiarizados com esse trabalho.

Uma abordagem, capturada no mantra da indústria "liberdade de expressão, não liberdade de alcance", envolve deixar de fora certos tweets que violam as políticas da empresa, mas impedi-los de aparecer em locais como a linha do tempo e a pesquisa.

O Twitter há muito implantou essas ferramentas de "filtragem de visibilidade" em torno da desinformação e já as havia incorporado em sua política oficial de conduta odiosa antes da aquisição de Musk. A abordagem permite um discurso mais livre enquanto reduz os danos potenciais associados ao conteúdo abusivo viral.

O número de tweets contendo conteúdo odioso no Twitter aumentou acentuadamente na semana anterior a Musk twittar em 23 de novembro que as impressões, ou visualizações, de discurso odioso estavam diminuindo, de acordo com o Center for Countering Digital Hate - em um exemplo de pesquisadores apontando para o prevalência de tal conteúdo, enquanto Musk anuncia uma redução na visibilidade.

Tweets contendo palavras anti-negras naquela semana foram o triplo do número visto no mês anterior a Musk assumir, enquanto tweets contendo calúnias gays aumentaram 31%, disseram os pesquisadores.

'MAIS RISCOS, MOVA-SE RÁPIDO'

Irwin, que ingressou na empresa em junho e anteriormente ocupou cargos de segurança em outras empresas, incluindo Amazon.com e Google, rejeitou as sugestões de que o Twitter não tinha recursos ou disposição para proteger a plataforma.

Ela disse que as demissões não impactaram significativamente os funcionários ou contratados em tempo integral que trabalham no que a empresa chama de divisões de "saúde", inclusive em "áreas críticas" como segurança infantil e moderação de conteúdo.

Duas fontes familiarizadas com os cortes disseram que mais de 50% da unidade de engenharia da Saúde foi demitida. Irwin não respondeu imediatamente a um pedido de comentário sobre a afirmação, mas negou anteriormente que a equipe de saúde tenha sido severamente afetada por demissões.

Ela acrescentou que o número de pessoas que trabalham com segurança infantil não mudou desde a aquisição e que o gerente de produto da equipe ainda estava lá. Irwin disse que o Twitter preencheu algumas vagas para pessoas que deixaram a empresa, embora ela tenha se recusado a fornecer números específicos sobre a extensão da rotatividade.

Ela disse que Musk estava focado em usar mais a automação, argumentando que a empresa havia errado no passado ao usar análises humanas de conteúdo prejudicial que demandavam muito tempo e mão de obra.

"Ele encorajou a equipe a correr mais riscos, agir rápido, deixar a plataforma segura", disse ela.

Sobre a segurança infantil, por exemplo, Irwin disse que o Twitter passou a remover automaticamente tweets relatados por figuras confiáveis com um histórico de sinalizar postagens prejudiciais com precisão.

Carolina Christofoletti, pesquisadora de inteligência de ameaças do TRM Labs especializada em material de abuso sexual infantil, disse que notou que o Twitter recentemente derrubou algum conteúdo em até 30 segundos após denunciá-lo, sem acusar o recebimento de seu relatório ou a confirmação de sua decisão.

Na entrevista na quinta-feira, Irwin disse que o Twitter derrubou cerca de 44.000 contas envolvidas em violações de segurança infantil, em colaboração com o grupo de segurança cibernética Ghost Data.

O Twitter também está restringindo hashtags e resultados de pesquisa frequentemente associados a abuso, como aqueles destinados a procurar pornografia "adolescente". As preocupações anteriores sobre o impacto de tais restrições sobre os usos permitidos dos termos desapareceram, disse ela.

O uso de "repórteres de confiança" foi "algo que discutimos no passado no Twitter, mas houve alguma hesitação e, francamente, apenas algum atraso", disse Irwin.

"Acho que agora temos a capacidade de realmente avançar com coisas assim", disse ela.