Ex-funcionários denunciam que Meta e TikTok priorizaram engajamento sobre segurança de usuários

Mais de uma dúzia de denunciantes que trabalharam em Meta e TikTok revelaram que as empresas permitiram conteúdo nocivo em suas plataformas para competir por atenção dos usuários. Documentos internos mostram que algoritmos foram ajustados para amplificar publicações que geram indignação, mesmo após pesquisas indicarem danos — inclusive a adolescentes.

A disputa se intensificou em 2020, quando o Instagram lançou o Reels como resposta ao crescimento explosivo do TikTok durante a pandemia. Pesquisas internas compartilhadas com a BBC indicam que comentários no Reels tinham 75% mais bullying e assédio, 19% mais discurso de ódio e 7% mais violência ou incitação do que no feed principal do Instagram.

O que mostram os documentos

Um engenheiro da Meta relatou ter recebido orientação da direção para permitir conteúdo "limítrofe" — posts misóginos, racistas e teorias conspiratórias que não violam regras explicitamente. "Eles basicamente nos disseram que era porque o preço das ações estava em queda", disse o profissional.

Os documentos internos revelam que o algoritmo do Facebook oferecia aos criadores um "caminho que maximiza os lucros às custas do bem-estar de sua audiência". Um estudo interno afirmava que a empresa "pode escolher permanecer inativo e continuar alimentando os usuários com conteúdo de qualidade duvidosa, mas isso só funciona por algum tempo".

Matt Motyl, pesquisador sênior da Meta de 2021 a 2023, entregou dezenas de documentos que mostravam danos aos usuários. Ele disse que o Reels foi lançado sem proteções suficientes e que havia "desequilíbrio de poder" — equipes de segurança precisavam de aprovação das equipes do Reels para implementar ferramentas de proteção, e essas equipes tinham incentivo para bloquear medidas, pois conteúdo tóxico gera mais engajamento.

Um ex-funcionário sênior afirmou que a Meta contratou 700 pessoas para expandir o Reels enquanto negava à equipe de segurança a contratação de dois especialistas em proteção de crianças e dez profissionais para integridade eleitoral.

O que revelam os ex-funcionários do TikTok

Um funcionário do TikTok deu acesso a painéis internos que mostravam como casos envolvendo políticos recebiam prioridade sobre denúncias de danos a adolescentes. Em um exemplo, um político ridicularizado ao ser comparado a uma galinha foi tratado como prioridade maior que um adolescente de 17 anos vítima de cyberbullying e uma jovem de 16 anos no Iraque que relatou compartilhamento de imagens sexualizadas supostamente suas.

Os ex-funcionários disseram que as decisões visavam "manter um relacionamento forte" com figuras políticas e evitar ameaças de regulação ou proibições. Um integrante da equipe de confiança e segurança, identificado como Nick, disse que cortes e substituição de funções por inteligência artificial reduziram a capacidade de moderar conteúdos ligados a terrorismo, violência sexual e abuso.

Ruofan Ding, engenheiro de aprendizado de máquina no TikTok de 2020 a 2024, disse que os algoritmos são uma "caixa-preta" e que engenheiros não controlam o aprendizado profundo. "Para nós, todo o conteúdo é apenas um ID, um número diferente."

O que dizem as empresas

A Meta afirmou que "qualquer sugestão de que ampliamos deliberadamente o conteúdo nocivo para ganho financeiro é incorreta" e citou investimentos em segurança na última década, incluindo o recurso Teen Accounts com proteções para adolescentes.

O TikTok classificou as acusações como "alegações fabricadas" e disse que contas de adolescentes têm mais de 50 configurações de segurança ativadas automaticamente. A empresa afirmou que rejeita a ideia de que conteúdo político tenha prioridade sobre segurança infantil.

Especialistas da polícia antiterrorismo do Reino Unido relatam aumento e "normalização" de posts antissemitas, racistas e de extrema direita nos últimos meses. Um adolescente de 19 anos disse ter sido "radicalizado pelo algoritmo" desde os 14 anos, quando passou a receber conteúdo que o deixava indignado e o levou a adotar visões racistas e misóginas.

Com informações de BBC.