A rotina traumática dos moderadores de redes sociais: O custo oculto da segurança online

A moderação de conteúdo nas redes sociais é uma das funções mais invisíveis e, ao mesmo tempo, essenciais no ambiente digital. Embora muitos de nós só vejamos a parte "divertida" das plataformas, como vídeos de dança ou memes, por trás das telas há um exército de moderadores que enfrentam as imagens e conteúdos mais perturbadore da internet. Estes profissionais desempenham um papel fundamental na remoção de conteúdos nocivos, como decapitações, abusos infantis e discurso de ódio, mas o custo emocional desse trabalho é imenso.

O impacto psicológico e emocional do trabalho dos moderadores

• Os moderadores de redes sociais enfrentam uma rotina de trabalho extremamente pesada e traumática. Seu trabalho é analisar e remover conteúdos denunciados ou identificados automaticamente por sistemas de inteligência artificial (IA), como vídeos violentos, fotos de abuso infantil e outras formas de conteúdo perturbador. Embora os moderadores possam ser contratados por empresas terceirizadas, eles trabalham diretamente com grandes plataformas como Facebook, Instagram e TikTok.

• O impacto desse trabalho na saúde mental dos moderadores é devastador. A exposição constante a material chocante leva a dificuldades para dormir, ansiedade, estresse pós-traumático e até mesmo problemas em suas interações familiares e sociais. Alguns moderadores relataram que, após meses de trabalho, desenvolvem reações de pânico ao ouvir certos sons, como o choro de um bebê, por causa da natureza dos abusos infantis que têm que revisar.

• Mojez, um ex-moderador de Nairóbi (Quênia), compartilhou sua experiência, explicando que, enquanto os usuários comuns estão se divertindo com conteúdos leves nas redes sociais, ele estava lidando com centenas de vídeos horríveis todos os dias. Ele mencionou como deixou sua saúde mental ser absorvida por esse conteúdo para que os outros pudessem navegar pelas plataformas sem ver essas imagens.

Automação vs. moderação humana: O dilema da tecnologia

• Nos últimos anos, houve avanços significativos no uso de inteligência artificial para ajudar na moderação de conteúdo. Ferramentas automatizadas conseguem identificar e remover certos tipos de material prejudicial com alta precisão, podendo filtrar rapidamente grandes volumes de conteúdo. Essas ferramentas têm um desempenho impressionante, removendo até 90% do material nocivo.

• No entanto, há uma grande limitação: as máquinas não conseguem capturar todas as nuances do conteúdo. A IA pode errar ao interpretar contextos culturais ou sociais, o que pode levar à remoção indevida de conteúdo legítimo ou à falha em remover algo realmente prejudicial. Por exemplo, em vídeos que retratam violência, uma IA pode não perceber a diferença entre um conteúdo legítimo que está discutindo o tema de maneira educacional e um conteúdo explícito e violento.

• Especialistas, como o professor Paul Reilly, da Universidade de Glasgow, afirmam que, apesar das vantagens da IA, a moderação humana continua essencial. Humanos são necessários para detectar as nuances de contexto que as máquinas não conseguem entender, como o tom de uma conversa ou os aspectos culturais de uma mensagem.

O orgulho dos moderadores e o reconhecimento do trabalho importante

• Apesar dos desafios psicológicos, muitos moderadores expressam um imenso orgulho pelo trabalho que realizam. Eles se veem como heróis invisíveis que, apesar do sofrimento pessoal, garantem que os usuários das plataformas possam navegar sem ser expostos a conteúdos perturbadores. Alguns moderadores até se comparam a bombeiros ou paramédicos, sentindo-se como parte de um serviço de emergência que, embora pouco reconhecido, é fundamental para o bem-estar online de todos.

• Essa sensação de dever e a importância do trabalho realizado são fontes de motivação para esses profissionais, mesmo sabendo do impacto negativo em sua saúde mental. Eles acreditam que, sem sua atuação, o mundo digital seria ainda mais caótico e perigoso.

A banalização do trabalho dos moderadores: Uma reflexão necessária

Em um mundo digital saturado, muitos usuários banalizam o papel dos moderadores, fazendo críticas infundadas e destrutivas ao trabalho dessas equipes. Esses indivíduos frequentemente acreditam que suas preferências pessoais e limites podem se sobrepor ao verdadeiro papel da moderação, que é garantir um ambiente seguro para todos, coibindo crimes e conteúdos tóxicos de todas as formas. Como bem aponta a ativista digital Lisa Robertson:

"A verdadeira mudança virá no momento em que a sociedade valorizar o custo invisível que muitos pagam para manter as mídias sociais livres de conteúdos prejudiciais. Não é apenas sobre remover posts; trata-se de proteger a saúde mental de cada usuário, para que eles possam navegar sem ter que lidar com o peso de um mundo tóxico digital."

• Essa mudança de mentalidade será essencial para que a moderação seja reconhecida como um trabalho fundamental, que exige respeito e apoio. O valor desse trabalho não pode ser medido apenas em números, mas também no impacto profundo que tem na qualidade da experiência online de todos.

A luta por melhores condições de trabalho

• Em resposta aos danos causados pela exposição constante a conteúdos traumáticos, muitos moderadores têm buscado apoio e melhores condições de trabalho. Alguns têm se reunido em sindicatos e movido ações judiciais contra as empresas de tecnologia. Um caso notório envolveu a Meta (anteriormente conhecida como Facebook), que em 2020 concordou em pagar um acordo de US$ 52 milhões (aproximadamente R$ 300 milhões) a moderadores que desenvolveram problemas de saúde mental devido à carga de trabalho. Este foi um dos primeiros passos em direção ao reconhecimento dos impactos psicológicos que essa profissão pode causar.

• Além disso, as empresas têm implementado algumas medidas para melhorar as condições de trabalho. O TikTok, por exemplo, afirma oferecer apoio clínico e programas de bem-estar para seus moderadores. A OpenAI, que desenvolveu o ChatGPT, também reconhece a importância do trabalho dos moderadores e oferece suporte a suas equipes. A Meta destaca que oferece suporte 24 horas por dia para moderadores e permite que ajustem suas ferramentas para minimizar a exposição a imagens sensíveis.

O futuro da moderação de conteúdo

• A moderação de conteúdo online é um trabalho fundamental, mas cujos custos emocionais e psicológicos são frequentemente ignorados. Os moderadores desempenham um papel essencial ao proteger a segurança e o bem-estar dos usuários, mas precisam de mais apoio e reconhecimento por sua dedicação. Embora a inteligência artificial tenha seu lugar na moderação de conteúdo, ela não pode substituir completamente a sensibilidade e o julgamento humano necessários para lidar com as complexidades do conteúdo digital.

O futuro da moderação de conteúdo digital depende de um equilíbrio entre tecnologia e empatia humana. As empresas de tecnologia devem continuar a investir em melhorias na saúde mental dos moderadores e a buscar maneiras de automatizar mais tarefas sem comprometer a qualidade da moderação. Ao mesmo tempo, é importante que a sociedade reconheça o valor deste trabalho invisível e que os moderadores sejam tratados com o respeito e o cuidado que merecem.