Como Redes Sociais direcionam imagens de violência para meninos: Análise detalhada

Em 2022, Cai, um adolescente de 16 anos, começou a perceber uma mudança preocupante no tipo de conteúdo que aparecia em seus feeds de redes sociais, como TikTok e Instagram. Inicialmente, ele via vídeos inofensivos, como animais fofos, mas logo foi exposto a conteúdos violentos e perturbadores. Esse fenômeno levanta importantes questões sobre o funcionamento dos algoritmos de redes sociais e seu impacto sobre os jovens.

Como funciona a recomendação de conteúdo nas Redes Sociais?

Algoritmos e Personalização

• Redes sociais, como TikTok e Instagram, utilizam algoritmos para personalizar o conteúdo mostrado aos usuários com base em seus interesses e comportamentos. Esses algoritmos são programados para maximizar o engajamento, ou seja, mostrar conteúdos que os usuários provavelmente irão curtir, comentar ou compartilhar. Essa personalização é feita com base em dados que incluem o histórico de visualizações, curtidas e interações.

Exposição a conteúdos prejudiciais

• Embora a intenção dos algoritmos seja aumentar o engajamento, isso pode resultar em exposição a conteúdos prejudiciais. Cai, por exemplo, começou a receber recomendações de vídeos violentos e misóginos depois de interagir com conteúdos inicialmente inofensivos. A recomendação de conteúdo violento pode ocorrer porque o algoritmo percebeu que Cai passou mais tempo assistindo a vídeos similares ou que seus comportamentos e interesses indicam uma maior propensão a se engajar com esse tipo de conteúdo.

Diferenças de gênero nas recomendações

• Estudos e análises revelam que meninos e meninas são expostos a diferentes tipos de conteúdos. Meninos, como Cai, tendem a receber mais recomendações de conteúdos violentos e controversos, enquanto meninas frequentemente veem vídeos sobre tópicos mais suaves, como música e maquiagem. Essa diferença ocorre porque os algoritmos também levam em consideração os interesses e o engajamento de outros usuários com perfis semelhantes.

Desafios da moderação de conteúdo

Uso de Inteligência Artificial e moderadores humanos

• As plataformas de redes sociais empregam inteligência artificial (IA) para filtrar conteúdos prejudiciais e sinalizar vídeos que devem ser revisados por moderadores humanos. No entanto, a IA nem sempre consegue identificar todos os conteúdos problemáticos, especialmente aqueles com menos visualizações. Vídeos que não atingem um determinado patamar de visualizações, como 10 mil, podem não ser analisados manualmente, deixando espaço para que conteúdos nocivos escapem ao controle.

Dependência das denúncias de usuários

• Além da IA, as redes sociais dependem de denúncias dos próprios usuários para identificar e remover conteúdos inadequados. Isso significa que, muitas vezes, o conteúdo só é moderado após ser visto e reportado por outros, o que pode demorar e deixar usuários vulneráveis expostos por períodos prolongados.

Impacto psicológico

Efeitos no desenvolvimento psicológico

• A exposição constante a conteúdos violentos e misóginos pode ter efeitos duradouros na saúde mental dos jovens. Cai relata que esses conteúdos deixam uma impressão duradoura em sua mente, fazendo com que ele pense repetidamente sobre o que viu. Isso pode afetar negativamente sua percepção de mundo e influenciar seu comportamento e atitudes.

A influência de conteúdos populares

• Conteúdos com muitas curtidas e visualizações têm o potencial de influenciar comportamentos e opiniões, especialmente entre adolescentes. Cai notou que um amigo seu foi influenciado por um influenciador controverso e começou a adotar opiniões misóginas, mostrando como a popularidade dos conteúdos pode moldar as crenças e atitudes dos jovens.

Medidas e Regulações

Respostas das empresas de Redes Sociais

• As redes sociais, como o TikTok e a Meta (Facebook/Instagram), afirmam estar implementando medidas para proteger os usuários mais jovens. O TikTok, por exemplo, investe em tecnologia e segurança para monitorar e remover conteúdos prejudiciais, enquanto a Meta afirma ter diversas ferramentas para garantir experiências seguras para adolescentes.

Regulações emergentes

• No Reino Unido, uma nova lei forçará as empresas de redes sociais a verificar a idade dos usuários e a impedir a recomendação de conteúdos prejudiciais. No Brasil, projetos de lei e resoluções, como o PL 2.628/2022 e a resolução 245 do Conanda, visam melhorar a proteção de crianças e adolescentes nas plataformas digitais, exigindo mais responsabilidade das empresas em relação à moderação de conteúdo.

O caso de Cai ilustra um problema crescente com os algoritmos de redes sociais e sua capacidade de influenciar negativamente os jovens. Apesar dos esforços das plataformas para moderar conteúdos, ainda há lacunas significativas que precisam ser abordadas. As novas regulamentações prometem um futuro mais seguro para os usuários jovens, mas a responsabilidade também recai sobre as empresas para que adotem práticas mais eficazes de moderação e personalização de conteúdo. A conscientização e a educação sobre o uso responsável das redes sociais são cruciais para proteger a saúde mental e o bem-estar dos adolescentes.