Empresas de IA se comprometem a combater Deepfakes de pornografia
Empresas de inteligência artificial (IA), incluindo gigantes da tecnologia, assumiram um compromisso crucial: combater o abuso sexual baseado em imagens, especialmente deepfakes pornográficos. O anúncio, realizado pela Casa Branca em 12 de setembro de 2024, reflete um esforço conjunto entre o governo dos Estados Unidos e grandes corporações para mitigar os impactos negativos causados pelo uso indevido de IA. O problema é grave, com vítimas que variam de mulheres a crianças e pessoas LGBTQI+, e requer uma resposta forte e coordenada.
Medidas adotadas pelas empresas
1. OpenAI e Anthropic
- OpenAI: Criadora do ChatGPT, comprometeu-se a remover imagens de nudez dos datasets utilizados para treinar seus modelos de IA, quando apropriado.
- Anthropic: Responsável pelo Claude, seguiu a mesma linha, garantindo que seus sistemas não contribuam para a disseminação de imagens abusivas.
2. Microsoft, Adobe e Cohere
Essas empresas também aderiram ao compromisso:
- Microsoft: Envolvida em iniciativas de controle de dados para prevenir a criação de deepfakes.
- Adobe: Assumiu uma postura firme contra o uso indevido de suas ferramentas.
- Cohere: Focada na responsabilidade com seus conjuntos de dados e na proteção contra o abuso sexual baseado em imagens.
3. Common Crawl
- Common Crawl: Plataforma de rastreamento de dados, comprometeu-se a obter seus datasets de forma responsável, protegendo-os contra uso indevido. Contudo, não participou dos outros tópicos abordados pelas empresas mencionadas.
4. GitHub, Meta e Snap
Além dessas corporações, outras gigantes tecnológicas implementaram medidas adicionais:
- GitHub: Proibiu o compartilhamento de ferramentas que incentivem ou apoiem a criação de imagens íntimas não consensuais.
- Meta: Removeu milhares de contas do Instagram envolvidas em golpes de sextorsão e proibiu a promoção de apps que gerem conteúdo abusivo.
- Snap: Disponibilizou ferramentas para denúncias e suporte às vítimas de deepfakes pornográficos.
5. Google
- Google: Implementou atualizações em seus sistemas de busca para reduzir a exibição de imagens falsas de conteúdo explícito e facilitou a remoção desses materiais a pedido das vítimas.
Impacto na sociedade
O compromisso das empresas de IA representa um avanço significativo no combate a deepfakes pornográficos. A crescente utilização dessas tecnologias para a criação de imagens íntimas não consensuais afeta diretamente a vida das vítimas, gerando consequências devastadoras.
As principais áreas de impacto incluem:
- Proteção de Dados: Empresas como a OpenAI e Microsoft tomaram medidas para garantir que seus datasets não incluam imagens de nudez ou abusivas.
- Ferramentas de denúncia e suporte: Empresas como Snap e Meta estão oferecendo canais de suporte para vítimas de deepfakes.
- Controle de divulgação: Google e GitHub estão limitando a disseminação de ferramentas e imagens abusivas, contribuindo para a redução de materiais não consensuais na internet.
O avanço das tecnologias de IA trouxe grandes benefícios, mas também gerou desafios complexos, como o aumento de deepfakes pornográficos e abuso de imagens íntimas. O compromisso assumido por grandes empresas demonstra uma responsabilidade crescente no uso ético dessas ferramentas. A união dessas corporações na luta contra o abuso digital é um passo importante para proteger vítimas e controlar a disseminação de conteúdos prejudiciais.