Big techs e o ódio digital
A ONG Código Não Binário, reagiu a um ataque online que ganhou grande alcance nas redes em 2024, após um corte de podcast viralizar e gerar uma onda de agressões em comentários.
Por Caio Ribeiro
Uma organização brasileira sem fins lucrativos desenvolveu uma ferramenta de inteligência artificial para detectar e mapear discursos de ódio contra pessoas LGBTQIA+ nas redes sociais, e agora processa grandes plataformas por violência digital.
A ONG Código Não Binário, reagiu a um ataque online que ganhou grande alcance nas redes em 2024, após um corte de podcast viralizar e gerar uma onda de agressões em comentários. A partir dessa experiência, criou a IA chamada TybyrIA, capaz de classificar automaticamente conteúdos abusivos e medir como algoritmos das plataformas amplificam esse tipo de comentário.
Com dados produzidos pela ferramenta, o grupo, junto a outras organizações parceiras, protocolou uma ação civil pública contra Meta, Google, X e ByteDance (TikTok), alegando que as redes não são espaços neutros, mas sistemas que “premiam” engajamento emocional, incluindo ódio, facilitando a circulação de violência digital.
A iniciativa representa um passo inovador de sociedade civil na luta contra a violência online, usando tecnologia própria para embasar ação judicial. Ao mesmo tempo, relança o debate público sobre o papel das big techs e sobre a necessidade de regulamentação mais efetiva do ambiente digital no Brasil.
