Mesmo um processo de US$ 2.4 bilhões não impedirá o ódio online – o Vale do Silício foi construído especificamente para expandi-lo

Em outubro de 2021, o professor Meareg Amare foi doxxed no Facebook. Semanas depois, ele foi brutalmente assassinado em sua própria casa - escreve Courteney Mukoyi . Agora, a empresa-mãe do Facebook, a Meta, está enfrentando uma Ação judicial de US $ 2.4 bilhão, acusado de incitar a violência na Etiópia, terra natal de Amare. A divulgação de dados pessoais de Amare não foi acidental. Suas informações não caíram simplesmente nas mãos erradas – foram deliberadamente amplificadas como um apelo à justiça violenta e justiceira. 

No mundo de hoje, o papel do Estado em investigar irregularidades e proteger os inocentes foi substituído por multidões online que agem como juízes, júri e executores.

E não apenas na Etiópia. 

Na Índia, 20 pessoas foram assassinados no espaço de dois meses após ser acusado de sequestro de criança pelo WhatsApp em 2018. 

Pouco depois, a Alemanha testemunhou motins xenófobos após rumores nas redes sociais alegou que um alemão foi morto por requerentes de asilo. E no ano passado, revoltas históricas eclodiram no Reino Unido após o trágico assassinato de três jovens em Southport - alimentadas por uma onda de desinformação sobre a identidade do suposto assassino.

Em cada um destes casos, a desinformação teve como alvo comunidades minoritárias ou muçulmanas, que já enfrentam níveis recordes de crimes de ódio. 

A partir do momento em que um algoritmo nasce, ele começa a sofrer mutações, aprendendo como – e quem – odiar com base nos dados e padrões com os quais aprende. Como no efeito borboleta, até o menor traço de preconceito ou discriminação é instantaneamente amplificado. 

A partir daí, rapidamente se torna irreconhecível. Incontrolável. Até mesmo para o seu criador. 

Mas mesmo se quisesse, Mark Zuckerberg não poderia desistir. 

Não é apenas que a máquina superou seu criador, mas também que nenhum dos atores relevantes possui o conjunto completo de ferramentas para contê-la. Gigantes da tecnologia têm a expertise técnica, mas carecem da vontade ou da liberdade legal para agir. Governos nacionais têm poder legislativo, mas agem muito lentamente para acompanhar a inovação. E organizações da sociedade civil podem compreender os danos melhor do que ninguém, mas não têm a infraestrutura ou a influência para implementar mudanças.

Tomemos como exemplo a UE Lei de Serviços Digitais – proposto pela primeira vez no final de 2020, mas não implementado até 2024. No longo período de seu desenvolvimento – o ChatGPT foi lançado apenas em 2022 – o cenário digital mudou drasticamente, deixando suas regras desatualizadas antes mesmo de serem introduzidas. 

Desde a introdução da lei, a aplicação – que inclui medidas para conter o discurso de ódio online e a amplificação algorítmica de conteúdo extremista - tem se mostrado difícil. Os ataques a minorias, incluindo muçulmanos e judeus, estão em alta. A extrema direita até usava o ato como justificação por sua própria retórica desumanizadora. 

Na ONU no mês passado, Mohammad Al-Issa, secretário-geral da Liga Mundial Muçulmana, afirmou que a islamofobia é uma crise crescente. Al-Issa tem repetidamente advertido que a IA poderia transformar as mídias sociais em armas, disseminar desinformação e recrutar extremistas – e é exatamente por isso que ele defende que os líderes religiosos devem ser incluídos no desenvolvimento de estruturas éticas. Seus alertas ecoam os do Papa Francisco e do Vaticano, que afirmam que a IA é uma "sombra do mal'.

Os esforços de Al-Issa para combater o ódio são muito anteriores ao debate atual sobre IA. Em janeiro de 2020, ele liderou uma delegação de líderes muçulmanos ao memorial de Auschwitz-Birkenau – uma das visitas islâmicas mais importantes ao local –, reforçando um compromisso mais amplo com o enfrentamento do legado de ódio e violência. Hoje, com a guerra alastrando no Oriente Médio, esse compromisso com a promoção da compreensão inter-religiosa é mais urgente do que nunca.

“Se os líderes religiosos não tiverem assento nos eventos [da IA]”, advertiu Al-Issa numa artigo recente, “…o debate em evolução sobre IA não contaria com importantes especialistas no assunto, necessários para evitar qualquer possibilidade de uma nova era de extremismo impulsionado pela IA.”

Para que haja algum progresso, a tecnologia, a política e a comunidade devem parar de trabalhar de forma isolada e começar a construir uma resposta compartilhada e coordenada. 

Primeiro, precisamos investir em pesquisa e desenvolvimento para além da bolha do Vale do Silício, reduzindo simultaneamente nossa dependência da governança cada vez mais errática do Presidente Trump. Em seguida, devemos introduzir novas regras, exigindo que empresas e organizações consultem as partes interessadas da comunidade em todas as suas operações e garantir que os algoritmos sejam treinados em conjuntos de dados inclusivos.

Ao mesmo tempo, a UE deve explorar novas ferramentas para detetar e mitigar o enviesamento inevitável dos sistemas de IA. Devemos também implementar programas universais de literacia em IA e plataformas de responsabilização, educando o público sobre potenciais ameaças e capacitando-o para denunciar quaisquer queixas. 

O que aconteceu na Etiópia ou em Southport não é uma anomalia, mas sim um alerta de que as plataformas atuais não são mais espaços neutros. Elas são agentes ativos na formação do sentimento e do comportamento público — muitas vezes de maneiras que incitam a violência e polarizam as sociedades.

Em última análise, este processo contra a Meta não se trata apenas de responsabilização — trata-se de prevenção. Os padrões regulatórios certamente ajudarão, mas as restrições devem ser equilibradas pela dPhoto. Timothy Hales Bennett on Unsplashdiversificação.

Só então poderemos manter os benefícios dessas tecnologias sem entregar a própria ideia de justiça a uma multidão algorítmica incontrolável.

Sobre o autor:

Courteney Mukoyi é o fundador e diretor da Justice Code Foundation, que utiliza tecnologias existentes e emergentes para promover os direitos humanos nas comunidades do Zimbábue. Ele é um entusiasta da CivicTech e possui mestrado em Direito em Comércio Internacional pela Universidade da Cidade do Cabo.

Muyoki recebeu diversos prêmios, incluindo o Prêmio de Inovação em Democracia de 2022 e o Prêmio Wangari Maathai de Impacto em IA de 2023. Em 2023, foi selecionado para a Bolsa Mandela Washington. Atualmente, ele atua no Conselho Consultivo de Jovens do Conselho de Direitos Humanos da ONU e no Conselho de Juventude da União Europeia. Trabalhou com diversas organizações, incluindo o Accountability Lab e a União Africana, para promover o uso de tecnologia e inteligência artificial em direitos humanos e engajamento cívico. Ele é um empreendedor em série que também fundou uma startup de InsurTech chamada TopSure, que deu início à sua jornada para criar startups unicórnio na África.

Foto por Timothy Hales Bennett on Unsplash

Compartilhe este artigo: