Uma estratégia inteligente da #AI pode convencer a UE de que a moderação do conteúdo do #Facebook está pronta?

Em 17 de fevereiro, durante uma reunião com os responsáveis ​​políticos europeus em Bruxelas, o CEO do Facebook, Mark Zuckerberg (foto) lançou um white paper descrevendo sua estratégia para lidar com conteúdo prejudicial nas plataformas de mídia social. Em resposta ao desejo da União Européia de aumentar a supervisão do setor de tecnologia, o bilionário argumentou que a indústria deveria ser regulamentada em nível global, e não local.

Ele também argumentou que a responsabilidade das empresas de tecnologia por conteúdo nocivo em suas plataformas deve ser limitada - desde que eles tenham sistemas eficazes de moderação de conteúdo. As sugestões de Zuckerberg, no entanto, receberam uma recepção decididamente gelada em Bruxelas. Mesmo depois de conhecer Zuckerberg, a UE sustentou que a nova proposta de moderação de conteúdo do Facebook ficou aquém de muitas frentes, principalmente por não delinear as medidas concretas que a plataforma adotaria para combater o conteúdo ilegal online. "Não é o suficiente. É muito lento, muito baixo em termos de responsabilidade e regulamentação ”, opinou o comissário de estratégia de dados Thierry Breton após sua conversa com o principal executivo do Facebook.

Onde o sistema atual do Facebook está aquém?

Os gigantes da tecnologia têm uma janela bastante estreita para convencer os formuladores de políticas europeus de que seus próprios esforços para conter conteúdo problemático são suficientes. A Lei de Serviços Digitais da Comissão, a tão esperada revisão da diretiva de comércio eletrônico da UE de 20 anos, está prevista para ser lançada ainda este ano. Como observou Breton, "se percebermos que [o próprio processo do Facebook para moderar conteúdo] não é o que precisamos em relação a nossos próprios padrões, teremos que regulamentar e colocar isso em nossa [Lei de Serviços Digitais]".

O Facebook está determinado a ser capaz de resolver o problema de moderação de conteúdo em si - usando os avanços da Inteligência Artificial (IA) e aprendizado de máquina para impulsionar seu sistema atual. Atualmente, a tarefa espinhosa de identificar e remover material problemático é terceirizada para profissionais de terceiros que usam sua discrição para determinar por que uma imagem ou vídeo é censurável.

A dependência dessa supervisão humana é problemática, dada a natureza horrível de alguns moderadores de conteúdo que são forçados a peneirar - o fato de que os funcionários que moderam o conteúdo do Facebook em Lisboa, Dublin e Varsóvia atestaram que seu trabalho lhes deu PTSD certamente levará bandeiras vermelhas. nas instituições europeias. Além disso, a eficácia da moderação humana foi posta em causa depois que o Facebook falhou repetidamente em remover rapidamente conteúdo nocivo, como a transmissão ao vivo de 2019 do ataque à mesquita de Christchurch.

A IA pode conectar alguns dos pontos cegos do Facebook

Anúncios

A inteligência artificial tem o potencial de diminuir significativamente essa dependência da moderação humana. Os algoritmos treinados pelo aprendizado de máquina podem oferecer suporte aos moderadores, não apenas reduzindo sua exposição a conteúdo prejudicial on-line, mas também aumentando sua produtividade e precisão. O Facebook alega ter visto resultados promissores em seus experimentos com IA até agora - de acordo com a plataforma, durante o segundo semestre de 2019, a plataforma conseguiu sinalizar 99.8% do conteúdo gráfico e 99.5% de nudez e exploração infantil mesmo antes dos usuários sinalizá-los. . Obviamente, a tecnologia ainda precisa de ajustes finos - algoritmos de moderação de conteúdo baseados em IA ainda lutam particularmente para reconhecer as nuances do discurso de ódio, por exemplo - um problema que preocupa especialmente a União Europeia.

Além disso, a União Europeia tem receio de permitir ao Facebook um reino livre na exploração de uma tecnologia tão sensível como a IA. Essas preocupações decorrem principalmente do péssimo histórico do Facebook em atender aos padrões de transparência da Europa - aumentando o espectro de que a empresa possa desenvolver 'algoritmos de caixa preta' impedindo auditorias de terceiros ou do governo na plataforma.

O cerne da política digital - divulgada na semana passada pelo czar digital da UE e chefe de concorrência, Margrethe Vestager - está regulamentando como as empresas usam a inteligência artificial. Embora a UE deseje que os governos monitorem seus aspectos mais arriscados, como o uso da tecnologia de reconhecimento facial, muitos aplicativos no próprio quintal da Europa estão demonstrando como ela pode ser usada com segurança e eficácia. O Facebook pode dar uma sugestão a eles?

Os aplicativos de mídia social da próxima geração deixam sua marca usando a IA de forma inovadora

Um aplicativo europeu em particular aproveitou criativamente a inteligência artificial para fornecer a seus jovens usuários uma experiência mais segura e agradável. O Yubo, um aplicativo de transmissão ao vivo entre 13 e 25 anos, conta com um equilíbrio entre algoritmos complexos e educa os jovens sobre os danos on-line para manter seus 20 milhões de usuários seguros na plataforma. Um algoritmo cuidadosamente treinado detecta conteúdo problemático, como nudez ou alguém apenas de cueca em uma transmissão ao vivo - que é quando o sistema de intervenção em tempo real do Yubo entra em ação, enviando uma mensagem de aviso aos usuários, explicando por que esse comportamento é censurável. Se o usuário não corrigir seu comportamento, o fluxo poderá ser desligado remotamente.

Para garantir que o aplicativo seja reservado a adolescentes e adultos jovens, a Yubo fez uma parceria com o popular provedor de identidade digital com sede no Reino Unido, Yoti, que combina documentos de identificação enviados para as selfies do usuário usando o software de reconhecimento facial. A tecnologia da Yoti - que também está sendo implantada em supermercados para garantir que menores de 18 anos não comprem produtos restritos como cigarros ou álcool - pode ser empregada por outros aplicativos de mídia social para "proteger a comunidade" ou garantir que os usuários estejam quem eles dizem que são.

As tentativas de Yubo de reduzir o conteúdo on-line problemático pela raiz - combinando moderação assistida por computador com sensibilização de jovens usuários sobre o que fazer e o que não faz com um bom protocolo on-line - causaram um impacto no setor de tecnologia. Eles também devem fornecer um exemplo encorajador para gigantes da tecnologia como o Facebook e reguladores como a União Europeia de que as plataformas de mídia social podem encontrar um equilíbrio saudável entre depender excessivamente da IA ​​ou da supervisão humana.

A inteligência artificial não é uma solução completa para os desafios que as plataformas de mídia social enfrentam. Como o Facebook tenta convencer a UE de que é capaz de moderar seu próprio conteúdo, no entanto, seria bem atendido se você seguisse os novos aplicativos da nova geração que conseguiram desenvolver uma estratégia holística, incorporando a IA, para manter seus usuários seguros. .

Compartilhe este artigo: