#ArtificialIntelligence - A legislação da UE deve estabelecer limites seguros para aplicações de alto risco, diz #EESC

O reconhecimento biométrico para rastreamento, vigilância e detecção de emoções não deve ter lugar na abordagem centrada no ser humano da Inteligência Artificial (IA) da Europa, diz o Comité Económico e Social Europeu (CESE), na sua resposta ao Livro Branco da Comissão Europeia sobre IA, adotado pelo plenário do CESE em julho.

A Comissão Européia propôs que um aplicativo de IA seja considerado de alto risco se envolver tanto um setor de alto risco (cuidados de saúde, transporte, energia e partes do setor público) quanto um uso de alto risco, com algumas exceções. ainda não definido. Somente se essas duas condições forem atendidas, sugere a Comissão, deveríamos falar sobre IA de alto risco, que seria abrangida por regulamentos e estruturas de governança específicos.

O CESE considera que esta definição pode criar lacunas potencialmente perigosas. A publicidade política do Facebook é um excelente exemplo, diz o Comitê.

"A publicidade é um setor de baixo risco e a função de agregação de notícias do Facebook pode ser considerada um uso de baixo risco. No entanto", argumenta a relatora de opinião Catelijne Muller, "vimos durante as campanhas eleitorais que a difusão de notícias falsas e deepfakes no Facebook gerou com a ajuda da IA ​​pode ter muitos efeitos negativos e influenciar a forma como as pessoas votam, com interferência mesmo de fora da Europa. "

Deve haver isenções disso, e quantas devem haver? Em vez de fazer uma lista de isenções, o CESE considera que seria melhor elaborar uma lista de características comuns a serem consideradas de alto risco, independentemente do setor.

Muitas candidaturas têm um forte impacto nos direitos fundamentais, sublinha Muller, não apenas na privacidade das pessoas, mas também no seu direito de se manifestar ou de aderir a um sindicato, por exemplo.

O lado sombrio do reconhecimento biométrico

Anúncios

O reconhecimento facial e biométrico é uma área chave em que a IA toca nos direitos fundamentais. Seu uso pode ser permitido para fins de identificação pessoal - e é, de fato, regulado pelo Regulamento Geral de Proteção de Dados.

Mas o uso generalizado de reconhecimento biométrico impulsionado por IA para vigilância ou para rastrear, avaliar ou categorizar o comportamento humano ou emoções deve ser proibido. Ainda mais porque não há nenhuma evidência científica de que possamos discernir os sentimentos de uma pessoa com base em sua biometria, enfatiza Muller.

Aplicativos de rastreamento e rastreamento COVID-19

O CESE também adverte contra o aumento descontrolado da tecnologia de rastreamento e rastreamento que chega à nossa sociedade muito mais rapidamente e com muito menos escrutínio do que antes, numa tentativa de combater o surto de coronavírus.

"As técnicas e abordagens de IA para combater a pandemia devem ser tão robustas, eficazes, transparentes e explicáveis ​​como qualquer outra técnica de IA em qualquer outra situação", afirma o relator do CESE. “Devem respeitar os direitos humanos, os princípios éticos e a legislação. Também devem ser voluntários, porque, gostemos ou não, muitas das técnicas introduzidas durante a crise serão permanentes”.

O CESE espera que a Comissão aceite os seus contributos, como fez com as recomendações que o CESE apresentou desde a sua publicação. opinião inovadora sobre IA em 2017, que primeiro defendeu uma abordagem de "humano no comando" para IA na Europa.

Contexto

A White paper sobre IA, parte de um amplo pacote de medidas sobre IA anunciado na Comunicação da Comissão Europeia Moldar o futuro digital da Europa, propõe:

• Medidas para otimizar a pesquisa, promover a cooperação entre os estados membros e aumentar o investimento em IA;
• opções de política para um futuro quadro regulamentar da UE sobre IA, com forte foco em aplicativos de alto risco.

Em fevereiro de 2020, a Comissão lançou uma consulta pública sobre o Livro Branco, que durou até 14 de junho e apresentou mais de 1 200 respostas aos questionários e cerca de 700 observações por escrito. A Comissão está atualmente processando essa informação e em breve publicará um relatório.

Moldando o futuro digital da Europa descreve as ações que a Comissão Europeia planeja realizar para garantir uma Europa adequada para a era digital, uma das principais prioridades de Ursula von der Leyen para seu tempo como presidente do executivo europeu. É baseado em três pilares principais:

• Tecnologia que funciona para as pessoas;
• uma economia digital justa e competitiva e;
• uma sociedade aberta, democrática e sustentável.

O CESE aconselhou sobre "Moldando o futuro digital da Europa" em a, também adotado na sessão plenária do CESE de julho, com uma recomendação fundamental:

“A velocidade da transformação digital significa que não sabemos quais os novos desenvolvimentos que virão no próximo mês. Devemos, portanto, ser flexíveis e adaptáveis. Isso exige um diálogo constante entre todas as partes envolvidas. O CESE, como voz da sociedade civil organizada sociedade, deve fazer parte dela, e pedimos à Comissão que estabeleça esse diálogo permanente ", afirmou o relator de parecer Ulrich Samm.

Compartilhe este artigo: