É verdade que muito trabalho foi feito pela Comissão Europeia desde que a Presidente Ursula Von der Leyen e a sua equipa tomaram posse. Já prometido em dezembro de 2019 foi uma “proposta legislativa” sobre IA - o que foi entregue foi um Livro Branco sobre IA em fevereiro. Embora esta, reconhecidamente, não seja uma proposta legislativa, é um documento que deu início ao debate sobre a IA humana e ética, o uso do Big Data e como essas tecnologias podem ser usadas para criar riqueza para a sociedade e os negócios.
O Livro Branco da Comissão enfatiza a importância de estabelecer uma abordagem uniforme da IA nos 27 Estados-Membros da UE, onde diferentes países começaram a adotar a sua própria abordagem à regulamentação e, portanto, potencialmente, estão a erguer barreiras ao mercado único da UE. Também, o que é importante para a Huawei, fala sobre planos para adotar uma abordagem baseada em riscos para regular a IA.
Na Huawei, estudamos o Livro Branco com interesse e, juntamente com (mais de 1,250!) Outras partes interessadas, contribuímos para a consulta pública da Comissão, que terminou em 14 de junho, dando nossas contribuições e idéias como especialistas trabalhando neste campo.
Encontrando o equilíbrio
O principal ponto que enfatizamos à Comissão é a necessidade de encontrar o equilíbrio certo entre permitir a inovação e garantir uma proteção adequada aos cidadãos.
Em particular, nos concentramos na necessidade de que aplicativos de alto risco sejam regulamentados sob uma estrutura legal clara e propusemos ideias de como deveria ser a definição de IA. Nesse sentido, acreditamos que a definição de IA deve se resumir à sua aplicação, com avaliações de risco enfocando o uso pretendido do aplicativo e o tipo de impacto resultante da função de IA. Se houver listas de avaliação detalhadas e procedimentos em vigor para as empresas fazerem suas próprias autoavaliações, isso reduzirá o custo da avaliação de risco inicial - que deve atender aos requisitos específicos do setor.
Recomendamos que a Comissão considere reunir organizações de consumidores, universidades, Estados membros e empresas para avaliar se um sistema de IA pode ser qualificado como de alto risco. Já existe um órgão estabelecido para lidar com esse tipo de coisas - o Comitê Técnico Permanente de Sistemas de Alto Risco (TCRAI). Acreditamos que este órgão possa avaliar e avaliar os sistemas de IA em relação a critérios de alto risco, tanto legal quanto tecnicamente. Se este órgão assumisse algum controle, combinado com um sistema de rotulagem voluntária, seria oferecido um modelo de governança que:
• Considera toda a cadeia de suprimentos;
• define os critérios certos e almeja o objetivo pretendido de transparência para consumidores / empresas;
• incentiva o desenvolvimento responsável e implantação de IA, e;
• cria um ecossistema de confiança.
Fora das aplicações de alto risco da IA, declaramos à Comissão que o quadro jurídico existente com base na responsabilidade contratual e baseada em culpa é suficiente - mesmo para tecnologias de ponta como a IA, onde poderia haver um medo de que a nova tecnologia exija novas regras. Regulamentação extra é, entretanto, desnecessária; seria oneroso demais e desencorajaria a adoção de IA.
Pelo que sabemos sobre o pensamento atual da Comissão, parece que ela também pretende adotar uma abordagem baseada no risco para regulamentar a IA. Especificamente, a Comissão propõe concentrar-se a curto prazo em aplicações de IA de “alto risco” - ou seja, setores de alto risco (como saúde) ou em uso de alto risco (por exemplo, se produz efeitos legais ou igualmente significativos sobre os direitos de um indivíduo).
Então, o que acontece em seguida?
A Comissão tem muito trabalho a fazer para obter todas as respostas da consulta, tendo em conta as necessidades das empresas, da sociedade civil, das associações comerciais, das ONG e outros. O fardo adicional de lidar com a crise do coronavírus não ajudou em nada, com a resposta formal da Comissão agora não esperada até o primeiro trimestre de 1.
O Coronavirus foi uma virada de jogo para o uso da tecnologia na área da saúde e, sem dúvida, terá um impacto no pensamento da Comissão nesta área. Termos como “telemedicina” são falados há anos, mas a crise transformou as consultas virtuais em realidade - quase da noite para o dia.
Além da saúde, vemos a implantação de IA sendo continuamente implementada em áreas como a agricultura e nos esforços da UE para combater as mudanças climáticas. Temos orgulho na Huawei por fazer parte deste desenvolvimento digital contínuo na Europa - uma região na qual e para a qual trabalhamos há 20 anos. O desenvolvimento de habilidades digitais está no centro disso, o que não apenas equipa as gerações futuras com as ferramentas para aproveitar o potencial da IA, mas também permitirá que a força de trabalho atual seja ativa e ágil em um mundo em constante mudança: há um necessidade de uma abordagem inclusiva, baseada na aprendizagem ao longo da vida e orientada para a inovação para a educação e treinamento em IA, para ajudar as pessoas a fazerem a transição entre empregos sem problemas. O mercado de trabalho foi fortemente impactado pela crise e soluções rápidas são necessárias.
Enquanto aguardamos a resposta formal da Comissão ao Livro Branco, o que mais há a dizer sobre a IA na Europa? Melhores cuidados de saúde, transportes mais seguros e limpos, fabrico mais eficiente, agricultura inteligente e fontes de energia mais baratas e sustentáveis: estes são apenas alguns dos benefícios que a IA pode trazer às nossas sociedades e à UE no seu todo. A Huawei trabalhará com os legisladores da UE e se esforçará para garantir que a região obtenha o equilíbrio certo: inovação combinada com proteção ao consumidor.
