Inteligência artificial: ameaças e oportunidades

O crescimento e a riqueza da Europa estão intimamente ligados à forma como utilizará os dados e as tecnologias conectadas. A IA pode fazer uma grande diferença em nossas vidas e sociedade - para o bem ou para o mal - e o Parlamento Europeu estabeleceu um comitê para examinar o impacto da tecnologia. Abaixo estão algumas oportunidades e ameaças importantes relacionadas a futuras aplicações de IA.

Leia mais sobre o que é inteligência artificial e como ela é usada.

Vantagens da IA

Os países da UE já são fortes na indústria digital e nas aplicações business-to-business. Com uma infraestrutura digital de alta qualidade e um quadro regulamentar que protege a privacidade e a liberdade de expressão, a UE poderia se tornar um líder global na economia de dados e seus aplicativos.

Benefícios da IA ​​para as pessoas

A IA poderia ajudar as pessoas com melhores cuidados de saúde, carros mais seguros e outros sistemas de transporte, produtos e serviços personalizados, mais baratos e mais duradouros. Também pode facilitar o acesso à informação, educação e treinamento. A necessidade de ensino à distância tornou-se mais importante devido ao Pandemia de COVID-19. A IA também pode tornar o local de trabalho mais seguro, pois os robôs podem ser usados ​​para partes perigosas do trabalho e abrir novos postos de trabalho conforme as indústrias impulsionadas pela IA crescem e mudam.

Anúncios

Oportunidades de inteligência artificial para empresas

Para as empresas, a IA pode permitir o desenvolvimento de uma nova geração de produtos e serviços, incluindo em setores onde as empresas europeias já ocupam posições fortes: economia verde e circular, maquinaria, agricultura, saúde, moda, turismo. Ele pode aumentar as vendas, melhorar a manutenção da máquina, aumentar a produção e a qualidade da produção, melhorar o atendimento ao cliente e também economizar energia.

Oportunidades de IA em serviços públicos

A IA usada em serviços públicos pode reduzir custos e oferecer novas possibilidades em transporte público, educação, energia e gestão de resíduos e também pode melhorar a sustentabilidade dos produtos. Desta forma, a IA poderia contribuir para alcançar os objetivos do Acordo Verde da UE.

Reforçar a democracia

A democracia poderia ser fortalecida usando o escrutínio baseado em dados, evitando desinformação e ataques cibernéticos e garantia de acesso a informações de qualidade. A IA também pode apoiar a diversidade e a abertura, por exemplo, mitigando a possibilidade de preconceito nas decisões de contratação e usando dados analíticos.

IA, segurança e proteção

Prevê-se que a IA seja mais usada na prevenção de crimes e no sistema de justiça criminal, já que enormes conjuntos de dados podem ser processados ​​mais rapidamente, riscos de voo de prisioneiros avaliados com mais precisão, crimes ou até mesmo ataques terroristas previstos e prevenidos. Já é usado por plataformas online para detectar e reagir a comportamentos online ilegais e inadequados.

Em questões militares, a IA pode ser usada para estratégias de defesa e ataque em hacking e phishing ou para visar sistemas importantes em guerra cibernética, enquanto a principal vantagem dos sistemas de armas autônomos é o potencial para entrar em conflito armado com o risco reduzido de danos físicos.

Ameaças e desafios da IA

A crescente dependência de sistemas de IA também apresenta riscos potenciais.

Subutilização e excesso de IA

A subutilização da IA ​​é considerada uma grande ameaça: oportunidades perdidas para a UE podem significar uma má implementação de programas importantes, como o Acordo Verde da UE, perda de vantagem competitiva em relação a outras partes do mundo, estagnação económica e possibilidades mais pobres para as pessoas. A subutilização pode resultar da desconfiança do público e das empresas na IA, infraestrutura deficiente, falta de iniciativa, baixos investimentos ou, como o aprendizado de máquina da IA ​​depende de dados, de mercados digitais fragmentados.

O uso excessivo também pode ser problemático: investir em aplicativos de IA que se provam não úteis ou aplicar IA a tarefas para as quais não é adequado, por exemplo, usá-lo para explicar questões sociais complexas.

Responsabilidade: Quem é o responsável pelos danos causados ​​pela IA?

Um desafio importante é determinar quem é o responsável pelos danos causados ​​por um dispositivo ou serviço operado por IA: em um acidente envolvendo um carro que dirige sozinho. O dano deve ser coberto pelo proprietário, fabricante do carro ou programador?

Se o produtor fosse absolutamente livre de responsabilidade, poderia não haver incentivo para fornecer um bom produto ou serviço e isso poderia prejudicar a confiança das pessoas na tecnologia; mas os regulamentos também podem ser muito estritos e sufocar a inovação.

Ameaças da IA ​​aos direitos fundamentais e à democracia

Os resultados que a IA produz dependem de como ela é projetada e quais dados usa. O design e os dados podem ser tendenciosos ou não intencionalmente. Por exemplo, alguns aspectos importantes de um problema podem não estar programados no algoritmo ou podem ser programados para refletir e replicar tendências estruturais. Além disso, o uso de números para representar uma realidade social complexa poderia fazer a IA parecer factual e precisa quando não o é. Isso às vezes é chamado de lavagem matemática.

Se não for feito de maneira adequada, a IA pode levar a decisões influenciadas por dados sobre etnia, sexo, idade ao contratar ou demitir, oferecer empréstimos ou até mesmo em processos criminais.

A IA pode afetar gravemente o direito à privacidade e à proteção de dados. Pode ser usado, por exemplo, em equipamentos de reconhecimento facial ou para rastreamento online e criação de perfis de indivíduos. Além disso, a IA permite mesclar informações que uma pessoa forneceu em novos dados, o que pode levar a resultados que a pessoa não esperava.

Também pode representar uma ameaça à democracia; A IA já foi acusada de criar câmaras de eco online com base no comportamento online anterior de uma pessoa, exibindo apenas o conteúdo que a pessoa gostaria, em vez de criar um ambiente para um debate público pluralista, igualmente acessível e inclusivo. Pode até ser usado para criar vídeo, áudio e imagens falsos extremamente realistas, conhecidos como deepfakes, que podem apresentar riscos financeiros, prejudicar a reputação e desafiar a tomada de decisões. Tudo isso pode levar à separação e polarização na esfera pública e manipular as eleições.

A IA também pode ter um papel em prejudicar a liberdade de reunião e protesto, pois pode rastrear e traçar o perfil de indivíduos ligados a certas crenças ou ações.

Impacto da IA ​​nos empregos

Espera-se que o uso de IA no local de trabalho resulte na eliminação de um grande número de empregos. Embora se espere que a IA também crie e produza melhores empregos, a educação e o treinamento terão um papel crucial na prevenção do desemprego de longa duração e na garantia de uma força de trabalho qualificada.

O acúmulo de informações também pode levar à distorção da concorrência, pois as empresas com mais informações podem obter uma vantagem e eliminar os concorrentes com eficácia.

Riscos de proteção e segurança

Os aplicativos de IA que estão em contato físico com humanos ou integrados ao corpo humano podem representar riscos à segurança, pois podem ser mal projetados, mal utilizados ou hackeados. O uso mal regulado de IA em armas pode levar à perda do controle humano sobre armas perigosas.

Desafios de transparência

Os desequilíbrios de acesso à informação podem ser explorados. Por exemplo, com base no comportamento online de uma pessoa ou outros dados e sem seu conhecimento, um fornecedor online pode usar IA para prever que alguém está disposto a pagar, ou uma campanha política pode adaptar sua mensagem. Outro problema de transparência é que às vezes pode não ficar claro para as pessoas se elas estão interagindo com IA ou uma pessoa.