Como a Lei da UE sobre IA impactará as instituições financeiras

A Lei de IA da UE, que entrou em vigor em 1º de agosto de 2024, é um desenvolvimento legislativo significativo para instituições financeiras (IFs). Com as disposições começando a se aplicar ao longo de um período de seis a 36 meses, a maioria das regras da Lei será executável após dois anos. E tem grandes implicações, especialmente para IFs que usam sistemas de IA de alto risco, como modelos de pontuação de crédito e ferramentas de avaliação de risco, escreve David Salloum, Diretor Jurídico do Grupo Eastnets.

O potencial da IA ​​em financiamento comercial, gestão de risco e na luta contra crimes financeiros é vasto. No entanto, é necessária uma regulamentação eficaz para garantir a confiança e salvaguardar os direitos fundamentais. O EU AI Act é um passo fundamental nessa direção, garantindo que a IA evolua de forma segura e ética.

Os elementos-chave

A Lei se aplica a sistemas de IA comercializados, usados ​​ou que impactam indivíduos dentro da UE, incluindo aqueles de países não pertencentes à UE. Ela adota uma abordagem baseada em risco, categorizando aplicativos de IA com base em níveis de risco, com requisitos rigorosos para casos de uso de alto risco, como infraestrutura crítica e aplicação da lei entre uma lista de oito áreas.

Os sistemas de IA de alto risco devem atender a padrões rigorosos de qualidade e governança de dados. Isso garante que o software não seja treinado em dados ruins ou incompletos que podem levar a um resultado adverso. Documentação, rastreabilidade e transparência são necessárias para garantir que a IA possa ser auditada e suas decisões explicadas. A supervisão humana é obrigatória para permitir a intervenção em decisões de IA, o que é crucial para aplicações em diagnósticos médicos ou casos legais.

Além disso, o Ato determina o uso de dados sintéticos ou anonimizados ao treinar modelos de IA para detectar e corrigir viés. Dados sintéticos, criados artificialmente em vez de coletados de eventos do mundo real, ajudam a garantir que os sistemas de IA sejam justos e precisos. Se esses métodos reduzirem o viés, os provedores de sistemas de IA devem usá-los.

Consequências para as instituições financeiras

Para as IFs, aderir a esses requisitos é crucial. Ao fazer isso, há algumas ações importantes a serem tomadas. Primeiro, se ainda não existir, um órgão de governança de IA deve ser criado. Ele precisa ser responsável por todo o uso de IA em todo o negócio e deve avaliar cuidadosamente os sistemas para determinar sua classificação sob o Ato.

Por exemplo, sistemas de IA usados ​​para pontuação de crédito ou avaliação de solvência provavelmente serão classificados como de alto risco, dado seu impacto significativo no acesso de indivíduos a recursos financeiros. Por outro lado, o Parlamento Europeu propõe que sistemas de IA implantados para detectar fraudes em serviços financeiros não sejam considerados de alto risco sob a Lei. Essa nuance permite que as IFs continuem inovando na detecção de fraudes, ao mesmo tempo em que garantem a conformidade com os princípios abrangentes da Lei.

Em segundo lugar, este grupo deve assegurar a supervisão humana de todos os sistemas para garantir que a IA esteja sendo usada de forma transparente, ética, justa, segura e com controles de privacidade. Por exemplo, quando o software interage com humanos, ele deve divulgar que é IA. Além disso, o conteúdo gerado por IA deve ser claramente rotulado para evitar deturpação. Os usuários também devem ser informados quando a IA usa reconhecimento de emoções ou categorização biométrica.

Por fim, qualquer órgão de governança também deve garantir alta qualidade de dados de entrada, para minimizar vieses e evitar resultados discriminatórios. Ele também deve ser 100 por cento transparente em seu próprio trabalho, registrando suas decisões e disponibilizando-as quando necessário.

O não cumprimento dos requisitos do Ato pode resultar em multas. O Conselho Europeu de Inteligência Artificial supervisionará a implementação, com autoridades nacionais responsáveis ​​pela supervisão e execução. Também haverá um banco de dados público para sistemas de IA de alto risco para garantir transparência e supervisão.

Implicações a longo prazo

Sistemas de IA de propósito geral, como aqueles usados ​​em reconhecimento de imagem e fala, serão abordados em atos futuros. A estrutura flexível do AI Act permite que ele evolua com a tecnologia de IA, garantindo que novos desenvolvimentos sejam adequadamente regulados.

As IFs devem se manter informadas sobre essas mudanças, pois elas afetarão a forma como a IA pode ser usada para eficiência e inovação em áreas como processamento de documentos, gerenciamento de riscos e conformidade.

Equilibrar inovação e regulamentação

Embora o excesso de regulamentação possa dificultar a inovação, o EU AI Act fornece um conjunto extremamente necessário de guias para uma tecnologia em rápido desenvolvimento. Por um lado, ele visa garantir que os sistemas de IA sejam seguros, protegendo os direitos das pessoas. Por outro, ele aumentará a inovação e o investimento graças à transparência e abertura que o Act exige. Os desenvolvedores serão mais capazes de colaborar e melhorar o software.

No entanto, a regulamentação deve permanecer flexível e se mover na mesma velocidade que a tecnologia. Os formuladores de políticas devem considerar o feedback e colaborar com a indústria; especialmente de setores como serviços financeiros, onde as regras têm maior impacto. E embora as considerações éticas devam sempre estar no cerne da regulamentação, isso deve ser equilibrado com o incentivo positivo para a tecnologia.

À medida que a contagem regressiva para a conformidade começa, as IFs devem estar positivas. Sem dúvida, há trabalho a ser feito em termos de conformidade, mas o resultado será melhor para todos: desenvolvedores, empresas e consumidores.

* As informações neste post de blog são apenas para fins informativos gerais e não constituem aconselhamento jurídico. O conteúdo é baseado na interpretação do autor e pode não refletir os desenvolvimentos jurídicos mais atuais. Os leitores devem procurar aconselhamento jurídico profissional para preocupações específicas. Todos os direitos sobre o conteúdo de terceiros referenciado permanecem com seus respectivos autores.

Compartilhe este artigo: