A Lei de IA da UE. Como a Europa regula o uso da inteligência artificial | IA nos negócios #68

O que é a Lei de IA e por que é importante para as PME (pequenas e médias empresas)?

A Lei de IA é a primeira regulamentação do tipo no mundo. A primeira a abordar a inteligência artificial de forma abrangente a partir de uma abordagem centrada no ser humano. Seu objetivo é garantir que os sistemas de IA utilizados na Europa sejam seguros e estimulem a inovação, respeitando os direitos fundamentais, com um foco especial em:

• saúde – por exemplo, respeitando a privacidade dos dados dos pacientes,
• educação – aderindo aos valores promovidos pela União Europeia e evitando discriminação,
• proteção de fronteiras – garantindo segurança sem violar os direitos dos cidadãos,
• serviços públicos – seguindo as melhores práticas em proteção de dados, direito à informação e comunicação clara.

Para as PME, a Lei de IA trará principalmente maior segurança jurídica, pois define claramente o quadro para inovação: os princípios de projetar, desenvolver e aplicar sistemas de IA. Isso facilitará para as empresas investirem em soluções baseadas em IA, reduzindo riscos legais. Além disso, regulamentações aplicáveis em toda a União evitarão a fragmentação do mercado.

As regulamentações europeias sobre inteligência artificial foram adotadas pelo Parlamento Europeu e pelo Conselho da Europa em 9 de dezembro de 2023. Agora, elas devem ser formalmente aceitas por ambas as instituições para entrarem em vigor.

Aspectos-chave da Lei de IA para os negócios

A Lei de IA da UE introduz um conjunto de requisitos para sistemas de IA, dependendo do nível de risco. Esses requisitos incluem, entre outros:

• a obrigação de transparência e notificação aos usuários em caso de interações com chatbots, sistemas biométricos ou tecnologias de reconhecimento de emoções,
• proibição do uso de atributos sensíveis para categorização biométrica,
• avaliação obrigatória de conformidade antes da entrada no mercado para sistemas de alto risco,
• registro obrigatório no banco de dados da UE — após a entrada em vigor da Lei de IA, os sistemas de IA utilizados em setores-chave, como educação, emprego, saúde e aplicação da lei, deverão ser registrados.

Fabricantes e empresas que utilizam sistemas de IA também estarão obrigados a monitorar riscos após a introdução no mercado. Isso impactará diretamente as empresas que projetam e implementam sistemas de IA.

Níveis de risco dos sistemas de IA de acordo com a Lei de IA da UE

A Lei de IA classifica os sistemas de IA em quatro categorias com base em seu nível de risco:

1. Risco inaceitável
2. Alto risco
3. Risco limitado
4. Risco mínimo

Vamos dar uma olhada mais de perto em como cada grupo será definido, juntamente com exemplos de sistemas e suas classificações.

Risco inaceitável

A União Europeia impõe uma proibição total ao uso de tecnologias listadas na Lei de IA como sistemas de risco inaceitável. Estes são principalmente sistemas projetados para explorar a suscetibilidade dos indivíduos à sugestão para manipulação ou engano, sistemas que conferem à inteligência artificial a capacidade de tomar decisões em questões cruciais e aqueles que poderiam levar a um abuso de poder. Exemplos de IA de risco inaceitável incluem:

• armas autônomas operando sem supervisão humana,
• sistemas de avaliação de credibilidade utilizados por agências de aplicação da lei,
• sistemas automáticos de identificação de indivíduos em espaços públicos, como aqueles baseados em imagens de câmeras de vigilância,
• sistemas de inteligência artificial que podem ser prejudiciais a indivíduos com deficiências físicas ou mentais,
• IA empregada para fins de aplicação da lei, com exceções limitadas,
• sistemas de inteligência artificial que utilizam técnicas “subliminares” e manipulativas prejudiciais.

Para as empresas, a última categoria é particularmente importante. É por isso que a transparência no funcionamento de sistemas que fornecem sugestões aos usuários e clientes será crucial para a conformidade com a nova legislação da União Europeia.

Alto risco

A inteligência artificial classificada como uma solução de IA de alto risco terá que atender a requisitos rigorosos antes de entrar no mercado. Isso envolve avaliações de conformidade e testes rigorosos antes de ser aprovada para uso. Esta categoria de risco inclui oito áreas, como:

• veículos autônomos,
• sistemas de diagnóstico médico,
• algoritmos preditivos que apoiam o sistema de justiça,
• gestão de migração e asilo, controle de fronteiras, bem como
• gestão de emprego e força de trabalho.

Risco limitado

Para sistemas de risco limitado, mais comumente usados nos negócios, os legisladores, felizmente, prestaram muito menos atenção. Esta categoria inclui:

• chatbots de IA – usados para atendimento ao cliente ou respondendo a perguntas frequentes na forma de conversa fluida,
• sistemas de reconhecimento de emoções – usados, por exemplo, para coletar dados sobre as opiniões dos clientes sobre uma empresa,
• sistemas de categorização biométrica – como avaliar o gênero ou a idade dos clientes em uma loja física,
• geração de imagem, áudio ou vídeo – apesar da ameaça representada por deep fakes, esta área estará sujeita a um conjunto limitado de obrigações.

Risco baixo ou mínimo

Soluções de IA de baixo risco não estão sujeitas a regulamentações legais. A Lei de IA apenas mencionará que criadores e usuários de tais soluções devem estabelecer voluntariamente políticas de uso. Isso se refere a soluções como:

• sistemas de recomendação de conteúdo em serviços de streaming, ou
• chatbots em sites que respondem a perguntas típicas dos clientes.

Quais requisitos a Lei de IA impõe às soluções utilizadas pela minha empresa?

Para verificar se a inteligência artificial utilizada por uma empresa está em conformidade com a Lei de IA, você deve:

• classificá-la em uma das quatro categorias de risco descritas acima,
• se for IA de alto risco, realizar uma avaliação de conformidade,
• usar boas práticas em relação à IA de baixo risco.

Vamos olhar para exemplos de soluções de IA frequentemente utilizadas por empresas. Quais requisitos elas terão que atender?

Um chatbot de atendimento ao cliente que fornece informações básicas sobre produtos ou responde a perguntas típicas dos clientes provavelmente será classificado como um sistema de risco mínimo. Ele precisará:

• informar os usuários que estão interagindo com IA,
• oferecer a opção de ser redirecionado para um consultor humano,
• aderir a requisitos gerais sobre transparência, não discriminação, etc.

Um sistema de recomendação de produtos em e-commerce provavelmente será considerado um sistema de risco baixo. Será necessário informar os clientes que estão recebendo recomendações personalizadas e fornecer a opção de desativá-las.

Por outro lado, um sistema de diagnóstico médico automático será classificado como um sistema de alto risco. Ele precisará passar por uma avaliação rigorosa antes da entrada no mercado e ser supervisionado por um humano. Além disso, será necessário monitorar seu funcionamento e relatar incidentes.

O sistema de prevenção de crimes urbanos também será considerado de alto risco. Ele terá que cumprir regulamentos sobre proteção da privacidade e outros direitos fundamentais. Seu funcionamento terá que estar sob constante supervisão humana.

Não está claro em qual categoria os sistemas de tomada de decisão baseados em IA se enquadrarão. É provável que um sistema de recrutamento baseado em IA que toma decisões de contratação por conta própria seja considerado uma solução de IA de risco inaceitável. Por outro lado, um sistema de apoio ao recrutamento que ajuda as pessoas a fazerem seu trabalho seria considerado uma solução de alto risco.

Em prol do bem-estar dos usuários, assim como possíveis mudanças nas classificações, é muito importante abordar a construção e o uso de sistemas de IA de maneira ética e responsável desde o início.

Quais serão as consequências de não cumprir a Lei de IA?

Não seguir a Lei de IA pode levar a multas significativas para as empresas, variando de €35 milhões ou 7% do faturamento global para grandes empresas a €7,5 milhões ou 1,5% para PME. Sistemas de IA ilegais podem ser retirados do mercado, e seu uso pode ser limitado.

Como se preparar para a entrada em vigor da Lei de IA?

Então, como você prepara uma empresa que utiliza inteligência artificial para a entrada em vigor da Lei de IA em 2025? Aqui estão algumas dicas sobre como as PME e startups podem se preparar para esse momento:

• manter-se atualizado sobre o progresso do trabalho e o cronograma para a implementação das regulamentações,
• avaliar os sistemas de IA já em uso e adaptá-los aos novos requisitos,
• prestar atenção especial aos aspectos éticos no design da IA.

Resumo

A introdução da Lei de IA é uma grande mudança para o ecossistema de IA na Europa. No entanto, com regras claras e consistentes, promete garantir o desenvolvimento seguro e ético dessa tecnologia, que deve beneficiar especialmente as PME e startups.

A Lei de IA, que entrará em vigor em 2025, trará mudanças significativas na forma como pequenas e médias empresas (PME) podem aproveitar a inteligência artificial. Para as PME, isso significa principalmente a necessidade de consideração e análise cuidadosa das soluções de IA que utilizam, tanto em termos de conformidade com as regulamentações quanto do impacto potencial sobre clientes e a comunidade.

Para proprietários e gerentes de pequenas empresas, é essencial entender como seus sistemas de IA são categorizados em termos de risco e quais ações são necessárias para alinhá-los com as próximas regulamentações. Tome, por exemplo, sistemas de IA usados em gestão de clientes ou marketing, que anteriormente eram utilizados de forma bastante livre. Agora, eles exigirão uma análise minuciosa para conformidade com a Lei de IA. Isso pode criar novas oportunidades para empresas especializadas em consultoria jurídica tecnológica, fornecendo suporte às PME na adaptação a esses novos requisitos.

Se você gosta do nosso conteúdo, junte-se à nossa comunidade de abelhas ocupadas no Facebook, Twitter, LinkedIn, Instagram, YouTube, Pinterest, TikTok.