Regulação da IA. O que você precisa saber como empreendedor? | IA nos negócios #47

Entendendo as regulamentações de IA. O que é e como isso muda os negócios?

A inteligência artificial é um conjunto de tecnologias e métodos que permitem que máquinas imitem as habilidades cognitivas humanas. Os sistemas de IA podem aprender e resolver problemas de maneiras cada vez mais semelhantes aos humanos. Um papel fundamental é desempenhado pelo aprendizado de máquina e pelo aprendizado profundo, que permitem que os algoritmos se otimizem com base em dados.

As aplicações de IA são quase ilimitadas:

• geração de conteúdo – texto, como fazem o ChatGPT e o Bard, ou imagens no Midjourney e DALL-E-3,
• traduções – muito úteis para negócios internacionais,
• reconhecimento de imagem e som – usado, por exemplo, ao inspecionar o ambiente de trabalho com câmeras ou gravações de chamadas de call center,
• análise avançada de dados a partir de uma variedade de fontes – de redes sociais a sensores industriais.

Esta é uma verdadeira revolução que está mudando a face de muitas indústrias. A IA permite que as empresas automatizem processos, compreendam melhor os clientes ou desenvolvam novos produtos. No entanto, a tecnologia também traz riscos – daí a necessidade de regulamentação.

Regulamentações de IA: conceitos e princípios-chave

Ao implementar soluções de IA em sua empresa, você precisa estar ciente das regulamentações atuais relacionadas ao uso da inteligência artificial. As mais importantes são:

• direitos autorais,
• lei de proteção de dados,
• leis relacionadas à responsabilidade pelo funcionamento da inteligência artificial utilizada pelas empresas.

Lei de direitos autorais vs. inteligência artificial

A lei de direitos autorais protege os direitos pessoais e patrimoniais dos criadores. Em muitos países, apenas obras feitas por humanos podem ser cobertas por sua proteção. Como resultado, os advogados tendem a interpretar que obras criadas exclusivamente por IA em um processo automatizado não estão sujeitas a direitos autorais, embora a inteligência artificial geralmente não consiga criar conteúdo sem a colaboração humana.

No contexto empresarial, as preocupações regulatórias relacionadas à autoria são:

• usar as obras de criadores vivos para ensinar inteligência artificial – isso se aplica a empresas que criam seus modelos ou ensinam os existentes usando dados disponíveis publicamente; de fato, todas as obras – desde pintura e escultura até branding e textos publicados em sites – estão sujeitas a direitos autorais,
• proteção de materiais da empresa criados com inteligência artificial – aqui é necessário ler cuidadosamente as regras e regulamentos de cada ferramenta de IA para descobrir quais regulamentações elas invocam. Normalmente, no entanto, elas transferem os direitos sobre a obra criada em cooperação com a IA para a pessoa que digita as dicas ou comandos para a inteligência artificial, deixando-se livres para usar o conteúdo criado para fins promocionais ou de pesquisa.

30 de outubro de 2023 marcou o primeiro veredicto no famoso processo de violação de direitos autorais movido por três artistas americanos, Sarah Anderson, Kelly McKernan e Karla Ortiz, contra as três empresas por trás dos principais geradores de imagem Midjourney, Stable Diffusion e Dream Up.

Os artistas escreveram em sua ação que os modelos de inteligência artificial foram ensinados com suas obras sem sua permissão e, assim, poderiam gerar obras que copiam suas obras, violando seus direitos autorais. No entanto, o tribunal rejeitou suas reivindicações em uma decisão de 28 páginas, afirmando, entre outras coisas, que nos EUA, os direitos autorais devem ser registrados para processar por sua suposta violação. Os artistas não conseguiram identificar quais de suas obras estavam incluídas em um conjunto de dados de imagens baixadas da Internet e usadas para treinar a inteligência artificial.

Lei de proteção de dados pessoais

A Lei de Proteção de Dados (RODO) regula o processamento de dados pessoais, que é central para muitas aplicações de IA. Os sistemas de IA frequentemente coletam e processam enormes quantidades de dados, desafiando as empresas a garantir sua segurança. Para os empreendedores, isso significa não apenas garantir a segurança das informações adquiridas, mas também assegurar seu processamento transparente e a responsabilidade ao longo do processo. Na prática, isso requer a implementação de mecanismos de segurança eficazes e procedimentos adequados de gerenciamento de dados para garantir que a privacidade seja protegida e os direitos dos usuários sejam respeitados.

Responsabilidade da IA

Novas regulamentações estão sendo desenvolvidas atualmente para facilitar as reivindicações por danos causados por sistemas de IA. A questão-chave aqui é a questão da responsabilidade civil – se o fabricante, o usuário ou o próprio sistema é responsável pelas ações da IA. As regulamentações pendentes podem introduzir soluções como:

• seguro obrigatório para fabricantes de IA, ou
• fundos de compensação especiais.
• Portanto, é importante que os empreendedores acompanhem de perto essas mudanças e se preparem para os novos requisitos e obrigações.

Como a IA está mudando o cenário legal para pequenas empresas?

A revolução da IA é uma oportunidade para pequenas empresas – graças a novas tecnologias, elas podem competir com os grandes players. No entanto, a implementação de ferramentas avançadas de IA envolve atender a padrões legais rigorosos. E isso requer investimentos financeiros e conhecimento que os pequenos players nem sempre podem arcar.

É por isso que os pequenos empreendedores precisam se familiarizar com as regulamentações atuais e planejadas com antecedência – isso permitirá que minimizem os riscos legais e implementem a IA de forma responsável. Vale a pena utilizar os serviços de advogados especializados em novas tecnologias.

Fonte: DALL-E 3, prompt: Marta M. Kania (https://www.linkedin.com/in/martamatyldakania/)

Exemplos de aplicações de IA nos negócios e sua regulamentação legal de IA

Quais são os dilemas legais na implementação da IA na prática? Aqui estão alguns exemplos:

• chatbots – o uso do ChatGPT em uma empresa sob uma licença não empresarial envolve aceitar os termos e condições de participação em um “experimento científico” conduzido pela OpenAI; as conversas realizadas podem ser revisadas e usadas para criar conjuntos de dados para ensinar a próxima geração de inteligência artificial,
• voicebots – podem coletar dados pessoais sem o conhecimento dos chamadores, o que levanta preocupações de privacidade; pois os dados se referem não apenas ao assunto da conversa, mas também, por exemplo, a uma gravação da voz da pessoa. Uma pequena amostra é suficiente para “cloná-la”, ou seja, criar uma cópia usando inteligência artificial, que pode criar gravações com som natural de qualquer conteúdo que soará como as falas daquela pessoa,
• personalização – algoritmos que coletam e categorizam dados sobre usuários podem violar o princípio de tratamento igual; também há o risco de que possam ser usados para manipulação, criando bolhas de informação com base na personalização precisa da mensagem; portanto, um dos princípios básicos da ética da IA, assim como das futuras regulamentações sobre o uso da inteligência artificial, será a transparência no uso de dados – mas como isso se apresentará na prática é desconhecido,
• carros autônomos – requerem novas regulamentações sobre segurança e responsabilidade por possíveis acidentes envolvendo carros sem motorista.

Como você pode ver, questões técnicas aparentemente não relacionadas implicam conformidade com inúmeras regulamentações. E esses são apenas exemplos selecionados mais próximos da realidade empresarial atual.

Desafios legais-chave da implementação da regulamentação de IA em pequenas empresas

O que especificamente pode dar noites sem dormir aos proprietários de pequenas empresas que implementam sistemas avançados de IA? Esses são, principalmente:

• regulamentações complexas e em mudança – no cenário em rápida mudança das ferramentas de IA, é difícil acompanhar as inovações tecnológicas, enquanto as regulamentações legais a respeito delas demoram a surgir, então resta seguir as regulamentações das ferramentas utilizadas e consultar um advogado especializado na área do direito afetada pela área de atuação da empresa,
• responsabilidade por erros da IA – esta é uma das questões primárias para os proprietários de negócios na implementação dos últimos desenvolvimentos em inteligência artificial, a questão é quem será responsável por quaisquer danos em caso de violação da proteção de dados dos clientes ou plágio cometido por um gerador de postagens em redes sociais,
• direitos sobre obras criadas por IA – como proteger a propriedade intelectual se ela for criada em colaboração com a inteligência artificial de modo que a proteção seja eficaz dentro de um determinado sistema legal? Esta é uma questão muito importante na ausência de regulamentações e maneiras práticas de distinguir entre conteúdo gerado por humanos e conteúdo criado por humanos,
• discriminação não intencional – como eliminar preconceitos algorítmicos que podem levar, por exemplo, à criação de segmentos de clientes de “primeira” e “segunda” categoria de acordo com regras de categorização entendidas apenas pela IA.

Esses são dilemas fundamentais enfrentados por empresas que implementam soluções avançadas baseadas em inteligência artificial.

Um guia para empreendedores: Como garantir conformidade com as regulamentações de IA?

As leis que regulam o uso da inteligência artificial ainda estão sendo desenvolvidas em muitos países. Por força, será possível garantir a conformidade com as regulamentações de IA apenas após sua entrada em vigor. Em outubro de 2023, a Casa Branca divulgou o Blueprint for AI Bill of Rights para os Estados Unidos, que inclui cinco princípios para proteger os cidadãos de danos causados pela inteligência artificial. Os princípios abordam a segurança e eficiência dos sistemas, proteção contra discriminação algorítmica, privacidade de dados, informação e explicação, e opções alternativas. Sua redação detalhada pode ser encontrada aqui: https://www.whitehouse.gov/ostp/ai-bill-of-rights/

A regulamentação que governa a inteligência artificial nos Estados Unidos estabelece novos padrões de segurança e proteções de IA destinadas a proteger a privacidade dos americanos, além de promover a inovação e a concorrência, bem como fortalecer a posição dos EUA como líder no desenvolvimento de inteligência artificial internacionalmente. As ações-chave incluem:

• estabelecer requisitos para testes de segurança e compartilhamento de resultados por empresas que desenvolvem sistemas avançados de IA,
• desenvolver padrões, ferramentas e testes de segurança de IA,
• combater a discriminação causada por algoritmos,
• proteger consumidores, pacientes, funcionários e estudantes,
• garantir o uso responsável da IA pelo governo.

A União Europeia, por sua vez, está trabalhando na “Lei de IA”, um conjunto de regulamentações que cobre todas as aplicações de IA na UE. Destina-se a abranger todas as ferramentas e grupos de interesse – estados, empresas e indivíduos – e a dividir os sistemas de IA em categorias de risco:

1. Sistemas que apresentam riscos não autorizados – por exemplo, baseados em técnicas subliminares,
2. Sistemas de alto risco – como identificação biométrica ou gerenciamento de infraestrutura crítica,
3. Sistemas de risco limitado.

A responsabilidade pelo funcionamento adequado de sistemas de alto risco recai principalmente sobre seus fornecedores, o que pode se tornar um fardo considerável para as empresas que fornecem tais soluções. O texto completo da “Lei de Inteligência Artificial” pode ser encontrado aqui: https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=celex%3A52021PC0206

Então, como minimizar os riscos legais ao implementar IA em sua empresa? Aqui estão algumas dicas práticas. Primeiro:

• focar nos impactos antecipados da implementação de sistemas de IA para identificar riscos potenciais com antecedência,
• desde o início, ter em mente os mecanismos de controle e supervisão do funcionamento dos algoritmos, como por ferramentas humanas ou automatizadas que monitoram seu comportamento,
• verificar se você está usando provedores de tecnologia de IA confiáveis, ler regulamentações e atualizações,
• manter um olhar atento à atualização das regulamentações de IA e cumpri-las.
• Quando em dúvida, procure aconselhamento de advogados especializados em novas tecnologias.

O futuro da regulamentação de IA. O que os empreendedores podem esperar?

A regulamentação de IA ainda está em sua infância, mas já é evidente que estamos caminhando para um maior controle e supervisão da tecnologia. Um exemplo é a “Lei de IA” da UE, que impõe padrões rigorosos para sistemas de alto risco.

Por outro lado, há vozes, por exemplo, do Reino Unido, defendendo regulamentações mais flexíveis que não sufocarão a inovação. Talvez o futuro seja um meio-termo?

Independentemente das soluções exatas, parece certo que as regulamentações de IA se tornarão cada vez mais rigorosas, portanto, as empresas devem levá-las em conta ao implementar novas tecnologias em suas empresas.

Resumo

A revolução na inteligência artificial é uma enorme oportunidade de negócios. No entanto, ao introduzir soluções avançadas de IA em uma pequena empresa, deve-se estar ciente de inúmeras armadilhas legais. As regulamentações existentes e planejadas podem dar dor de cabeça a muitos proprietários de negócios. Portanto, é crucial obter uma compreensão antecipada dos aspectos legais da IA, realizar análises de risco minuciosas e cumprir todos os requisitos. Assim, tanto as empresas quanto os clientes poderão aproveitar ao máximo os benefícios da inteligência artificial.

Se você gosta do nosso conteúdo, junte-se à nossa comunidade de abelhas ocupadas no Facebook, Twitter, LinkedIn, Instagram, YouTube, Pinterest, TikTok.