IA e ética nos negócios. Por que você deve investir em soluções éticas | IA nos negócios #45

O que é ética empresarial em IA?

A ética em IA diz respeito a como as tecnologias baseadas em IA devem ser projetadas, desenvolvidas, utilizadas e geridas de forma responsável e seguindo os valores humanos.

A ética em IA em um contexto empresarial inclui principalmente questões como:

• Proteger a privacidade e respeitar os direitos dos usuários em relação a como seus dados são utilizados,
• Robustez das soluções, incluindo evitar erros resultantes da publicação de soluções não preparadas,
• não discriminação, ou seja, cuidar dos dados nos quais a inteligência artificial é ensinada para evitar a reprodução de preconceitos em algoritmos e modelos de aprendizado de máquina, bem como testar cuidadosamente as soluções introduzidas,
• a responsabilidade das empresas pelas soluções que criam, o que inclui problemas relacionados à privacidade, como os dados são tratados, desinformação e manipulação do comportamento do usuário, e O impacto da inteligência artificial no meio ambiente, ou seja, o impulso para criar as soluções mais eficientes em termos de energia possível.

Como implementar a inteligência artificial de forma ética nos negócios?

A chave para o uso ético da IA nos negócios é criar soluções transparentes, ou seja, esforçar-se por total transparência em como as soluções de IA são criadas e quais dados elas utilizam. Uma questão separada é manter a transparência, ou seja, revisar e atualizar regularmente o desempenho das soluções baseadas em IA para garantir que não haja discriminação não intencional ou violações de privacidade.

Outro aspecto importante é garantir que os funcionários e clientes estejam cientes de como a empresa utiliza a IA e as potenciais consequências desse uso. Isso deve ser claramente descrito nos regulamentos de serviço de IA disponíveis para os usuários.

Fonte: DALL-E 3, prompt: Marta M. Kania (https://www.linkedin.com/in/martamatyldakania/)

Para trabalhar na ética em IA, o Frontier Model Forum foi estabelecido em julho de 2023, com foco em garantir o desenvolvimento seguro e responsável de modelos de IA. Foi criado por empresas líderes no desenvolvimento de inteligência artificial, a saber:

Anthropic – a empresa responsável pelo chatbot Claude, “uma empresa de pesquisa em segurança e inteligência artificial que trabalha para construir sistemas de inteligência artificial confiáveis, interpretáveis e controláveis.”

Google – uma organização que utiliza inteligência artificial em muitas soluções B2B e B2C, e fornece o chat Google Bard descrito como um “experimento de pesquisa.”

Microsoft – assim como o Google, a Microsoft desenvolveu IA em larga escala, incluindo Bing Chat e Microsoft Image Generator,

OpenAI – criadores do ChatGPT e Dall-e 3, que definem sua missão como “garantir que a inteligência geral artificial beneficie toda a humanidade.”

Os objetivos do Fórum incluem:

1. Apoiar o desenvolvimento seguro e responsável de modelos de IA,
2. Reconhecer as melhores práticas na área,
3. Promover a pesquisa em segurança de IA e
4. Facilitar o compartilhamento de informações entre empresas e governos.

O fórum planeja consultas públicas e discussões com governos sobre como colaborar efetivamente sobre o futuro da inteligência artificial, bem como desenvolver aplicações de inteligência artificial em estreita conexão com a ética em IA. Por exemplo, sua aplicação em áreas como mitigação das mudanças climáticas, detecção de câncer e combate a ameaças cibernéticas.

Fonte: Frontier Model Forum (www.frontiermodelforum.org)

Por que investir em soluções de ética empresarial?

Investir em IA ética é crucial não apenas do ponto de vista moral, mas também para benefícios estratégicos nos negócios. De acordo com uma pesquisa do Google, 86% dos consumidores preferem gastar dinheiro com empresas que representam seus valores. As principais razões para considerar a implementação de IA ética são:

1. Conformidade legal – Uma abordagem ética para a IA ajuda a cumprir as crescentes regulamentações de proteção de dados e privacidade.
2. Evitar riscos reputacionais – o uso indevido da IA pode levar a sérios danos à reputação. Por exemplo, a IBM foi processada por supostamente usar dados de forma inadequada, a Optum foi acusada de criar algoritmos que favorecem pacientes brancos, e o Goldman Sachs foi acusado de discriminação de gênero em empréstimos.
3. Eficiência de custos a longo prazo – a IA ética previne erros custosos, gerando benefícios a longo prazo.
4. Responsabilidade social – o uso ético da IA é um reflexo da responsabilidade social de uma empresa.

Questões de ética empresarial em IA

O exemplo mais conhecido de problemas com a aplicação ética da IA diz respeito a dados de usuários não autorizados: o caso do Facebook, que se tornou infame por ter dado à Cambridge Analytica, uma empresa politicamente envolvida, acesso aos dados pessoais de mais de 50 milhões de usuários. Essa situação demonstra os riscos associados ao uso indevido de dados pessoais e aponta para a necessidade de uma forte ética e responsabilidade na IA.

A segunda ameaça relacionada à ética em IA nos negócios é a questão do consumo de energia. Embora a quantidade exata de energia necessária para treinar o modelo GPT-4, utilizado nas versões pagas do ChatGPT e BingChat, não tenha sido divulgada publicamente, ele contém mais de 175 bilhões de parâmetros e foi treinado com mais de 45 TB de dados.

O processo de treinamento exigiu a análise de enormes quantidades de dados e a otimização dos parâmetros do modelo, enquanto a manutenção e atualização do funcionamento do GPT-4 implicam a necessidade de uso intensivo de poder computacional e também resultam em alto consumo de energia. Portanto, um dos problemas importantes da ética em IA é usar a inteligência artificial nos negócios com os requisitos mínimos necessários para realizar as tarefas planejadas, em vez de usar para todos os fins os modelos mais modernos, mas caros em termos de energia.

O terceiro problema, muito importante, é a desinformação e “deepfake”. Aqui, os principais problemas da ética em IA são:

• marcação de conteúdo criado por inteligência artificial generativa,
• controle sobre materiais publicados – ou seja, “verificação de fatos” evita a disseminação não intencional de desinformação. É importante lembrar que a inteligência artificial pode “alucinar”, ou seja, criar conteúdo altamente provável, mas falso,
• não usar imagens de pessoas famosas – que, graças à sua acessibilidade, são facilmente escaladas como narradores de vídeo falando qualquer texto.

IA e ética empresarial – resumo

Investir em IA ética não é apenas uma obrigação moral, mas também uma decisão estratégica de negócios. Para pequenas e médias empresas, isso significa não apenas proteger a privacidade e evitar discriminação, mas também prestar atenção à acessibilidade das soluções de IA para todos os usuários. Também é significativo treinar os funcionários em IA ética para que compreendam tanto as capacidades quanto as limitações dessas tecnologias.

Investir em soluções de IA ética constrói confiança não apenas entre os clientes, mas também entre investidores e parceiros, tornando-se a base para relacionamentos de longo prazo baseados em transparência e integridade. A visão de longo prazo de uma empresa para a ética em IA deve incluir a adaptação contínua das diretrizes éticas a novos desenvolvimentos tecnológicos e mudanças sociais que parecem ser um resultado inevitável do desenvolvimento da IA, para garantir a aplicação responsável e sustentável da IA nos negócios.

Se você gosta do nosso conteúdo, junte-se à nossa comunidade de abelhas ocupadas no Facebook, Twitter, LinkedIn, Instagram, YouTube, Pinterest, TikTok.