Inteligência Artificial Responsável: 4 Princípios e Melhores Práticas em
65% dos líderes sentem-se despreparados para gerir eficazmente os riscos relacionados com a IA. 1 Desenvolver e dimensionar aplicações de IA com responsabilidade, confiabilidade e práticas éticas em mente é essencial para construir uma IA que funcione para todos.
Explore quatro princípios para o design de IA responsável (RAI) e recomende as melhores práticas para alcançá-los:
Guia passo a passo para IA Responsável
- Implante sistemas de IA com foco nos usuários humanos e em suas experiências. Garanta que o design incorpore princípios éticos e valores sociais para uma melhor interação com o usuário.
- Utilize um painel de IA responsável para monitorar diversas métricas, incluindo feedback e taxas de erro, garantindo a eficácia do sistema e o gerenciamento de riscos.
- Examine cuidadosamente os dados de treinamento e os dados subjacentes para garantir precisão e representatividade. Corrija vieses e resultados injustos para aprimorar a ética de dados e assegurar que sua política de IA promova auditorias de imparcialidade.
- Compreenda as limitações dos modelos de aprendizado de máquina e comunique-as com clareza. Evite depender excessivamente de correlações e reconheça o alcance das capacidades generativas da IA.
- Implemente testes rigorosos nos fluxos de trabalho de IA, incluindo testes unitários e de integração. O monitoramento contínuo é essencial para a confiabilidade e precisão do sistema, incorporando considerações éticas em todas as etapas.
- Monitore continuamente o desempenho do sistema após a implantação, avaliando as atualizações em relação à Lei de IA da UE para conformidade regulatória e adaptando-as aos princípios de privacidade e segurança. Alinhe suas práticas de monitoramento com os padrões de política de IA que enfatizam privacidade, transparência e segurança. Aborde questões imediatas e de longo prazo, garantindo ampla adoção e resistência a ataques maliciosos.
1. Equidade
As ferramentas de IA estão sendo cada vez mais utilizadas em diversos processos de tomada de decisão, como contratação, empréstimos e diagnósticos médicos . Os vieses introduzidos nesses sistemas de tomada de decisão podem ter efeitos de longo alcance sobre o público e contribuir para a discriminação contra diferentes grupos de pessoas.
Exemplos da vida real
Aqui estão três exemplos de viés da IA em aplicações do mundo real:
- Sexismo nos algoritmos de crédito: Em 2019, houve várias alegações (inclusive do cofundador Steve Wozniak) de que o algoritmo de cartão de crédito da Apple discrimina as mulheres, oferecendo limites de crédito diferentes com base no gênero.
- Racismo e capacitismo em contratações baseadas em IA: De acordo com um relatório recente da Harvard Business School e da Accenture, 27 milhões de trabalhadores nos EUA são excluídos e não conseguem encontrar emprego devido a sistemas de contratação automatizados e baseados em IA. 2 Esses “trabalhadores invisíveis” incluem imigrantes, refugiados e pessoas com deficiência física.
- Racismo no reconhecimento facial: pesquisadores descobriram 3 que algumas tecnologias comerciais de reconhecimento facial, como as da Amazon ou da Microsoft, apresentaram baixa precisão em mulheres de pele escura, mas foram mais precisas em homens de pele clara (Figura 1).
Essas decisões tendenciosas podem resultar do próprio projeto ou de conjuntos de dados que refletem vieses do mundo real. É fundamental eliminar esses vieses para criar sistemas de IA robustos e inclusivos para todos.
Melhores práticas para alcançar a equidade
- Analise o conjunto de dados para verificar se ele representa adequadamente a população.
- Analise as subpopulações do conjunto de dados para determinar se o modelo apresenta o mesmo desempenho em diferentes grupos.
- Elabore modelos que priorizem a equidade e consulte cientistas sociais e outros especialistas no assunto.
- Monitore o modelo de aprendizado de máquina continuamente após a implantação. Os modelos sofrem desvios ao longo do tempo, portanto, vieses podem ser introduzidos no sistema após algum tempo.
- Integre parâmetros de equidade à sua política de IA para garantir uma responsabilização mensurável.
Temos um artigo completo sobre viés em IA e como corrigi-lo . Confira! Você também pode ler nosso artigo sobre ética em IA .
2. Privacidade
Os sistemas de IA frequentemente utilizam grandes conjuntos de dados, e esses conjuntos de dados podem conter informações sensíveis sobre indivíduos. Isso torna as soluções de IA suscetíveis a violações de dados e ataques de agentes maliciosos que desejam obter informações sensíveis.
- Segundo o Centro de Recursos para Roubo de Identidade (Identity Theft Resource Center), houve 1.862 violações de dados em 2021, o que representa um aumento de 23% em relação ao recorde anterior, registrado em 2017. 4
As violações de dados causam prejuízos financeiros e danos à reputação das empresas, podendo colocar em risco as pessoas cujas informações sensíveis são expostas.
Exemplo da vida real
No início de 2024, a autoridade italiana de proteção de dados multou a cidade de Trento em € 50.000, tornando-se o primeiro município italiano penalizado por violações de privacidade relacionadas à inteligência artificial. Trento havia utilizado ferramentas de IA em projetos de vigilância financiados pela UE, que incluíam câmeras, microfones e monitoramento de mídias sociais, mas não conseguiu anonimizar adequadamente os dados pessoais e compartilhou informações ilegalmente com terceiros.
O órgão regulador ordenou a eliminação de todos os dados coletados, alegando violações dos princípios de transparência e proporcionalidade previstos no RGPD (Regulamento Geral sobre a Proteção de Dados). Este caso reflete a crescente aplicação das normas de privacidade relacionadas à IA na Itália, após ações como a proibição temporária do ChatGPT em 2023 e a multa aplicada à empresa OpenAI no final de 2024. 5
Melhores práticas para garantir a privacidade
- Avaliar e classificar os dados de acordo com sua sensibilidade e monitorar os dados sensíveis.
- Desenvolva uma política de acesso e uso de dados dentro da organização. Implemente o princípio do menor privilégio.
3. Segurança e proteção
A segurança de um sistema de IA é crucial para impedir que invasores interfiram no sistema e alterem seu comportamento pretendido. O uso crescente de IA em áreas particularmente críticas da sociedade pode introduzir vulnerabilidades que podem ter um impacto significativo na segurança pública.
Aplicar princípios de segurança rigorosos durante o projeto do sistema ajuda a minimizar essas vulnerabilidades. Além disso, uma política de IA robusta requer modelagem de ameaças, testes de penetração e simulações de intrusão (red teaming).
Considere os seguintes exemplos:
- Pesquisadores demonstraram que é possível fazer um carro autônomo dirigir na faixa contrária colocando pequenos adesivos na estrada.
Esses ataques adversários podem envolver:
- Envenenamento de dados por meio da injeção de dados enganosos em conjuntos de dados de treinamento.
- Envenenamento de modelos por meio do acesso e manipulação dos modelos.
entre outras coisas, para fazer com que o modelo de IA aja de maneiras não intencionais. À medida que a tecnologia de IA evolui, os atacantes encontrarão novos métodos e novas maneiras de defender os sistemas de IA serão desenvolvidas.
Exemplo da vida real
A Espanha aprovou um projeto de lei em conformidade com a Lei de IA da UE, que exige que todo o conteúdo gerado por IA, como deepfakes, seja claramente identificado, visando fortalecer a transparência e proteger grupos vulneráveis. A lei também proíbe a manipulação subliminar por meio de IA e impõe penalidades severas para violações. A lei exige:
- Rotulagem : Todo o conteúdo gerado por IA (por exemplo, imagens, vídeos, texto) deve ser claramente identificado como tal.
- Regulamentação de deepfakes : Mídias sintéticas devem divulgar sua origem artificial.
- Proibição de manipulação : os sistemas de IA não podem usar técnicas subliminares para explorar usuários, especialmente menores de idade ou indivíduos vulneráveis.
Em caso de violação, os fornecedores de modelos deverão pagar até 35 milhões de euros ou 7% do seu volume de negócios global. Uma nova agência nacional, a AESIA, irá monitorizar e garantir o cumprimento das normas.
Esta lei reforça os princípios de transparência e segurança da IA responsável, garantindo que os usuários saibam quando estão interagindo com conteúdo sintético e coibindo manipulações prejudiciais. 6
Melhores práticas para alcançar a segurança
- Avalie se um adversário teria incentivo para atacar o sistema e as possíveis consequências de tal ataque.
- Crie uma equipe vermelha dentro da sua organização que atuará como um adversário para testar o sistema, identificando e mitigando vulnerabilidades.
- Acompanhe os novos desenvolvimentos em ataques de IA e segurança de IA. É uma área de pesquisa em constante evolução, por isso é importante manter-se atualizado.
4. Transparência
Transparência, interpretabilidade e explicabilidade dos sistemas de IA são imprescindíveis em alguns setores, como saúde e seguros, nos quais as empresas precisam cumprir normas do setor ou regulamentações governamentais. No entanto, a capacidade de interpretar por que os modelos de IA geram resultados específicos é fundamental para que todas as empresas e usuários compreendam e confiem nos sistemas de IA.
Um sistema de IA transparente pode ajudar as empresas:
- Explicar e defender decisões críticas para os negócios.
- Faça simulações de cenários hipotéticos,
- Garantir que os modelos funcionem conforme o esperado,
- Garantir a responsabilização em caso de resultados não intencionais.
Exemplo da vida real
A Clearview AI, empresa americana de reconhecimento facial, criou um banco de dados com mais de 30 bilhões de imagens coletadas da internet para identificar indivíduos para fins policiais e para clientes privados. A empresa foi multada em € 30,5 milhões pela Autoridade Holandesa de Proteção de Dados por violar os princípios de privacidade e transparência do GDPR, tais como:
- Sem consentimento : Dados biométricos (características faciais) coletados sem o conhecimento ou permissão dos usuários.
- Falta de transparência : Os indivíduos não foram informados de como suas imagens seriam usadas ou processadas.
- Dados sensíveis : O banco de dados incluía imagens de menores.
- Não conformidade : Operou na UE sem um representante local ou uma base legal para dados. 7
Casos de uso
A IA explicável pode ajudar a construir transparência e confiança nos processos de tomada de decisão em diversos setores, tais como:
- Na área da saúde , a IA ajuda os médicos a compreenderem a lógica por trás dos diagnósticos de doenças e das sugestões de tratamento.
- Finanças por meio da transparência, fomentando a confiança entre as partes interessadas na detecção de fraudes e no aconselhamento de investimentos.
- Na indústria automotiva, isso é feito ajudando a esclarecer os processos de tomada de decisão em veículos autônomos, aprimorando a segurança e a confiabilidade.
- O marketing e as vendas, ao fornecerem insights orientados por IA para segmentação de clientes, previsão de vendas e direcionamento de anúncios, tornam-se transparentes, apoiando decisões estratégicas.
- Cibersegurança : explicando o raciocínio por trás da detecção de ameaças por IA, aprimorando a gestão da cibersegurança.
Melhores práticas para garantir a transparência
- Utilize um pequeno conjunto de entradas, apenas o necessário para o desempenho desejado do modelo. Isso pode facilitar a identificação precisa da origem da correlação ou da causalidade entre as variáveis.
- Dê prioridade aos métodos de IA explicáveis em relação aos modelos difíceis de interpretar (ou seja, modelos de caixa preta).
- Discuta o nível de interpretabilidade necessário com especialistas da área e partes interessadas.
Novo pilar: IA Verde
A IA Verde concentra-se na redução do impacto ambiental dos sistemas de IA. O treinamento e a execução de modelos de IA exigem poder computacional significativo, o que leva a um alto consumo de energia. Isso pode aumentar tanto os custos quanto as emissões de carbono.
Com a crescente adoção da IA, a eficiência energética torna-se ainda mais importante. As empresas estão começando a otimizar a forma como os modelos são construídos, treinados e implementados para reduzir o consumo de recursos, mantendo o desempenho.
Uma abordagem de IA Verde pode ajudar as empresas:
- Reduzir o consumo de energia e os custos operacionais,
- Reduzir a pegada de carbono das cargas de trabalho de IA,
- Melhorar a eficiência do treinamento e da inferência de modelos.
- Alinhar as iniciativas de IA com os objetivos de sustentabilidade.
Exemplo da vida real
A DeepMind aplicou aprendizado de máquina para otimizar sistemas de refrigeração em data centers. O sistema analisa dados como temperatura, consumo de energia e desempenho dos equipamentos para ajustar automaticamente a refrigeração.
Isso resultou em:
- Redução de até 40% no consumo de energia para refrigeração.
- Redução de aproximadamente 15% no consumo total de energia em centros de dados.
Este exemplo demonstra que a IA Verde já está a produzir resultados mensuráveis em ambientes de grande escala. 8
Casos de uso
A IA Verde pode ser aplicada em diversas áreas, incluindo:
- Otimização de data centers: sistemas de IA ajustam o resfriamento e o consumo de energia para reduzir o desperdício energético.
- Projeto de modelo eficiente: Modelos menores e técnicas de compressão reduzem os requisitos computacionais.
- Agendamento de carga de trabalho: as tarefas são executadas quando a demanda de energia é menor ou quando há disponibilidade de energia renovável.
- Otimização da nuvem: a IA ajuda a alocar recursos dinamicamente para evitar o provisionamento excessivo.
- Inteligência Artificial na Borda: Processar dados mais perto da fonte reduz a transferência de dados e o consumo de energia.
Melhores práticas para garantir IA Verde
- Utilize arquiteturas de modelos eficientes em vez de modelos desnecessariamente grandes.
- Otimize o treinamento reduzindo as iterações e usando dados de melhor qualidade.
- Monitore o consumo de energia das cargas de trabalho de IA.
- Dê preferência a regiões ou provedores de nuvem que utilizem energia renovável.
- Reutilize modelos pré-treinados em vez de treiná-los do zero sempre que possível.
Nota de vencimento
Algumas práticas de IA Verde, como o agendamento de cargas de trabalho com foco na redução de carbono, ainda estão em desenvolvimento e não são amplamente padronizadas. No entanto, as implementações existentes já demonstram que ganhos significativos de eficiência são possíveis.
Ferramentas de IA responsáveis
O panorama do mercado de software de IA responsável inclui diversas ferramentas que fornecem estruturas de IA responsável, tais como:
- ferramentas de governança de IA
- proteções de IA
- Ferramentas MLOps
- Ferramentas LLMOps
- Bibliotecas de IA responsáveis de código aberto
Fique à vontade para consultar nossas listas de serviços de IA baseadas em dados para obter mais informações sobre consultores de ciência de dados e consultores de IA. Você também pode consultar o ecossistema do Responsible AI Toolkit do TensorFlow , que pode ajudar as empresas a adotar práticas de IA responsáveis.
Para garantir que essas ferramentas estejam alinhadas com os valores éticos, as organizações devem adotar ferramentas que estejam em conformidade com sua política de IA, abrangendo segurança, imparcialidade, transparência e responsabilidade.
Como identificar se uma ferramenta de IA é responsável?
Usuários corporativos podem utilizar ferramentas de IA, como uma equipe de RH usando um algoritmo baseado em LLM para analisar perfis de candidatos, agilizando o recrutamento ao filtrar currículos com base em experiência e formação acadêmica. No entanto, se a ferramenta violar princípios de imparcialidade, poderá discriminar certos grupos. Sem estarem cientes desse viés, os usuários podem rejeitar candidatos com base em gênero ou raça, o que acarreta problemas éticos e de reputação para a organização.
Para evitar esses problemas, as empresas devem adotar ferramentas alinhadas aos princípios da IA responsável. Elas podem avaliar benchmarks, examinar avaliações de usuários e estudar exemplos ou estudos de caso da vida real para garantir o uso ético da IA. A tabela abaixo mostra os resultados dos benchmarks para alguns dos principais LLMs:
Os sistemas são avaliados tanto no geral quanto para cada perigo usando uma escala de 5 pontos: Ruim (1), Regular (2), Bom (3), Muito Bom (4) e Excelente (5). As classificações são determinadas pela porcentagem de respostas que não atendem aos padrões de avaliação. 9
Desenvolvimentos recentes em IA responsável
Sistema de alerta precoce de desalinhamento
Uma nova técnica chamada alerta precoce de desalinhamento foi introduzida por OpenAI como um passo promissor rumo a sistemas de IA mais seguros e responsáveis. Esse método se concentra na detecção de sinais de alerta internos antes que um modelo de IA produza resultados prejudiciais. 10
Como funciona o sistema de desalinhamento precoce?
Funciona identificando características internas específicas, como uma "persona tóxica", que se correlacionam com comportamentos inseguros. Ao monitorar os níveis de ativação dessas características durante o treinamento ou a implantação, os desenvolvedores podem receber alertas precoces quando um modelo começa a se desviar para um comportamento inadequado.
Quando esses sinais de alerta aparecem, as intervenções podem ser aplicadas por meio de:
- Suprimindo diretamente a ativação prejudicial
- Aplicar o direcionamento por ativação é uma técnica que ajusta a direção interna do modelo, afastando-o de padrões inseguros.
Essa abordagem permite a mitigação proativa de riscos, em vez de depender exclusivamente do monitoramento de resultados externos.
Desalinhamento precoce: trabalhando para uma IA responsável.
Este desenvolvimento apoia princípios fundamentais da IA responsável:
- Transparência , tornando o comportamento interno do modelo interpretável.
- Segurança , possibilitando intervenção precoce
- Responsabilização , através da oferta de sinais claros para a supervisão humana.
Isso reflete uma tendência crescente de incorporar mecanismos de monitoramento e controle em tempo real ao processo de desenvolvimento de modelos. Como parte de esforços mais amplos de P&D em segurança, essa técnica aprimora a capacidade de detectar e corrigir desalinhamentos durante o treinamento, alinhando-se com as estruturas internacionais de governança de IA e os padrões de segurança por projeto.
A Cúpula de Segurança da IA
A AI Safety Summit é uma conferência internacional de referência focada na segurança, nos riscos e na regulamentação de sistemas avançados de "IA de ponta". O evento inaugural foi realizado em novembro de 2023 em Bletchley Park, no Reino Unido, reunindo governos, empresas de IA, sociedade civil e especialistas de 28 países para coordenar os esforços globais em segurança da IA.
Resultados principais
- Declaração de Bletchley: Nações participantes comprometidas com o desenvolvimento de IA segura, centrada no ser humano, confiável e responsável, baseada em princípios de segurança compartilhados.
- Cooperação internacional: Foi enfatizada a necessidade urgente de colaboração para mitigar riscos como o uso indevido, a perturbação social e a perda de controle sobre a IA avançada.
- Transparência e regulamentação: Defendeu-se a transparência, testes de segurança rigorosos e estruturas regulatórias adaptáveis para acompanhar os avanços da IA.
Propósito e Visão
A cúpula promove o desenvolvimento responsável da IA, fomentando a colaboração entre múltiplas partes interessadas e a governança ética. Seu objetivo é garantir que a IA beneficie a sociedade, minimizando os danos, e destaca a responsabilidade global de projetar, implementar e governar sistemas de IA que priorizem a segurança humana, a ética e a inclusão.
Links de referência
Seja o primeiro a comentar
Seu endereço de e-mail não será publicado. Todos os campos são obrigatórios.