Ética da IA Generativa: Como Gerenciá-la
A IA generativa levanta preocupações importantes sobre como o conhecimento é compartilhado e confiável. A Britannica, por exemplo, entrou com um processo contra a Perplexity, alegando que a empresa copiou ilegal e conscientemente o conteúdo verificado por humanos da Britannica e fez uso indevido de suas marcas registradas sem permissão. 1
Explore as preocupações éticas relacionadas à IA generativa e as melhores práticas para gerenciá-las.
1. Viés nas saídas
Os modelos de IA aprendem padrões a partir de grandes quantidades de dados de treinamento que podem incluir estereótipos, informações incompletas ou representações distorcidas. Esse viés pode aparecer nos resultados gerados pela IA de diversas maneiras, como na representação inadequada de certos grupos em sistemas de recrutamento ou no reforço de suposições injustas na tomada de decisões na área da saúde .
Em contextos empresariais, modelos tendenciosos levantam preocupações éticas quando clientes ou funcionários são tratados de forma desigual devido a padrões presentes em conjuntos de dados.
Exemplo da vida real:
As diretrizes da Comissão Europeia enfatizam que os pesquisadores devem estar cientes desses vieses, pois eles podem comprometer a integridade da pesquisa e a imparcialidade científica. 2
Exemplo da vida real:
O AI Fairness 360 é um conjunto de ferramentas de código aberto da Linux Foundation que identifica e reduz o viés em modelos de aprendizado de máquina.
Originalmente desenvolvido por IBM, ele fornece dez algoritmos líderes de mitigação de viés e mais de 70 métricas de equidade para avaliar a justiça individual e em grupo.
Disponível em Python e R, o conjunto de ferramentas oferece suporte a aplicações práticas em diversos setores, como finanças, saúde e educação. Inclui tutoriais que demonstram casos de uso reais, como análise de crédito e análise de gastos médicos.
A AI Fairness 360 incentiva a colaboração da comunidade por meio do GitHub e listas de discussão dedicadas para anúncios, debates técnicos e governança. 3
2. Desinformação e alucinações
Os modelos de IA generativa podem produzir conteúdo falso ou enganoso, também conhecido como alucinações . Essas alucinações geralmente soam confiantes e autoritárias, aumentando o risco de que os usuários as considerem fontes de informação confiáveis.
Um exemplo disso é quando a IA generativa cria citações falsas em textos acadêmicos, resultando em referências não verificáveis em pesquisas no ensino superior. No mundo dos negócios, informações distorcidas sobre produtos podem prejudicar a confiança do cliente se os sistemas de IA apresentarem detalhes imprecisos.
Exemplo da vida real:
A Índia propôs novas regras rigorosas exigindo que empresas de IA e de redes sociais como OpenAI, Google, Meta e X rotulem claramente o conteúdo gerado por IA, citando riscos crescentes de deepfakes, desinformação e manipulação eleitoral.
A proposta de política exige que os rótulos cubram pelo menos 10% de uma tela visual ou os primeiros 10% de um clipe de áudio, juntamente com declarações do usuário e sistemas técnicos para detectar e etiquetar conteúdo de IA.
Com quase um bilhão de usuários de internet, a Índia afirma que a rotulagem visível, a rastreabilidade de metadados e a transparência são essenciais, visto que os tribunais já enfrentam casos de deepfake de grande repercussão. Especialistas observam que o padrão de visibilidade quantificável da Índia é um dos primeiros do mundo e, se implementado, as plataformas precisarão de rotulagem automatizada no momento da criação. 4
3. Intelpropriedade intelectual e direitos autorais
A tecnologia de IA generativa levanta questões sobre a proteção de direitos autorais e a propriedade intelectual.
Obras geradas por IA podem reproduzir material protegido por direitos autorais sem a devida menção. Os dados de treinamento frequentemente incluem material protegido por direitos autorais extraído da internet, o que pode levar à violação de direitos autorais quando o sistema reutiliza elementos no conteúdo gerado.
Para os pesquisadores, existe uma preocupação ética quando ferramentas de IA produzem textos ou imagens com base em publicações protegidas por direitos autorais, pois isso compromete a integridade acadêmica. As empresas também enfrentam riscos legais se os resultados gerados por IA se assemelharem a logotipos, artigos ou designs protegidos por direitos autorais.
Descubra o benchmark de detectores de imagem por IA para ver quais ferramentas são mais eficazes na detecção de conteúdo gerado por IA.
Exemplo da vida real:
O benchmark Deepfake-Eval-2024 foi criado para refletir as condições atuais, incluindo 45 horas de vídeo manipulado, 56,5 horas de áudio e quase 2.000 imagens coletadas de mídias sociais e plataformas de usuários em 88 sites e 52 idiomas.
Quando modelos de detecção de código aberto foram testados nesse conjunto de dados, sua precisão caiu significativamente, com reduções de desempenho de cerca de 50% para vídeo, 48% para áudio e 45% para detecção de imagem.
Sistemas e modelos comerciais otimizados com base no novo padrão de referência apresentaram melhor desempenho, mas ainda ficaram aquém da precisão alcançada por especialistas forenses treinados. Isso destaca tanto a urgência de aprimorar as ferramentas de detecção quanto a importância contínua da expertise humana na proteção contra a desinformação gerada por IA.
Figura 1: A imagem, que mostra exemplos de vídeo e áudio do Deepfake-Eval-2024 nas duas primeiras linhas e amostras de imagem na terceira e quarta linhas, ilustra a ampla gama de estilos de conteúdo e métodos de geração, como sincronização labial, troca de rostos e difusão. 5
4. Privacidade e informações sensíveis
O uso de ferramentas de IA generativa frequentemente exige a inserção de dados em sistemas externos. Se informações sensíveis, como pesquisas não publicadas, registros de pacientes ou documentos comerciais, forem carregadas, elas poderão ser armazenadas, reutilizadas ou divulgadas sem consentimento.
Exemplo da vida real:
A Comissão de Proteção de Informações Pessoais da Coreia do Sul suspendeu novos downloads do aplicativo chinês de IA DeepSeek depois que a empresa admitiu não ter cumprido integralmente as normas de privacidade do país.
A suspensão, que começou em meados de fevereiro de 2025, permanecerá em vigor até que a DeepSeek ajuste suas práticas para cumprir as leis locais de proteção de dados, embora seu serviço online permaneça acessível. A startup nomeou recentemente representantes legais na Coreia do Sul e reconheceu suas deficiências no tratamento de dados pessoais. Essa medida segue uma ação semelhante na Itália, onde os órgãos reguladores bloquearam o chatbot da DeepSeek devido a preocupações com sua política de privacidade. 6
Geração de dados sintéticos com IA generativa
A IA generativa expandiu o uso de dados sintéticos na pesquisa científica, oferecendo benefícios como a modelagem de fenômenos ambientais complexos, o teste de hipóteses antes de estudos de campo, a proteção da privacidade por meiode gêmeos digitais e a redução da dependência de sujeitos humanos ou animais.
No entanto, seu crescente realismo também levanta sérios riscos éticos. Dados sintéticos podem ser tratados como reais por acidente, corrompendo o registro científico, ou usados deliberadamente para fabricar resultados, minando a confiança na ciência.
Embora medidas de segurança técnicas, como marcas d'água e ferramentas de detecção, possam ajudar, elas são cada vez mais desafiadas pelos rápidos avanços da IA. Consequentemente, lidar com esses riscos exige não apenas diretrizes mais claras por parte de periódicos e instituições, mas também uma formação mais sólida em ética em pesquisa e uma ênfase renovada na integridade e na transparência. 7
5. Responsabilidade e autoria
A prática ética da IA exige que os humanos permaneçam totalmente responsáveis pelos trabalhos gerados por IA. Os pesquisadores não podem atribuir autoria a modelos generativos de IA, pois somente os humanos podem garantir precisão, imparcialidade e respeito à propriedade intelectual.
No mundo dos negócios, as empresas devem garantir que os funcionários sejam responsáveis pela geração de conteúdo e que exista uma cadeia de responsabilidade transparente.
Exemplo da vida real:
Os resultados do projeto OpenFake: An Open Dataset and Platform Toward Large-Scale Deepfake Detection mostram que os deepfakes modernos, especialmente aqueles provenientes de modelos proprietários como Imagen 3 e GPT Image 1, são extremamente difíceis de serem identificados tanto por humanos quanto por sistemas de detecção mais antigos, muitas vezes reduzindo a precisão a níveis próximos ao acaso.
Detectores treinados em conjuntos de dados legados, como FF++, GenImage ou Semi-Truths, apresentam desempenho ruim com essas imagens falsas de alta fidelidade e frequentemente classificam erroneamente imagens reais. Em contraste, um modelo SwinV2 treinado no novo conjunto de dados OpenFake alcança precisão quase perfeita, forte robustez à compressão e ao ruído, e a melhor generalização para modelos generativos não vistos.
Os resultados demonstram que a detecção eficaz de deepfakes requer dados de treinamento amplos, diversificados e atualizados. 8
6. Deslocamento de empregos
As ferramentas de IA generativa automatizam tarefas estruturadas em áreas como redação de conteúdo , atendimento ao cliente e design, levantando preocupações significativas sobre a disrupção da força de trabalho.
Exemplo da vida real:
Especialistas preveem que até 50% dos empregos de nível básico em escritórios podem desaparecer até 2027, com funções administrativas, de escritório e de atendimento ao cliente correndo maior risco. O Fundo Monetário Internacional estima que 300 milhões de empregos em todo o mundo podem ser afetados, principalmente por meio da automação de tarefas específicas, e não pela eliminação completa, mas isso ainda pressiona os trabalhadores a se adaptarem rapidamente.
Uma preocupação ética específica é a perda de cargos de nível júnior, o que prejudica a mentoria e o desenvolvimento da força de trabalho a longo prazo, criando o que os pesquisadores descrevem como uma "medida exponencialmente ruim" para as empresas.
Essas perturbações não são apenas econômicas; elas também acarretam riscos sociais e políticos, já que a perda concentrada de empregos pode exacerbar a desigualdade, minar a estabilidade social e aumentar a ansiedade pública sobre o futuro do trabalho. Leia "Perda de empregos devido à IA" para saber mais sobre as implicações econômicas e sociais.
7. Impacto ambiental
Os modelos generativos de IA levantam preocupações éticas devido ao seu elevado consumo de energia, demanda hídrica e custos de hardware. O treinamento de grandes modelos de linguagem com bilhões de parâmetros pode gerar centenas de toneladas métricas de CO₂, enquanto a inferência adiciona um ônus contínuo à medida que os sistemas de IA escalam. 9
A pegada ecológica varia conforme a região, já que as fontes de energia e as necessidades de refrigeração impactam significativamente as emissões e o consumo de água. Em alguns casos, o treinamento de um único modelo exigiu quase um milhão de litros de água, e mesmo o uso diário consome quantidades consideráveis.
A produção de hardware gera ainda mais impacto por meio da mineração de terras raras e da fabricação com alto consumo de energia, sendo que a rápida renovação dos modelos multiplica esses custos. 10
Embora a IA generativa possa apoiar metas de sustentabilidade , como otimizar o transporte ou prever riscos ambientais, suas próprias demandas de recursos criam um sério problema ético.
Exemplo da vida real:
O Guia de Ética da IA Generativa enfatiza a necessidade de abordar as consequências ambientais da inteligência artificial, particularmente o alto consumo de energia e as emissões de carbono associadas ao treinamento e à implantação de grandes modelos.
O documento alerta que a rápida expansão de sistemas de IA computacionalmente intensivos contribui significativamente para as emissões de gases de efeito estufa e para o esgotamento de recursos, especialmente quando alimentados por fontes de energia não renováveis. Recomenda-se aos profissionais que registrem e divulguem a pegada de carbono de seus modelos para garantir a responsabilização e a tomada de decisões informadas sobre sustentabilidade.
Para mitigar esses efeitos, são propostas diversas estratégias. Recomenda-se que os desenvolvedores:
- Utilize ferramentas de medição para monitorar o consumo de energia e recursos.
- Adote arquiteturas menores ou modulares que reduzam a demanda computacional.
- Implemente métodos de otimização, como poda, destilação de modelos e computação de baixa precisão, para melhorar a eficiência.
O artigo também defende a seleção de centros de dados que utilizem energia renovável e o apoio à transição organizacional para fornecedores de energia sustentáveis. Essas práticas visam promover o desenvolvimento de IA ambientalmente responsável, que equilibre inovação com a gestão ecológica. 11
8. Segurança e uso indevido
Os sistemas de IA generativa podem ser explorados de maneiras prejudiciais, como por meio de "ataques de injeção de código" que burlam os mecanismos de segurança ou pela criação de código malicioso. Esses riscos incluem a disseminação de desinformação, a produção de conteúdo tóxico ou a viabilização de ataques cibernéticos .
Na esfera política, os deepfakes gerados por IA e os resultados manipulados têm o potencial de influenciar eleições e prejudicar a confiança pública. As empresas devem reconhecer que a tecnologia de IA pode ser usada para criar conteúdo com consequências não intencionais ou potencialmente perigosas, se não for cuidadosamente monitorada.
Exemplo da vida real:
As aplicações de IA generativa tiveram impactos variados nas eleições europeias, francesas e britânicas de 2024. Deepfakes visaram líderes como Olaf Scholz, Keir Starmer e Marine Le Pen. Ao mesmo tempo, partidos de direita na Alemanha e na França usaram personas de IA e conteúdo não divulgado, e grupos russos implantaram grandes modelos de linguagem para disseminar narrativas pró-Rússia, demonstrando como a IA pode espalhar desinformação e exercer influência estrangeira.
Os chatbots como ChatGPT, Gemini e Copilot provaram ser pouco confiáveis, frequentemente fornecendo informações eleitorais incompletas ou imprecisas, o que levanta preocupações éticas sobre seu papel nos processos democráticos. 12
Melhores práticas para gerenciar preocupações éticas relacionadas à IA generativa
Ampliar as práticas éticas de IA
Segundo Joël Mesot, da ETH Zurique, o principal desafio hoje não é definir IA ética, mas sim escalá-la. Transformar valores em prática exige padrões globais, mecanismos de governança e ferramentas técnicas que possam operar em diversos contextos culturais, políticos e econômicos. Isso torna a IA confiável uma prioridade estratégica que depende da cooperação internacional e da capacidade institucional. 13
Manter a supervisão humana
A IA não deve substituir o julgamento humano em contextos de alto risco. Em vez disso, os humanos devem se manter informados para verificar a precisão dos resultados gerados pela IA.
Por exemplo, na área da saúde, os médicos devem utilizar modelos de IA generativa como assistentes, e não como tomadores de decisão. As diretrizes éticas para IA generativa enfatizam que os pesquisadores devem ser responsáveis por seus resultados e que devem integrar processos com intervenção humana para garantir a precisão e o uso ético.
Divulgar o uso de IA de forma transparente
A transparência sobre o uso de ferramentas de IA generativa constrói confiança e garante a responsabilidade. Os pesquisadores devem declarar quais ferramentas foram usadas, suas versões e como influenciaram o conteúdo gerado. As empresas podem aplicar marcas d'água ou rótulos no aplicativo para esclarecer quando o conteúdo foi gerado por IA.
A transparência também evita problemas éticos, como a apresentação de trabalhos gerados por IA como se fossem inteiramente humanos, o que poderia induzir os clientes ao erro.
Proteja dados confidenciais
O uso responsável da IA exige o manuseio cuidadoso de informações sensíveis. Os pesquisadores não devem carregar dados não publicados ou informações pessoais em ferramentas externas de IA, a menos que tenham a garantia de que possuem proteções de privacidade adequadas.
As empresas devem priorizar o uso de dados primários ou de origem desconhecida no treinamento de modelos de IA, reduzindo os riscos associados a fontes não confiáveis de terceiros. A proteção de dados sensíveis previne o uso indevido, respeita as leis de privacidade e evita a exposição de informações que possam prejudicar a confiança.
Abordar o viés e a imparcialidade
O viés nos dados de treinamento afeta diretamente os resultados gerados pela IA. As organizações devem testar a presença de viés e avaliar os modelos antes da implementação para garantir a imparcialidade. Os pesquisadores devem divulgar as limitações dos sistemas de IA generativa, incluindo seu potencial para viés, e adotar estratégias de mitigação adequadas.
No âmbito empresarial, testar os resultados gerados por IA em diferentes grupos demográficos pode prevenir efeitos discriminatórios.
Garantir a proteção dos direitos autorais
Para evitar a violação de direitos autorais, os usuários devem respeitar os direitos de propriedade intelectual e citar as fontes corretamente ao usar conteúdo gerado por IA. Pesquisadores não devem apresentar trabalhos gerados por IA como originais se forem derivados de material protegido por direitos autorais. Empresas devem evitar a implementação de sistemas de IA generativa que reproduzam logotipos ou textos protegidos por direitos autorais sem obter a permissão necessária.
Promover práticas sustentáveis
Dado que o impacto ambiental é uma questão ética reconhecida, as organizações devem optar, sempre que possível, por ferramentas de IA com menor consumo de energia.
Sugestões eficientes, modelos de IA menores e infraestrutura otimizada podem reduzir o impacto ambiental. Os pesquisadores também devem avaliar as implicações ambientais do uso de grandes modelos de linguagem e divulgá-las quando relevantes, alinhando-se aos objetivos de sustentabilidade.
Monitoramento e testes contínuos
Os modelos de IA generativa exigem supervisão constante. As organizações não devem tratar a IA como ferramentas estáticas; em vez disso, devem realizar auditorias regulares dos dados gerados para garantir a precisão, identificar possíveis vieses e avaliar os riscos de segurança. O monitoramento contínuo ajuda a garantir que as ferramentas de IA generativa sejam usadas de forma responsável tanto na pesquisa quanto nos negócios.
Educação e formação
Capacitar os usuários em considerações éticas é fundamental para o uso responsável da IA. As empresas devem educar seus funcionários sobre os riscos e limitações do conteúdo gerado por IA, garantindo que eles possam verificar os resultados e manter a integridade profissional.
Incentive o feedback e o diálogo.
A criação de mecanismos abertos de feedback ajuda as organizações a detectar riscos precocemente. Funcionários, pesquisadores e comunidades devem ser incentivados a relatar preocupações sobre os resultados gerados por IA. As empresas podem estabelecer sistemas de denúncia anônima ou conselhos de ética para supervisionar a adoção da IA. O diálogo entre especialistas no assunto, desenvolvedores e usuários garante que as questões éticas sejam abordadas de diversas maneiras e que as práticas evoluam em resposta às mudanças tecnológicas.
Perguntas frequentes
A ética da IA generativa refere-se aos princípios e práticas que orientam o uso responsável de modelos e ferramentas de IA generativa. Ela aborda questões como viés nos dados de treinamento, disseminação de desinformação, proteção de informações sensíveis, proteção de direitos autorais, responsabilidade pelos resultados gerados por IA, substituição de empregos e impacto ambiental.
O objetivo é garantir que os sistemas de IA generativa sejam desenvolvidos e utilizados de forma a respeitar os direitos humanos, manter a integridade profissional e encontrar um equilíbrio entre inovação e responsabilidade social.
Os sistemas de IA generativa afetam a forma como as empresas operam, como as pessoas acessam informações e como as sociedades funcionam. Sem princípios claros, as ferramentas de IA generativa correm o risco de disseminar desinformação, usar indevidamente informações sensíveis ou violar direitos autorais. Elas também podem reforçar preconceitos, substituir trabalhadores e gerar custos ambientais ocultos.
Diretrizes éticas ajudam a garantir a responsabilidade pelos resultados gerados por IA, proteger a integridade profissional e construir confiança entre os usuários. Ao estabelecer padrões claros, organizações e pesquisadores podem usar a IA generativa de forma responsável, reduzindo riscos e apoiando a inovação que beneficia a sociedade.
Links de referência
Seja o primeiro a comentar
Seu endereço de e-mail não será publicado. Todos os campos são obrigatórios.