Dilemas da Ética em IA com Exemplos da Vida Real
Embora a inteligência artificial esteja a mudar a forma como as empresas trabalham, existem preocupações sobre como pode influenciar as nossas vidas. Este é tanto um problema académico/social como um risco de reputação para as empresas; nenhuma empresa quer ser prejudicada por escândalos de dados ou ética de IA que danifiquem a sua reputação.
Explore informações sobre questões éticas que surgem com o uso da IA, exemplos de uso indevido e os princípios-chave para mitigar estes problemas.
Viés algorítmico
Os algoritmos e os dados de treino podem conter vieses, tal como os humanos, uma vez que os humanos também os geram. Estes vieses impedem que os sistemas de IA tomem decisões justas. Encontramos vieses nos sistemas de IA devido a duas razões:
- Os programadores podem programar sistemas de IA enviesados sem se aperceberem
- Os dados históricos usados para treinar algoritmos de IA podem não ser suficientes para representar com precisão toda a população.
Exemplo da vida real:
Modelos de linguagem de grande dimensão (LLMs) são cada vez mais usados nos locais de trabalho para melhorar a eficiência e a justiça, mas também podem reproduzir ou amplificar vieses sociais. O estudo Silicon Ceiling examina o impacto dos LLMs na contratação, auditando o viés de raça e género no GPT-3.5 da OpenAI, recorrendo a métodos tradicionais de auditoria de currículos.
Os investigadores realizam dois estudos usando nomes associados a diferentes raças e géneros: avaliação de currículos e geração de currículos. No Estudo 1, o GPT pontua currículos com nomes variados em várias ocupações e critérios de avaliação, revelando vieses baseados em estereótipos. No Estudo 2, o GPT gera currículos fictícios, mostrando diferenças sistemáticas: os currículos de mulheres refletem menos experiência, enquanto os currículos de asiáticos e hispânicos incluem marcadores de imigrantes.
Estas descobertas somam-se às evidências de viés nos LLMs, particularmente em contextos de contratação.1
Para construir uma IA ética e responsável, é necessário eliminar os vieses nos sistemas de IA. No entanto, 47% das organizações testam a existência de vieses nos dados, modelos e uso humano de algoritmos.2
Embora eliminar todos os vieses nos sistemas de IA seja quase impossível, dados os numerosos vieses humanos existentes e a descoberta contínua de novos, minimizá-los pode ser um objetivo das empresas.
Coisas autónomas
Coisas Autónomas (AuT) são dispositivos e máquinas que realizam tarefas específicas sem intervenção humana. Estas máquinas incluem carros autónomos, drones e robótica. Dado que a ética dos robôs é um tópico amplo, focamo-nos em questões antiéticas decorrentes do uso de veículos autónomos e drones.
Carros autónomos
Apesar do valor crescente dos veículos autónomos, estes representam vários riscos para as diretrizes de ética da IA. A responsabilidade e a prestação de contas dos veículos autónomos ainda são motivo de debate.
Exemplo da vida real:
Por exemplo, em 2018, um carro autónomo da Uber atropelou um peão que mais tarde morreu num hospital.3 O acidente foi registado como a primeira morte envolvendo um carro autónomo.
Após investigação do Departamento de Polícia do Arizona e do Conselho Nacional de Segurança nos Transportes dos EUA (NTSB), os procuradores decidiram que a empresa não é criminalmente responsável pela morte do peão. Isto porque a condutora de segurança estava distraída com o telemóvel, e os relatórios policiais classificam o acidente como "completamente evitável".
Armas Autónomas Letais (LAWs)
As LAWs (Armas Autónomas Letais) são armas alimentadas por IA que podem identificar e atacar alvos por conta própria com base em regras programadas. Tais sistemas existem há décadas, particularmente em aplicações defensivas como minas, defesa antimíssil, sistemas de sentinela e munições vagantes.
Plataformas mais recentes incluem veículos terrestres e marítimos com capacidades autónomas, principalmente para reconhecimento, mas por vezes com funções ofensivas.
Exemplo da vida real:
No conflito Ucrânia-Rússia, as armas autónomas são usadas principalmente através de drones habilitados para IA e munições vagantes, em vez de sistemas totalmente independentes.
A Rússia emprega munições vagantes, que podem procurar e atacar autonomamente alvos militares predefinidos com controlo humano mínimo uma vez lançadas. A Ucrânia usa principalmente drones semiautónomos, nos quais os humanos autorizam os ataques enquanto a IA auxilia na navegação, rastreamento de alvos e ataque rápido.
Estes sistemas aumentam a velocidade e a precisão no campo de batalha, mas reduzem a supervisão humana significativa, criando desafios legais e éticos sob o direito internacional humanitário, particularmente no que diz respeito aos princípios de distinção, proporcionalidade e responsabilidade.4
Exemplo da vida real:
Desde 2018, as Nações Unidas têm-se oposto consistentemente aos sistemas de armas autónomas letais (LAWS). O Secretário-Geral António Guterres classificou-os como politicamente inaceitáveis e moralmente inaceitáveis, e instou à sua proibição.
Em 2023, reiterou a necessidade de um instrumento internacional juridicamente vinculativo para proibir armas totalmente autónomas e regular outras, citando sérios riscos humanitários, legais e de direitos humanos. Os peritos em direitos humanos da ONU fizeram eco destas preocupações e apoiaram uma proibição global.5
Desemprego e desigualdade de rendimentos devido à automação
Espera-se que a automação impulsionada pela IA remodele significativamente os mercados de trabalho, contribuindo para pressões de desemprego a curto prazo e aumentando a desigualdade de rendimentos se não for gerida.
As projeções atuais sugerem que 15-25% dos empregos enfrentarão uma rutura significativa até 2025-2027, com 5-10% de deslocação líquida de empregos após a criação de novas funções.
Ao mesmo tempo, a IA complementa o trabalho humano em áreas como tomada de decisão, raciocínio e criatividade, mudando a procura para competências de maior valor. Com mais de 40% dos trabalhadores a necessitar de uma requalificação substancial até 2030, o acesso desigual à reconversão profissional corre o risco de aprofundar a desigualdade de rendimentos entre aqueles que se podem adaptar a funções habilitadas para IA e aqueles que não podem. Leia perda de empregos por IA para mais previsões sobre o efeito da IA no mercado de trabalho atual.
Usos indevidos da IA
Disputas de governação de IA sobre armas autónomas
As tensões recentes entre empresas de IA e governos ilustram como é difícil estabelecer limites para o uso militar da IA. No início de 2026, a empresa de IA Anthropic recusou-se a assinar um contrato com o Departamento de Defesa dos EUA que permitiria ao governo "acesso irrestrito" aos seus modelos para "todos os fins lícitos".
O CEO da Anthropic, Dario Amodei, afirmou que a empresa participaria se duas salvaguardas fossem incluídas: proibir a vigilância doméstica em massa e impedir o desenvolvimento de armas totalmente autónomas sem supervisão humana.6
O desacordo destaca preocupações mais amplas sobre o papel dos sistemas avançados de IA na guerra. Embora os grandes modelos de linguagem não sejam armas em si, podem ser integrados em sistemas militares para analisar informações, gerar listas de alvos potenciais, priorizar ameaças e recomendar ações militares.
As armas totalmente autónomas representam a fase mais controversa desta progressão. Uma vez ativados, estes sistemas podem procurar, selecionar e atacar alvos de forma independente usando sensores como câmaras e radar, bem como algoritmos de IA.
Os críticos alertam que remover os humanos do ciclo de decisão levanta grandes preocupações éticas e legais, particularmente em torno da responsabilização e do cumprimento do direito internacional humanitário.
Práticas de vigilância que limitam a privacidade
"O Big Brother está a observá-lo." Esta famosa frase do romance distópico de George Orwell, 1984, já foi uma obra de ficção científica. Hoje, no entanto, parece cada vez mais realidade, à medida que os governos implementam a IA para vigilância em massa. Em particular, o uso da tecnologia de reconhecimento facial em sistemas de vigilância levantou sérias preocupações sobre os direitos de privacidade
De acordo com o Índice de Vigilância Global de IA (AIGS), 176 países estão a usar sistemas de vigilância de IA, e as democracias liberais são as principais utilizadoras da vigilância de IA.7
O mesmo estudo mostra que 51% das democracias avançadas implementam sistemas de vigilância de IA, em comparação com 37% dos estados autocráticos fechados. No entanto, isto deve-se provavelmente à diferença de riqueza entre estes 2 grupos de países.
De uma perspetiva ética, a questão importante é se os governos estão a abusar da tecnologia ou a usá-la legalmente.
Exemplos da vida real:
Alguns gigantes da tecnologia também manifestam preocupações éticas sobre a vigilância alimentada por IA. Por exemplo, o Presidente da Microsoft, Brad Smith, publicou uma publicação de blogue a apelar à regulamentação governamental do reconhecimento facial.8
Além disso, a IBM deixou de oferecer a tecnologia para vigilância em massa devido ao seu potencial de uso indevido, como a definição de perfis raciais, o que viola os direitos humanos fundamentais.9
Manipulação do julgamento humano
As análises alimentadas por IA podem fornecer informações acionáveis sobre o comportamento humano, mas abusar das análises para manipular decisões humanas é eticamente errado.
Exemplo da vida real:
A Cambridge Analytica vendeu dados de eleitores americanos recolhidos no Facebook para campanhas políticas e forneceu assistência e análises às campanhas presidenciais de 2016 de Ted Cruz e Donald Trump.
As informações sobre a violação de dados foram divulgadas em 2018, e a Comissão Federal de Comércio multou o Facebook em 5 mil milhões de dólares devido às suas violações de privacidade.10
Proliferação de deepfakes
Deepfakes são imagens ou vídeos gerados sinteticamente nos quais uma pessoa num ficheiro de imagem ou vídeo é substituída pela semelhança de outra pessoa.
Criar uma narrativa falsa usando deepfakes pode prejudicar a confiança das pessoas nos meios de comunicação social (que está num mínimo histórico).11 Esta desconfiança é perigosa para as sociedades, considerando que os meios de comunicação de massa ainda são a opção número um dos governos para informar as pessoas sobre eventos de emergência, como uma pandemia global ou um grande terramoto que cause danos e vítimas generalizados.
Exemplo da vida real:
A Comissão Europeia abriu uma investigação à plataforma X de Elon Musk sobre alegações de que a sua ferramenta de IA, Grok, foi usada para gerar imagens deepfake sexualizadas de pessoas reais, na sequência de uma ação semelhante do regulador britânico Ofcom.
Se for descoberto que a X violou a Lei dos Serviços Digitais da UE, poderá enfrentar multas de até 6% da sua receita anual global, e os reguladores podem impor medidas provisórias se as salvaguardas não forem reforçadas.
Funcionários da UE e ativistas condenaram as deepfakes como prejudiciais e degradantes, particularmente para mulheres e crianças, questionando se a X avaliou e mitigou adequadamente os riscos ligados a ferramentas de IA poderosas.12
Inteligência artificial geral (AGI) / Singularidade
A perspetiva de inteligência artificial geral (AGI) ou singularidade levanta preocupações éticas sobre o valor da vida humana à medida que as máquinas superam a inteligência humana. Ao mesmo tempo, o caminho para a AGI permanece incerto, sem consenso científico sobre se surgirá do dimensionamento de arquiteturas existentes, como transformers, ou do desenvolvimento de abordagens fundamentalmente novas, nem sobre como a AGI deve ser validada em última análise.
Dilemas práticos, como se os carros autónomos devem priorizar a segurança dos passageiros ou dos peões, destacam questões morais não resolvidas que devem ser abordadas antes que estas tecnologias sejam amplamente implementadas. De forma mais ampla, o surgimento de sistemas superinteligentes desafia o domínio humano e levanta questões fundamentais sobre os direitos, responsabilidades e quadros morais dos seres artificiais.
Analisámos mais de 8.500 previsões de cientistas, empresários e da comunidade em geral e descobrimos que a maioria dos especialistas vê a AGI como inevitável. Com base nesta crença, inquéritos recentes a investigadores de IA estimam a sua chegada por volta de 2040, uma mudança notável em relação às previsões anteriores mais próximas de 2060, enquanto os empresários são ainda mais otimistas, projetando prazos próximos de 2030.
Ética dos robôs
A ética dos robôs, ou roboética, trata da forma como os humanos projetam, usam e tratam os robôs. Os debates sobre este tópico existem desde a década de 1940, questionando principalmente se os robôs devem ter direitos comparáveis aos dos humanos e dos animais.
O autor Isaac Asimov é o primeiro a falar sobre leis para robôs no seu conto chamado "Runaround". Ele introduziu as Três Leis da Robótica:13
- Um robô não pode ferir um ser humano ou, por inação, permitir que um ser humano sofra algum mal.
- Um robô deve obedecer às ordens dadas por seres humanos, exceto quando tais ordens entrarem em conflito com a Primeira Lei.
- Um robô deve proteger a sua própria existência, desde que tal proteção não entre em conflito com a Primeira ou a Segunda Lei.
Como navegar nestes dilemas?
Estas são questões difíceis, e soluções inovadoras e controversas como o rendimento básico universal podem ser necessárias para as resolver. Existem inúmeras iniciativas e organizações destinadas a minimizar o potencial impacto negativo da IA.
Por exemplo, o Instituto de Ética em Inteligência Artificial (IEAI) da Universidade Técnica de Munique realiza pesquisas em IA em vários domínios, como mobilidade, emprego, saúde e sustentabilidade.14
Aqui estão algumas recomendações para mitigar as controvérsias em torno dos usos adversariais da IA:
Considerar as políticas e melhores práticas da UNESCO
Política de Governação de Dados
Esta política enfatiza a importância de quadros detalhados para a recolha, uso e governação de dados para garantir a privacidade individual e mitigar riscos. Incentiva a criação de conjuntos de dados de qualidade para o treino de IA, a adoção de conjuntos de dados abertos e confiáveis e a implementação de estratégias eficazes de proteção de dados.
Por exemplo, estabelecer conjuntos de dados padronizados para IA na saúde garante precisão e reduz vieses.
Governação ética da IA
Os mecanismos de governação devem ser inclusivos, multidisciplinares e multilaterais, incorporando diversas partes interessadas, como comunidades afetadas, decisores políticos e especialistas em IA. Esta abordagem estende-se à aplicação da responsabilização e à provisão de reparação por danos.
Por exemplo, garantir uma contratação justa de sistemas de IA requer auditorias contínuas para abordar o viés.
Política de educação e investigação
Promove a literacia em IA e a consciência ética, integrando a IA e a educação de dados nos currículos. Também prioriza a participação de grupos marginalizados e avança a investigação ética em IA.
Por exemplo, as escolas poderiam ensinar noções básicas de IA juntamente com codificação e pensamento crítico, preparando as gerações futuras para navegar pelos impactos sociais da IA.
Saúde e bem-estar social
Esta política incentiva a implementação de IA para melhorar os cuidados de saúde, abordar riscos de saúde globais e promover a saúde mental. Destaca a necessidade de aplicações de IA que sejam clinicamente comprovadas, seguras e eficientes.
Igualdade de género na IA
A igualdade de género visa reduzir as disparidades de género na IA, apoiando as mulheres nas áreas STEM e evitando vieses nos sistemas de IA.
Por exemplo, alocar fundos para orientar mulheres na investigação em IA e abordar vieses de género nos algoritmos de recrutamento de emprego.
Sustentabilidade ambiental
Esta política foca-se em avaliar e mitigar o impacto ambiental da IA, como a sua pegada de carbono e consumo de recursos. Incentiva-se o uso de IA na previsão e mitigação climática.
Por exemplo, a IA pode ser usada para monitorizar a desflorestação e otimizar as redes de energia renovável.
Metodologia de avaliação de prontidão (RAM)
Esta técnica ajuda os estados a avaliar a sua preparação para implementar políticas éticas de IA, avaliando quadros legais, infraestruturas e disponibilidade de recursos.
Por exemplo, a RAM pode identificar lacunas na regulamentação e infraestrutura de IA, orientando as nações para uma adoção ética da IA.
Avaliação de impacto ético (EIA)
Este método avalia os potenciais impactos sociais, ambientais e económicos de projetos de IA. Colaborando com as comunidades afetadas, a EIA garante a alocação de recursos para prevenir danos.
Por exemplo, uma EIA poderia identificar os riscos de viés num sistema de policiamento preditivo e recomendar mitigações.
Observatório global sobre ética da IA
Refere-se a uma plataforma digital que oferece análises dos desafios éticos da IA e monitoriza a implementação global das recomendações da UNESCO.
Por exemplo, o observatório poderia fornecer relatórios sobre os impactos sociais da IA em vários países.
Formação em ética da IA e sensibilização pública
Esta abordagem incentiva a educação acessível e o envolvimento cívico para melhorar a compreensão pública da ética da IA.
Por exemplo, campanhas para educar os utilizadores sobre os riscos de privacidade nas plataformas de redes sociais alimentadas por IA podem criar cidadãos digitais informados.
Figura 1: Áreas de política ética de IA da UNESCO15
Melhores práticas recomendadas pela UNESCO
- Governação inclusiva e com múltiplas partes interessadas:
- Envolver diversas partes interessadas, incluindo comunidades marginalizadas, na criação de políticas e na governação da IA.
- Usar equipas multidisciplinares para garantir que as decisões sejam abrangentes e equitativas.
- Exemplo: Realizar consultas públicas ao implementar sistemas de vigilância de IA.
- Transparência e explicabilidade:
- Desenvolver sistemas de IA com processos de tomada de decisão interpretáveis.
- Equilibrar a transparência com as preocupações de segurança e privacidade.
- Exemplo: Fornecer aos utilizadores explicações em linguagem simples de como um modelo de IA toma decisões.
- Avaliações de sustentabilidade:
- Avaliar regularmente os sistemas de IA quanto ao seu impacto ambiental, incluindo o consumo de energia e a pegada de carbono.
- Exemplo: Reduzir o uso de energia no treino de grandes modelos de machine learning.
- Programas de literacia em IA:
- Educar o público e os decisores políticos sobre as implicações éticas da IA.
- Incorporar a ética da IA nos currículos educativos a todos os níveis.
- Exemplo: Oficinas sobre riscos de privacidade nas redes sociais alimentadas por IA.
- Auditorias contínuas e mecanismos de responsabilização:
- Estabelecer auditorias regulares para sistemas de IA para detetar e abordar vieses, imprecisões ou violações éticas.
- Garantir que existe um processo claro de reparação em casos de danos causados pela IA.
- Exemplo: Revisões periódicas de ferramentas de recrutamento de IA para prevenir o viés de género.
Aprender quadros de IA responsável
Aqui estão alguns quadros de IA responsável para superar dilemas éticos como o viés da IA:
Transparência
Os criadores de IA têm a obrigação ética de ser transparentes de forma estruturada e acessível, uma vez que a tecnologia de IA tem o potencial de violar leis e impactar negativamente a experiência humana. Para tornar a IA acessível e transparente, a partilha de conhecimento pode ajudar.
Por exemplo, a OpenAI foi fundada em 2015 como um laboratório de pesquisa de IA sem fins lucrativos por Elon Musk, Sam Altman e outros, com a missão de desenvolver "inteligência digital" para o benefício da humanidade.
No entanto, após a sua reestruturação para uma Corporação de Benefício Público (PBC), a OpenAI opera agora como uma entidade com fins lucrativos governada por uma fundação sem fins lucrativos.16
Ao conceder à Microsoft uma licença exclusiva para os seus modelos de fronteira, a OpenAI passou de um modelo de investigação transparente e aberto para um proprietário, gerando um debate significativo sobre a sua missão original.
Explicabilidade
Os criadores e as empresas de IA precisam de explicar como os seus algoritmos chegam às suas previsões para superar as questões éticas que surgem com previsões imprecisas. Várias abordagens técnicas podem explicar como estes algoritmos chegam às suas conclusões e quais os fatores que afetam as suas decisões.
Alinhamento
Numerosos países, empresas e universidades estão a construir sistemas de IA e, na maioria das áreas, não existe um quadro legal adaptado aos desenvolvimentos recentes na IA.
A modernização dos quadros legais a nível nacional e superior (por exemplo, ONU) clarificará o caminho para o desenvolvimento ético da IA. As empresas pioneiras devem liderar estes esforços para criar clareza para a sua indústria.
Usar quadros e ferramentas de ética de IA
Académicos e organizações estão cada vez mais focados em quadros éticos para orientar o uso de tecnologias de IA. Estes quadros abordam as implicações morais da IA ao longo do seu ciclo de vida, incluindo o treino de sistemas de IA, o desenvolvimento de modelos de IA e a implementação de sistemas inteligentes.
Aqui está uma lista de ferramentas que podem ajudar a aplicar práticas de ética de IA:
Ferramentas de governação de IA
As ferramentas de governação de IA garantem que as aplicações de IA são desenvolvidas e implementadas em alinhamento com os princípios éticos. Estas ferramentas ajudam as organizações a monitorizar e controlar os programas de IA ao longo do ciclo de vida da IA, abordar riscos relacionados com resultados antiéticos e apoiar uma IA confiável.
Ao implementar práticas abrangentes de governação de IA, as empresas podem gerir melhor os riscos potenciais e alcançar a conformidade de IA com os organismos reguladores.
LLMOps
À medida que as tecnologias de IA se tornam mais sofisticadas, a necessidade de ferramentas especializadas para supervisionar e implementar estes modelos cresceu.
Neste contexto, as ferramentas de LLMOps, práticas operacionais usadas para gerir grandes modelos de linguagem, desempenham um papel fundamental no apoio ao uso ético de grandes modelos de linguagem, ajudando a garantir que não perpetuam as desigualdades existentes nem contribuem para questões como as deepfakes.
MLOps
As ferramentas de MLOps (Operações de Machine Learning) envolvem a integração de modelos de IA em produção, garantindo o alinhamento com os padrões éticos.
Esta prática enfatiza a supervisão humana de sistemas autónomos, particularmente em áreas críticas como saúde e justiça criminal.
Governação de dados
A governação de dados é crucial para o uso ético da IA, envolvendo uma gestão responsável dos dados que treinam os sistemas de IA.
Uma governação de dados eficaz garante a proteção de dados e considera as implicações sociais do uso de dados, apoiando considerações éticas ao longo do ciclo de vida da IA. Isto é particularmente importante à medida que as grandes empresas de tecnologia moldam o futuro das tecnologias de IA.
Adicionar como fonte preferencialPerguntas frequentes
A ética da IA é o estudo dos princípios morais que orientam a conceção, desenvolvimento e implementação da inteligência artificial. Aborda questões como justiça, transparência, privacidade e responsabilização para garantir que os sistemas de IA beneficiem a sociedade, evitem danos e respeitem os direitos humanos, ao mesmo tempo que mitigam vieses e consequências não intencionais.
A Recomendação da UNESCO sobre a Ética da IA, adotada em novembro de 2021, apela à minimização de resultados discriminatórios e enviesados nos sistemas de IA, promovendo ao mesmo tempo a justiça, a transparência, a responsabilização e o respeito pelos direitos humanos.
Enfatiza a criação de quadros institucionais e legais para governar a IA para o bem público. Delineia políticas concretas para a governação de dados, igualdade de género e uso ético da IA em todos os setores. A Recomendação inclui mecanismos de monitorização, avaliação e implementação para impulsionar uma mudança significativa.
Cite esta pesquisa
Escolha o formato adequado ao local onde você vai publicar. Colar a versão com link no seu CMS preserva o backlink.
@misc{dilmegani2026,
author = {Dilmegani, Cem and Ermut, Sıla},
title = {{Dilemas da Ética em IA com Exemplos da Vida Real}},
year = {2026},
month = mar,
howpublished = {\url{https://aimultiple.com/ai-ethics}},
note = {AIMultiple. Acessado em 11 Março 2026}
}Links de referência
Seja o primeiro a comentar
Seu endereço de e-mail não será publicado. Todos os campos são obrigatórios. Os comentários são deixados em seu idioma original.