Ética em IA

Por que devemos falar de ética em IA?

• As IAs podem influenciar comportamentos e decisões.�
• Podem gerar informações falsas, preconceito ou até manipulação.�
• Por isso, é importante usar IA de forma responsável e segura.

​

Por que devemos falar de ética em IA?

A Inteligência Artificial (IA) é a capacidade de máquinas realizarem tarefas que normalmente exigiriam inteligência humana.�

Ela aprende com dados, toma decisões e às vezes... erra!

Por que devemos falar de ética em IA?

4

• Como toda área do conhecimento, IA apresenta benefícios e riscos!

O que vocês sabem sobre ética?

A ética é um campo da filosofia que estuda o que é certo e errado, ou o que é justo e injusto.

Ela serve como um guia para as ações humanas, ajudando a garantir que o que fazemos não prejudique outras pessoas.

​

O que vocês sabem sobre ética e IA?

O conceito de ética tem raízes profundas na história do pensamento humano, surgindo na Grécia Antiga com grandes filósofos:

• Sócrates é frequentemente considerado o pai da ética ocidental por sua insistência na importância de questionar a natureza do bem e da virtude.
• Seu discípulo Platão expandiu essas ideias, propondo que a ética deveria se basear no conhecimento das formas, em especial da forma do bem.
• Aristóteles, por sua vez, fundou a ética da virtude, que influenciou fortemente o pensamento ocidental.��Fonte: https://mundoeducacao.uol.com.br/filosofia/etica.htm

O que vocês sabem sobre ética e IA?

Quando falamos de ética em IA, estamos nos referindo à responsabilidade que temos ao criar e usar tecnologias que podem afetar vidas humanas.

Ex: Sistemas de reconhecimento facial utilizados em espaços públicos, por exemplo, podem auxiliar na identificação de criminosos, mas também levantam questões éticas sobre privacidade e vigilância em massa.

Como a Ética se Aplica à IA

A ética na inteligência artificial nos leva a questionar:

• Como garantir que os sistemas de IA sejam justos e seguros?
• Como proteger a privacidade e os direitos dos usuários?
• Como assegurar que as decisões automatizadas não sejam tendenciosas ou discriminatórias?

Se aprofunde no tema!

Diversos guias e documentos importantes têm sido divulgados, estabelecendo diretrizes e definições sobre ética em IA. Dentre eles, destacam-se:

• Ethics Guidelines for Trustworthy AI, publicado em 2019 pelo High-Level Expert Group on AI da União Europeia (em inglês).
• Guidelines and Principles in the Context of Artificial Intelligence, publicado por pesquisadores brasileiros (em português).

Se aprofunde no tema!

10

Fonte: Guia Europeu

(em inglês)

Fonte: Sociedade Brasileiro de Computação

(em português)

Se aprofunde no tema!

11

• No geral, os guias destacam que a ética em IA deve considerar os princípios:
• Transparência
• Justiça e equidade
• Não-maleficência
• Responsabilidade
• Privacidade
• Beneficência
• Liberdade e autonomia
• Confiança
• Sustentabilidade
• Dignidade
• Solidariedade

Se aprofunde no tema!

12

Vamos verificar alguns exemplos de como desenvolver IA com todos esses princípios!!

Transparência

13

O que significa

A IA deve ser compreensível, explicável e auditável. Usuários precisam saber quando estão interagindo com um sistema de IA e como as decisões foram tomadas.

Exemplos

• Um sistema de recomendação que mostra por que sugeriu determinado conteúdo.
• Modelos de classificação médica que exibem os fatores mais relevantes para o diagnóstico.
• Chatbots que informam claramente que são máquinas e não humanos.

​

Justiça e Equidade

14

O que significa

A IA não deve discriminar grupos sociais, raciais, econômicos ou de gênero. É necessário garantir acesso justo aos benefícios da tecnologia.

Exemplo

• Verificação de que um modelo de detecção facial funciona igualmente bem em diferentes tons de pele.

​

Não-maleficência

15

O que significa

As tecnologias devem evitar causar danos físicos, psicológicos, sociais ou ambientais.

Exemplos

• Monitoramento contínuo de IA hospitalar para evitar diagnósticos incorretos perigosos.
• Restrições para impedir uso de IA em manipulação política ou vigilância abusiva.
• Testes rigorosos antes de liberar um carro autônomo em vias públicas.

​

Responsabilidade

16

O que significa

Devem existir responsáveis claros por decisões, falhas, riscos e impactos gerados por sistemas de IA.

Exemplos

• Grupos de que revisam e aprovam modelos de IA antes de serem vendidos.
• Empresas que assumem responsabilidade legal por danos causados por IA usada em seus produtos.

​

Privacidade

17

O que significa

Proteger dados pessoais, garantir consentimento, minimizar coleta e manter segurança dos dados.

Exemplos

• Aplicativos que permitem ao usuário apagar permanentemente seus dados.
• Bases de dados anonimizadas para pesquisa.

​

Beneficência

18

O que significa

A IA deve gerar benefícios sociais, melhorar bem-estar humano e promover progresso sustentável.

Exemplos

• Sistemas de IA para otimizar distribuição de água e energia.
• Sistemas de IA para diagnóstico precoce de doenças.
• Sistemas de IA para reduzir desperdício de alimentos em cadeias logísticas.

​

Liberdade e Autonomia

19

O que significa

A IA deve gerar benefícios sociais, melhorar bem-estar humano e promover progresso sustentável.

Exemplos

• Sistemas de IA para otimizar distribuição de água e energia.
• Sistemas de IA para diagnóstico precoce de doenças.
• Sistemas de IA para reduzir desperdício de alimentos em cadeias logísticas.

​

Liberdade e Autonomia

20

O que significa

A IA deve apoiar, e nunca substituir ou restringir, a autonomia das pessoas.

Exemplos

• Assistentes virtuais que sugerem opções sem impor uma escolha.
• Sistemas educacionais adaptativos que respeitam ritmos individuais de aprendizagem.
• Mecanismos para recusar decisões automatizadas.

​

Confiança

21

O que significa

Usuários precisam sentir-se seguros, informados e respeitados ao utilizar soluções com IA.

Exemplos

• Interações previsíveis e coerentes em chatbots.
• Certificações de IA confiável emitidas por órgãos independentes para determinados sistemas.

Sustentabilidade

22

O que significa

A IA deve ser ambientalmente responsável e contribuir para práticas sustentáveis.

Exemplos

• Modelos otimizados para menor consumo energético.
• IA para monitoramento de desmatamento e biodiversidade.

Dignidade

23

O que significa

Respeitar o valor intrínseco de cada pessoa, evitando usos degradantes, manipulativos ou desumanizadores.

Exemplos

• Proibir notícias falsas ou pornográficas.
• IA que auxilia idosos preservando sua autonomia, sem os infantilizar.
• Evitar sistemas que humilhem trabalhadores com monitoramento excessivo.

Solidariedade

24

O que significa

Promover cooperação, inclusão e redução de desigualdades através do uso da IA.

Exemplos

• Sistemas de IA de apoio educacional para estudantes de regiões vulneráveis.
• Plataformas de saúde pública que priorizam atendimento em comunidades afastadas.
• Ferramentas abertas e gratuitas para democratizar acesso ao conhecimento.

Fixando o conteúdo…

Atividade e Discussão

Atividade:

​

Como aplicar os 11 Princípios de Ética em IA em problemas reais do nosso estado?

​

Instruções: �

Em grupo, escolha um problema real do nosso estado e descreva como cada princípio ético deve ser considerado no desenvolvimento de uma solução de IA para esse problema.

​

Veja alguns problemas sugeridos a seguir.

​

Atividade e Discussão

Problemas sugeridos. Uso de sistemas de IA para:

• Diagnóstico médico em hospitais públicos
• Risco de deslizamento de terra em encostas
• Previsão de focos de mosquito da dengue
• Estimativa do preço do aluguel nas cidades da Bahia
• Estimativa de turistas no verão
• Monitoramento ambiental (água, ar, praias)
• Mobilidade urbana (ônibus, metrô, trânsito)
• Segurança em grandes eventos
• Educação personalizada em escolas públicas

Atividade e Discussão

Tarefa do grupo. Para o problema escolhido, explique como aplicar cada um dos 11 princípios de ética em IA:

​

1. Transparência: Como explicar os resultados do sistema (saída do modelo)?
2. Justiça e equidade: Como evitar discriminação?
3. Não-maleficência: Que riscos o sistema pode causar?
4. Responsabilidade: Quem será responsável pelas decisões?
5. Privacidade: Quais dados sensíveis precisam de proteção?
6. Beneficência: Quem será beneficiado pelo sistema?
7. Liberdade e autonomia: O usuário terá controle sobre a decisão?
8. Confiança: O sistema inspira segurança e previsibilidade?
9. Sustentabilidade: Há impacto ambiental na coleta dos dados ou na execução do sistema?
10. Dignidade: O sistema respeita a pessoa humana?
11. Solidariedade: A tecnologia promove inclusão e cooperação?

Referências

Referências

SERPRO (2023): Ética na IA. Disponível em: https://www.serpro.gov.br/menu/noticias/noticias-2023/etica-na-ia

LAMB, Luís C. (2024): Ética em IA e IA ética: prolegômenos e estudo de casos significativos. Disponível em: https://jornal.usp.br/wp-content/uploads/2024/05/8-Luis-Lamb-certo.pdf"�Plano de Inteligência Artificial da Sociedade Brasileira de Computação - https://books-sol.sbc.org.br/index.php/sbc/catalog/book/141

​

​

Produção do Material

• Universidade Federal da Bahia (UFBA)�
• Universidade do Estado da Bahia (UNEB)�
• SENAI/CIMATEC�
• Universidade Estadual de Feira de Santana (UEFS)�
• Universidade Estadual do Sudoeste da Bahia (UESB)�
• Universidade Estadual de Santa Cruz (UESC)�
• Instituto Federal Baiano (IFBaiano)

31

Apoio

Apoio

33