1 of 30

Transparência e Responsabilidade

2 of 30

Objetivos da aula

  1. Compreender o que significa IA responsável e por que é importante.
  2. Reconhecer a diferença entre modelos explicáveis e modelos caixa-preta.
  3. Refletir sobre a responsabilidade moral e ética envolvida no uso de IA.
  4. Desenvolver senso crítico sobre transparência e prestação de contas em decisões automatizadas.

​

3 of 30

Introdução

4 of 30

Recapitulando…

Você lembra o que é IA?

5 of 30

Recapitulando…

5

A Inteligência Artificial (IA) é a capacidade de máquinas realizarem tarefas que normalmente exigiriam inteligência humana.�

Ela aprende com dados, toma decisões e às vezes... erra.

6 of 30

Recapitulando…

Em quais momentos do seu dia a dia você encontra a IA?

7 of 30

Recapitulando…

Você percebe quando há algum viés na IA?

8 of 30

Recapitulando…

Um viés é uma tendência que pode levar a julgamentos injustos.

Se os dados usados para treinar a IA forem injustos, o resultado também será.

Exemplo: Reconhecimento facial que identifica rostos brancos, mas tem dificuldade de identificar rostos negros.

9 of 30

Recapitulando…

  • Quem deve ser responsável quando um algoritmo erra?
    • O programador?
    • A empresa que usa a tecnologia?
    • O governo que deveria fiscalizar?
    • Ou todos juntos?

​

10 of 30

Responsabilidade e transparência

11 of 30

IA responsável

IA responsável é desenvolver e usar sistemas de IA de modo ético, seguro e transparente!

12 of 30

IA responsável - Definição da Microsoft

O que é a IA responsável?

“A IA responsável é uma abordagem para desenvolver, avaliar e implantar sistemas de IA de maneira segura, confiável e ética. Os sistemas de IA são o produto de muitas decisões diferentes tomadas por aqueles que os desenvolvem e os implantam. Da finalidade do sistema à forma como as pessoas interagem com sistemas de IA, a IA responsável pode ajudar a orientar proativamente essas decisões visando resultados mais benéficos e equitativos. Isso significa manter as pessoas e suas metas no centro das decisões de design do sistema e respeitar valores duradouros como imparcialidade, confiabilidade e transparência.”

12

Fonte: lean.microsoft.com

13 of 30

Transparência na IA

Transparência significa que podemos entender como a IA tomou sua decisão.

Um sistema transparente aumenta a confiança das pessoas.

Possibilita que usuários, pesquisadores e reguladores vejam o “raciocínio” da IA.�

​

14 of 30

Transparência na IA

14

  • Quando sistemas de IA influenciam decisões importantes, é essencial que as pessoas compreendam como essas decisões foram tomadas.
  • Exemplo
    • Entender a razão pela qual um empréstimo bancário não foi autorizado.
    • Houve influência de gênero ou raça?
    • O que a pessoa pode fazer para conseguir o empréstimo?

15 of 30

Transparência na IA

15

Interpretabilidade é a explicação clara e útil desse funcionamento, para que se possa identificar erros, vieses ou resultados injustos.

16 of 30

Transparência e interpretabilidade

  • 📊 Transparência é poder entender o processo.�
  • 🧩 Interpretabilidade é poder explicar o porquê.�
  • 🚨 Sem transparência, não há confiança.

17 of 30

Tomada de decisões

18 of 30

Como a IA toma decisões?

  1. Um modelo explicável permite entender como chegou à sua decisão.
    1. Conseguimos dizer por que o sistema decidiu algo.�
  2. Um modelo caixa-preta gera resultados sem revelar seu raciocínio interno.
    • Apenas vemos o resultado final.

​

19 of 30

Como a IA toma decisões?

Tipo de Modelo

O que faz

O que conseguimos entender

Exemplo

Explicável

Mostra o raciocínio ou as variáveis usadas.

Podemos identificar o peso de cada fator.

Uma árvore de decisão que mostra os critérios para conceder crédito.

Caixa-preta

Usa milhões de conexões e cálculos complexos.

Não conseguimos rastrear como chegou ao resultado.

Uma rede neural profunda que avalia perfis de crédito sem mostrar o porquê.

20 of 30

Debate

  • Imagine um grande banco que possui ferramentas automáticas de classificar o risco de crédito dos clientes.�
  • Imagine que seja descoberto que o algoritmo de um desse banco considera a raça e o gênero de nascimento da pessoa durante o processo de classificação risco.

21 of 30

Debate

  • O algoritmo então determinará se uma pessoa poderá financiar uma casa e quais taxas de juros devem ser empregadas para essa pessoa.�
  • Quem é o responsável pelo racismo?
    • A ferramenta?
    • O banco que emprega a ferramenta?
    • Ou quem desenvolveu a ferramenta?

22 of 30

Debate

  • E se o modelo “decidiu” sozinho que raça ou gênero importam?�
  • Mesmo que ninguém tenha programado isso diretamente, ainda há responsabilidade.�
  • Responsabilidade não é apenas sobre intenção, mas sobre consequência.

​

23 of 30

Debate

  • Se a IA de um carro autônomo prevê que um acidente acontecerá, ela deve priorizar a vida do motorista ou de pedestres? �
  • Ela tem capacidade moral de fazer esses julgamentos?

24 of 30

Debate

  • Suponha que exista uma IA que julga casos jurídicos automaticamente.�
  • De quem é a responsabilidade se esse sistema condenar um inocente?
    • Dos programadores?
    • Das pessoas que coletaram os dados para treinar o modelo?
    • Da instituição que usa o modelo?

​

25 of 30

Referências

26 of 30

Referências

[1] DE PÁDUA, S. R. .; MENESES LORENZETTO, B. . O direito fundamental à explicabilidade da inteligência artificial utilizada em decisões estatais. Revista da AGU, v. 23, n. 02, 2024. Disponível em: <https://revistaagu.agu.gov.br/index.php/AGU/article/view/3480>. Acesso em: 6 set. 2024.

[2] COECKELBERGH, M. Artificial Intelligence, Responsibility Attribution, and a Relational Justification of Explainability. Science and Engineering Ethics, v. 26, p. 2051–2068, 2020).

[3] FERREIRA, G. Inteligência Artificial, Explicabilidade e Responsabilidade. 30 de set. de 2020. Disponível em: <https://visoesperifericas.blog/2020/09/30/inteligencia-artificial-explicabilidade-e-responsabilidade/>. Acesso em: 6 set. 2024.

[4] SILVA, F. da C.; SANTANA, A. M. Explicabilidade dos modelos de aprendizado de máquina no cenário educacional: uma revisão sistemática. Revista Novas Tecnologias na Educação, Porto Alegre, v. 22, n. 1, p. 477–486, 2024. Disponível em: <https://seer.ufrgs.br/index.php/renote/article/view/141573>. Acesso em: 6 de set. de 2024.

​

27 of 30

Referências

[6] GAYHARDT, L., FRANKS, L., Polly, S. O que é a IA responsável? 09 de set. de 2024. Disponível em <https://learn.microsoft.com/pt-br/azure/machine-learning/concept-responsible-ai?view=azureml-api-2>. Acessado em: 08 de nov. de 2024.

[7] MARTINO, J. Algoritmos evolutivos como método para desenvolvimento de projetos de arquitetura. 10.13140/RG.2.2.21169.38240. Campinas 2015. Tese de Doutorado. Acessado em 08 de nov. de 2024.

[8] "agência", em Dicionário Priberam da Língua Portuguesa [em linha], 2008-2024, Disponível em <https://dicionario.priberam.org/ag%C3%AAncia>. Acessado em 08 de nov. de 2024.

​

28 of 30

Produção do Material

  • Universidade Federal da Bahia (UFBA)�
  • Universidade do Estado da Bahia (UNEB)�
  • SENAI/CIMATEC�
  • Universidade Estadual de Feira de Santana (UEFS)�
  • Universidade Estadual do Sudoeste da Bahia (UESB)�
  • Universidade Estadual de Santa Cruz (UESC)�
  • Instituto Federal Baiano (IFBaiano)

28

29 of 30

Apoio

30 of 30

Apoio

30