Viés Algorítmico e Discriminação

​

O que é Viés?

Viés acontece quando alguém (ou um algoritmo) trata um grupo de forma diferente de outro, de um jeito injusto ou desequilibrado.

Exemplos:

• Achar que “meninas não gostam de futebol” → viés social
• Ouvir uma história de uma pessoa e já supor algo sobre ela → viés de julgamento

2

O que é Viés Algorítmico?

Viés algorítmico acontece quando um sistema de IA aprende padrões injustos dos dados e toma decisões erradas ou discriminatórias.

Exemplos:

• Ao assistir somente vídeos de um estilo no TikTok, o algoritmo passa a mostrar só aquilo!
• Reconhecimento facial que funciona pior para pessoas negras por ter sido treinado com poucas imagens desse grupo.

3

O que é Viés Algorítmico?

• Por que isso acontece?
• Dados históricos com desigualdades
• Erros na coleta ou seleção de dados
• Falta de diversidade nos dados
• Falhas no design do programa
• Exemplo:
• Se os dados de contratação no passado favoreceram homens, o algoritmo pode repetir essa injustiça no futuro.

4

Como o viés surge nos dados

• Dados incompletos
• O algoritmo aprende só com parte da realidade
• Exemplos:
• Banco de imagens com poucas fotos de mulheres negras
• Dados de saúde coletados só em hospitais privados
• Cadastro de vagas coletado só em grandes cidades

5

Como o viés surge nos dados

• Dados enviesados
• O algoritmo repete a mesma injustiça
• Exemplos:
• Histórico de contratações que favorece mais homens que mulheres
• Registros policiais concentrados em certas regiões mais vigiadas
• Notas escolares avaliadas de forma desigual

6

Como o viés surge nos dados

• Dados desatualizados
• A realidade mudou, mas os dados não acompanharam
• Exemplos:
• Previsão de dengue baseada em clima de 5 anos atrás
• Dados de turismo antes da pandemia

7

Como o viés surge nos dados

• Cherry picking é escolher só as informações que favorecem o resultado desejado.
• Isso causa viés nos dados → algoritmos aprendem errado.

8

Exemplo cotidiano:

• Só entrevistar pessoas de um bairro e dizer que “toda a cidade pensa assim”.

A Importância dos dados no algoritmo

Tay.IA: Chatbot da Microsoft

• Tay era um robô que “aprendia sozinha” conversando no X, antigo Twitter.
• Mas como ela conversou com pessoas que enviaram mensagens agressivas e preconceituosas, ela passou a repetir esse comportamento.
• Aprendizado adquirido: Se os dados são ruins, o algoritmo fica ruim também.

​

9

Fonte das imagens: https://en.wikipedia.org/wiki/Tay_(chatbot)

"Se você aprender só com gente má, vai aprender coisas ruins."

Foto do perfil do Tay.AI

A Importância dos dados no algoritmo

• Algoritmos classificam dados analisando as características semelhantes entre os dados
• Se um algoritmo não entende bem as diferenças entre os dados, pode tomar decisões erradas.
• Dados confusos → sistema confuso

10

A Importância dos dados no algoritmo

• Imagine confundir um morango verde com um morango maduro só porque ele está parcialmente vermelho.

11

Fonte da imagem: https://cgreenag.com/agronomic-data/fruit-strawberry-yield-california.html

1

Totalmente Vermelho

4

Verde Avermelhado

2

Branco

Esverdeado

3

Totalmente

Verde

Medindo a diferença entre os dados

Que tal rever a aula de Distância Euclidiana em Aprendizado Supervisionado?

Fica a Dica!

Impactos éticos e sociais do viés algorítmico

• Justiça e equidade
• Algoritmos podem reforçar desigualdade racial, econômica ou de gênero.
• Liberdade e autonomia
• Se um algoritmo toma decisões sem explicação, reduz autonomia das pessoas.
• Dignidade humana
• Erros podem gerar humilhação, exclusão ou acesso desigual a serviços.
• Solidariedade e confiança
• Se a sociedade percebe injustiças, diminui a confiança na IA.

13

Como identificar o viés

• Testar o modelo separadamente para diferentes grupos
• Comparar acertos, erros e falsos positivos
• Verificar os dados
• Exemplo prático:
• Se o reconhecimento facial erra muito em um grupo, pode haver viés!

14

Fixando o conteúdo…

Atividade e Discussão

Atividade: Assistir ao filme “Coded Bias” e realizar a atividade descrita no próximo slide.

​

​

16

“Se o algoritmo não aprende sobre todos, ele não trata todos por igual.”

Atividade e Discussão

Instruções: �

• Cada grupo de 3 a 5 alunos, deve escolher somente um dos casos apresentados no filme:
• Reconhecimento facial com viés racial
• Algoritmos de risco criminal
• Algoritmos de vigilância e privacidade
• Impactos no acesso à moradia, crédito ou emprego

​

​

Atividade e Discussão

Cada grupo deverá:

• Identificar o viés
• Qual é o viés?
• Quem é prejudicado? Quem se beneficia?
• Analisar impacto social
• Qual direito foi afetado? Como isso pode aumentar desigualdade?

Atividade e Discussão

Que tal rever as aulas sobre Ética e Governança?

Fica a Dica!

Atividade e Discussão

• Relacionar com ética e governança
• Qual princípio ético foi violado?� (ex.: justiça, transparência, dignidade, responsabilidade…)
• A LGPD ou ANPD ajudariam? Como?
• Propor soluções
• O que poderia ser feito para o algoritmo ser menos injusto?
• Quem deveria fiscalizar o sistema?
• Que tipo de lei ajudaria?
• Aconteceu algum caso semelhante na sua cidade?

Fechamento

• Viés é uma distorção que pode ser aprendida por pessoas ou máquinas.�
• Algoritmos podem reproduzir preconceitos se forem treinados com dados enviesados.�
• Exemplo da Tay mostra que IA pode aprender comportamentos problemáticos.�
• Precisamos entender como as técnicas funcionam para evitar injustiças digitais.

​

21

Referências

7 - Referências

[1] SIGNIFICADOS, E. E. Viés. Disponível em: <https://www.significados.com.br/vies/>. Acesso em: 6 de ago. de 2024.

[2] CELESTINO, A. GIGO - Garbage In, Garbage Out - André Celestino. Disponível em: <https://www.andrecelestino.com/gigo-garbage-in-garbage-out/>. Acesso em: 6 de ago. de 2024.

[3] CANO, R. J. O robô racista, sexista e xenófobo da Microsoft acaba silenciado. Disponível em: <https://brasil.elpais.com/brasil/2016/03/24/tecnologia/1458855274_096966.html>. Acesso em: 6 de ago. de 2024.

[4] NYLAND, J. J. A. O. L. Racismo algorítmico: uma revisão de literatura. Research, Society and Development, v. 12, n. 2, e1912239907, 2023.

[5] AZEVEDO, E. C. A., HECK, S. M. Algoritmos Racistas: Uma Discussão Sobre Tecnologia e Racismo. Trabalho de Conclusão de Curso – Curso Técnico em Informática Integrado do Ensino Médio do Instituto Federal do Paraná, Paraná, 2023.

[6] CODED BIAS. Direção de Shalini Kantayya. Produção de Shalini Kantayya. Estados Unidos, Netflix, 2020, Streaming. Disponível em: <https://www.netflix.com/watch/81328723>. Acesso em: 6 de ago. de 2024.

[7] COSTA, D. C. A Discriminação Algorítmica e as Novas Perspectivas sobre o Tratamento de Dados Pessoais Sensíveis. Proteção de dados pessoais: novas perspectivas. Disponível em: < https://repositorio.ufba.br/handle/ri/35799>. Acesso em: 06 de set. de 2024.

​

23

Produção do Material

• Universidade Federal da Bahia (UFBA)�
• Universidade do Estado da Bahia (UNEB)�
• SENAI/CIMATEC�
• Universidade Estadual de Feira de Santana (UEFS)�
• Universidade Estadual do Sudoeste da Bahia (UESB)�
• Universidade Estadual de Santa Cruz (UESC)�
• Instituto Federal Baiano (IFBaiano)

24

Apoio

Apoio

26