Objetivos

1. Para que serve machine learning?
2. Como redes neurais funcionam?
3. O que são LLMs?

​

​

O que é machine learning? | Funções

O que é machine learning? | Funções

• Mercado Financeiro
• Clima
• Vendas
• Linguagem

Qual o objetivo? | Aproximar funções

• Uma vez tendo dados de fenômenos passados, encontrar uma aproximação para uma função que descreve o comportamento d

Tipos de Aprendizado

Supervised

Learning

Unsupervised Learning

Reinforcement

Learning

O que são Redes Neurais? | Exemplo

Probabilidade de sair de casa no final de semana para ir em algum local.

• Temperatura
• Probabilidade de Chuva
• Distância de transporte público

O que são Redes Neurais? | Neurônio

f(x)

Temperatura (x₁)

Possibilidade

de Chuva (x₂)

Distância de

transporte público (x₃)

Probabilidade de sair (y)

O que são Redes Neurais? | Neurônio

f(x)

Temperatura (x₁)

Possibilidade

de Chuva (x₂)

Distância de

transporte publico (x₃)

Probabilidade de sair (y)

w₁

w₂

w₃

O que são Redes Neurais? | Aprendizado

f(x)

Temperatura (x₁)

Possibilidade

de Chuva (x₂)

Distância de

transporte publico (x₃)

Probabilidade de sair (y)

w₁

w₂

w₃

1. x₁= 23^oC x₂ = 20% x₃ = 100m => y = 96%
2. x₁= 10^oC x₂ = 40% x₃ = 1000m => y = 26%
3. x₁= -1^oC x₂ = 5% x₃ = 50m => y = 2%
4. x₁= 18^oC x₂ = 85% x₃ = 10m => y = 64%

O que são Redes Neurais? | Aprendizado

1. x₁= 23^oC x₂ = 20% x₃ = 100m => y = 96%
2. x₁= 10^oC x₂ = 40% x₃ = 1000m => y = 26%
3. x₁= -1^oC x₂ = 5% x₃ = 50m => y = 2%
4. x₁= 18^oC x₂ = 85% x₃ = 10m => y = 64%

53%

O que são Redes Neurais? | Aprendizado

1. x₁= 23^oC x₂ = 20% x₃ = 100m => y = 96%
2. x₁= 10^oC x₂ = 40% x₃ = 1000m => y = 26%
3. x₁= -1^oC x₂ = 5% x₃ = 50m => y = 2%
4. x₁= 18^oC x₂ = 85% x₃ = 10m => y = 64%

53%

96%

O que são Redes Neurais? | Aprendizado

1. x₁= 23^oC x₂ = 20% x₃ = 100m => y = 96%
2. x₁= 10^oC x₂ = 40% x₃ = 1000m => y = 26%
3. x₁= -1^oC x₂ = 5% x₃ = 50m => y = 2%
4. x₁= 18^oC x₂ = 85% x₃ = 10m => y = 64%

Erro(96%, 53%)

O que são Redes Neurais? | Aprendizado

1. x₁= 23^oC x₂ = 20% x₃ = 100m => y = 96%
2. x₁= 10^oC x₂ = 40% x₃ = 1000m => y = 26%
3. x₁= -1^oC x₂ = 5% x₃ = 50m => y = 2%
4. x₁= 18^oC x₂ = 85% x₃ = 10m => y = 64%

Erro(96%, 79%)

O que são Redes Neurais? | Aprendizado

1. x₁= 23^oC x₂ = 20% x₃ = 100m => y = 96%
2. x₁= 10^oC x₂ = 40% x₃ = 1000m => y = 26%
3. x₁= -1^oC x₂ = 5% x₃ = 50m => y = 2%
4. x₁= 18^oC x₂ = 85% x₃ = 10m => y = 64%

Erro(96%, 94%)

O que são Redes Neurais? | Aprendizado

1. x₁= 23^oC x₂ = 20% x₃ = 100m => y = 96%
2. x₁= 10^oC x₂ = 40% x₃ = 1000m => y = 26%
3. x₁= -1^oC x₂ = 5% x₃ = 50m => y = 2%
4. x₁= 18^oC x₂ = 85% x₃ = 10m => y = 64%

Erro(96%, 96%) = 0

O que são Redes Neurais? | Aprendizado

1. x₁= 23^oC x₂ = 20% x₃ = 100m => y = 96%
2. x₁= 10^oC x₂ = 40% x₃ = 1000m => y = 26%
3. x₁= -1^oC x₂ = 5% x₃ = 50m => y = 2%
4. x₁= 18^oC x₂ = 85% x₃ = 10m => y = 64%

Aproxima a função que descreve o comportamento a partir do ajuste de pesos da rede.

Como captar mais detalhes? | Adicionando Neurônios

f₂(x)

Temperatura (x₁)

Possibilidade

de Chuva (x₂)

Distância de

transporte publico (x₃)

f₃(x)

f₁(x)

f₄(x)

Como captar mais detalhes? | Adicionando layers

f₂(x)

Temperatura (x₁)

Possibilidade

de Chuva (x₂)

Distância de

transporte publico (x₃)

f₃(x)

f₁(x)

f₅(x)

f₆(x)

f₄(x)

f₈(x)

f₉(x)

f₇(x)

Como captar mais detalhes? | Adicionando layers

f₂(x)

Temperatura (x₁)

Possibilidade

de Chuva (x₂)

Distância de

transporte publico (x₃)

f₃(x)

f₁(x)

f₅(x)

f₆(x)

f₄(x)

f₈(x)

f₉(x)

f₇(x)

W_i

Deep Learning | Layers

Tamanho da rede | Quanto mais neurônios e layers melhor?

• Muitos neurônios e layers: O treinamento torna a rede totalmente acoplada aos exemplos prévios, tornando-a incapaz de prever cenários nunca antes vistos.
• Overfitting

​

• Poucos neurônios e layers: O treinamento captura poucas variáveis dos dados de exemplo, sendo mais difícil de prever outros cenários e captar pequenas variações.
• Underfitting

O que é um LM? | Modelagem estatística da linguagem

Hoje o [redacted] foi oficialmente <??>

max(P(próximo termo | termos anteriores)) = "lançado"

Qual o elemento químico com número atômico 6?

​

max(P(resposta | contexto)) = "carbono"

Qual o primeiro LM? | Claude Shannon (1948)

Qual o primeiro LM? | Claude Shannon (1948)

Autocomplete | Language Model Comum

Modelagem Estatística | Como construímos esse modelo?

Hoje o [redacted] foi oficialmente lançado pro mundo.

​

Fizemos o lançamento do [redacted] hoje.

Universo

de

Sentenças

Cadeia de Markov | Language Model Comum

Matriz de Probabilidades | Language Model Comum

Problema | Apenas utilizando o termo anterior

Contexto | Como gerar frases com sentido?

Hoje o [redacted] foi oficialmente <??>

Matriz de Probabilidades | Contexto

Número de palavras na língua portuguesa: 370 000

• 1 palavra: (370 000)² = 1 * 10¹¹
• 2 palavras: (370 000)³ = 5 * 10¹⁶
• 3 palavras: (370 000)⁴ = 2 * 10²²

^.

^.

^.

Mais do que 5 palavras:

• Número de elementos maior que o número de atómos no universo (7 * 10²⁷)

Atenção | Attention is All You Need (2017)

Atenção | Foco em termos específicos do input

Treinamento | Como treinar o modelo?

Hoje o [redacted] foi <??> lançado pro mundo.

​

Fizemos o <??> do [redacted] hoje.

Treinamento | Como treinar o modelo?

Hoje o [redacted] foi <??> lançado pro mundo.

​

Fizemos o <??> do [redacted] hoje.

Hoje o [redacted] foi jorge lançado pro mundo.

​

Fizemos o lançamento do [redacted] hoje.

Treinamento | Como treinar o modelo?

Hoje o [redacted] foi <??> lançado pro mundo.

​

Fizemos o <??> do [redacted] hoje.

Hoje o [redacted] foi jorge lançado pro mundo.

​

Fizemos o lançamento do [redacted] hoje.

Treinamento | Como treinar o modelo?

Hoje o [redacted] foi <??> lançado pro mundo.

​

Fizemos o <??> do [redacted] hoje.

Hoje o [redacted] foi jorge lançado pro mundo.

​

Fizemos o lançamento do [redacted] hoje.

Modelo

Atualização

do pesos

Treinamento | GPT-3

• CommonCrawl (60%)
• WebText2 (22%)
• Wikipedia (3%)
• Livros (15%)

Embedding

0.35

0.24

.

.

.

0.87

0.18

0.43

.

.

.

0.07

"Academy"

Rede Neural com

96 Layers

Treinamento | Atualização de pesos

Limite de Input | GPT-3

Tokenização | Tokenização por palavras

• O português possui 360 mil palavras. Isso gera um vocabulário enorme.
• Quanto maior o tamanho do vocabulário, maior será o número de conexões necessárias.
• Palavras praticamente iguais como "garoto" e "garotos" recebem tokens completamente diferentes.
• Palavras digitadas erradas contam como um token inválido (fora do vocabulário). Ex: "principlamente" ("principalmente").

Tokens | Sub-word (GPT)

Hoje o [redacted] foi oficialmente lançado pro mundo.

Tokens | GPT

Hoje o [redacted] foi oficialmente lançado pro mundo.

• A separação em tokens limita o número de inputs e conexões da rede neural.
• Facilita a predição em múltiplas linguagens.
• Performa melhor em cenários com palavras nunca antes vistas e erros de ortografia.

Tokens | GPT

Como o modelo evolui? | Ajuste de pesos

tyntd-iafhatawiaoihrdemot lytdws e ,tfti, astai f ogoh eoase rrranbyne 'nhthnee e

plia tklrgd t o idoe ns,smtt h ne etie h,hregtrs nigtike,aoaenns lng

"Tmont thithey" fomesscerliund

Keushey. Thom here

sheulke, anmerenith ol sivh I lalterthend Bleipile shuwy fil on aseterlome

coaniogennc Phe lism thond hon at. MeiDimorotion in ther thize."

​

100 iterações

300 iterações

Como o modelo evolui? | Ajuste de pesos

we counter. He stutn co des. His stanted out one ofler that concossions and was

to gearang reay Jotrets and with fre colt otf paitt thin wall. Which das stimn

Aftair fall unsuch that the hall for Prince Velzonski's that me of

her hearly, and behs to so arwage fiving were to it beloge, pavu say falling misfort

how, and Gogition is so overelical and ofter.

​

​

500 iterações

700 iterações

Como o modelo evolui? | Ajuste de pesos

"Kite vouch!" he repeated by her

door. "But I would be done and quarts, feeling, then, son is people...."

​

"Why do what that day," replied Natasha, and wishing to himself the fact the

princess, Princess Mary was easier, fed in had oftened him.

Pierre aking his soul came to the packs and drove up his father-in-law women.

​

​

​

1200 iterações

2000 iterações

Reinforcement Learning | Refinamento do modelo

LLM