Week 2 · Lesson 3 · 45-60 minutos
Conserte o conjunto de dados
Brinque de detetive de dados: cace duplicatas, rótulos incorretos e categorias desequilibradas, e conserte tudo para que um modelo possa aprender um padrão justo e preciso.
- Materials
- Esta aula em um navegador web · Papel e lápis, ou um aplicativo de notas · O conjunto de dados bagunçado já incluído que aparece nesta aula
- This lesson
- In progress
Auto-saves on this device
What you'll be able to do
- Perceber problemas comuns de dados: duplicatas, rótulos incorretos e categorias desequilibradas.
- Explicar como cada problema pode prejudicar a acurácia ou a justiça de um modelo.
- Consertar um conjunto de dados pequeno para que os exemplos fiquem corretos e as categorias equilibradas.
Think about it
Um aluno está ensinando um modelo a diferenciar maçãs de bananas. A tabela dele tem 18 maçãs e só 2 bananas, uma banana está copiada três vezes, e uma maçã foi rotulada como "banana" por engano. O que pode dar errado quando o modelo aprender com isso?
No fim da aula você vai conseguir nomear e consertar os três problemas.
Make a prediction
Preveja: se um conjunto de dados tem 18 maçãs e só 2 bananas, qual categoria você acha que o modelo vai aprender melhor, e por quê?
Vocabulary
See the full course vocabulary- Dados equilibrados
- Um conjunto de dados em que cada categoria tem uma quantidade justa e mais ou menos igual de exemplos, para o modelo aprender bem todas as categorias.
- Duplicata
- Um exemplo que aparece mais de uma vez no conjunto de dados, o que pode fazer o modelo se concentrar demais naquele caso repetido.
- Rótulo incorreto
- Um exemplo que recebeu a resposta errada, como uma banana rotulada "maçã", o que ensina ao modelo um padrão falso.
- Acurácia
- A proporção de exemplos que um modelo rotula corretamente; dados ruins normalmente a diminuem.
- Generalização
- O quanto um modelo funciona bem com exemplos novos; dados limpos e equilibrados ajudam um modelo a generalizar.
Duplicatas: o mesmo exemplo contado duas vezes
Uma duplicata é um exemplo que aparece mais de uma vez. Pode parecer inofensivo, mas uma linha duplicada faz o modelo tratar aquele único caso como se fossem muitos, dando peso demais a ele.
Se uma banana idêntica aparece três vezes, o modelo pode se concentrar demais naquela banana específica em vez de aprender como as bananas são no geral. Tirar as duplicatas faz cada exemplo real contar uma vez só.
- A linha idêntica da banana copiada três vezes na tabela
- A mesma foto colada duas vezes em um conjunto de dados
Rótulos incorretos: a resposta errada ensina o padrão errado
Um rótulo incorreto é um exemplo marcado com a categoria errada, como uma maçã rotulada "banana" sem querer. Como o modelo confia nos rótulos como se fossem a verdade, um rótulo errado ensina a ele um padrão falso.
Até uns poucos rótulos incorretos podem baixar a acurácia, porque o modelo tenta satisfazer respostas que nunca estiveram certas. Consertar um rótulo é trocá-lo pela categoria correta (ou tirar o exemplo, se você não conseguir saber).
- Uma fruta redonda e vermelha rotulada "banana"
- A foto de um gato rotulada "cachorro" em um conjunto de dados de animais
Dados equilibrados: dê a cada categoria uma parte justa
Dados equilibrados quer dizer que cada categoria tem uma quantidade justa e mais ou menos igual de exemplos. Se um conjunto de dados tem 18 maçãs mas só 2 bananas, o modelo vê muito mais maçãs e pode quase não aprender como é uma banana, então ele chuta "maçã" com frequência demais.
Equilibrar as categorias, seja reunindo mais exemplos de banana, seja reduzindo as maçãs, ajuda o modelo a aprender todas as categorias e a generalizar com justiça. Dados limpos, corretos e equilibrados são a base de um modelo preciso.
- 10 maçãs e 10 bananas é mais equilibrado que 18 maçãs e 2 bananas
- Um modelo treinado principalmente com uma categoria tende a prever demais essa categoria
Worked example
Consertando passo a passo uma tabela de frutas bagunçada
- Comece com uma tabela bagunçada: 18 maçãs e 2 bananas, uma linha de banana copiada três vezes, e uma maçã rotulada como "banana".
- Ache as duplicatas: a banana idêntica aparece três vezes, então tire duas cópias e fique com uma.
- Conserte os rótulos incorretos: a fruta redonda e vermelha rotulada "banana" é na verdade uma maçã, então mude o rótulo dela para "maçã".
- Confira o equilíbrio: agora as categorias estão bem desiguais, então acrescente mais exemplos reais de banana até que maçãs e bananas fiquem mais ou menos parelhas.
- Resultado: um conjunto de dados limpo, corretamente rotulado e equilibrado, com que o modelo pode aprender um padrão justo.
Takeaway: Conserte um conjunto de dados tirando duplicatas, corrigindo rótulos errados e equilibrando as categorias antes que um modelo aprenda com ele.
Values shown in exemplos.
Um gráfico de barras de quantos exemplos cada categoria tem, contados em exemplos. Antes do conserto: Maçã 18, Banana 2, bem desequilibrado. Depois do conserto: Maçã 10, Banana 10, equilibrado. Equilibrar as categorias dá ao modelo uma chance justa de aprender as duas frutas em vez de prever maçã demais.
| Problema | Como consertar | Por que importa |
|---|---|---|
| Duplicata | Tirar as cópias a mais | Um único caso ganha peso demais |
| Rótulo incorreto | Trocá-lo pela categoria correta | Uma resposta errada ensina um padrão falso |
| Categorias desequilibradas | Acrescentar à categoria pequena ou reduzir a grande | O modelo aprende de menos a categoria rara |
Uma tabela ligando cada problema de dados ao conserto dele e ao motivo de isso importar. Duplicata: um exemplo repetido; conserta-se tirando as cópias a mais; importa porque dá peso demais a um único caso. Rótulo incorreto: resposta errada em um exemplo; conserta-se corrigindo o rótulo; importa porque ensina um padrão falso. Categorias desequilibradas: uma categoria tem muito mais exemplos; conserta-se acrescentando à categoria menor ou reduzindo a maior; importa porque o modelo aprende de menos a categoria rara.
Activity
Conserte o conjunto de dados defeituoso
Consertar um conjunto de dados bagunçado de frutas espaciais (tirar duplicatas, corrigir rótulos errados e melhorar o equilíbrio) e depois rodar o modelo de novo e comparar antes e depois.
- Inspect the flawed dataset. Remove duplicate rows and fix any labels that look wrong.
- Improve the balance by adding more examples of the under-represented category.
- The testing fruit stays hidden and unchanged. Check and re-run the model to compare before and after.
Rows
18
Safe / Not safe
14 / 4
Duplicate rows
4
Wrong labels
?
Duplicate rows are detected automatically (identical features). Wrong labels stay hidden until you check — investigate first. The 8 testing fruit are held back and never edited here.
| Fruit | Color | Shape | Texture | Grows in | Seeds | Sweetness | Glow level | Size | Label / remove |
|---|---|---|---|---|---|---|---|---|---|
| DawnberryDuplicate of Dawnberry (copy) | crimson | round | smooth | canopy | 6 | 8 | 0 | 10 cm | |
| Sandplum | amber | oval | bumpy | dune | 4 | 7 | 1 | 8 cm | |
| Tidefruit | teal | round | fuzzy | reef | 8 | 9 | 0 | 12 cm | |
| Emberpear | crimson | oval | smooth | canopy | 5 | 6 | 2 | 9 cm | |
| Dunedrop | amber | round | bumpy | dune | 3 | 7 | 1 | 7 cm | |
| Canopyfig | teal | oval | fuzzy | canopy | 7 | 8 | 0 | 11 cm | |
| Redgourd | crimson | round | smooth | dune | 6 | 5 | 2 | 10 cm | |
| Reefplum | amber | oval | fuzzy | reef | 4 | 9 | 1 | 8 cm | |
| Greenpod | teal | round | bumpy | canopy | 9 | 6 | 0 | 13 cm | |
| Amberbud | amber | round | fuzzy | canopy | 2 | 7 | 2 | 6 cm | |
| StarflareDuplicate of Starflare (copy) | violet | star | spiky | crater | 2 | 3 | 4 | 5 cm | |
| Glowcoil | azure | spiral | bumpy | cavern | 1 | 2 | 5 | 4 cm | |
| Dawnberry (copy)Duplicate of Dawnberry | crimson | round | smooth | canopy | 6 | 8 | 0 | 10 cm | |
| Starflare (copy)Duplicate of Starflare | violet | star | spiky | crater | 2 | 3 | 4 | 5 cm | |
| Voidstar | violet | spiral | smooth | crater | 0 | 3 | 5 | 5 cm | |
| Thornstar | azure | star | spiky | cavern | 3 | 2 | 2 | 5 cm | |
| Cavernglow | azure | star | bumpy | cavern | 2 | 1 | 4 | 7 cm | |
| Sweetreef | teal | oval | smooth | reef | 6 | 9 | 0 | 10 cm |
Dawnberry
Duplicate of Dawnberry (copy)- Color
- crimson
- Shape
- round
- Texture
- smooth
- Grows in
- canopy
- Seeds
- 6
- Sweetness
- 8
- Glow level
- 0
- Size
- 10 cm
Sandplum
- Color
- amber
- Shape
- oval
- Texture
- bumpy
- Grows in
- dune
- Seeds
- 4
- Sweetness
- 7
- Glow level
- 1
- Size
- 8 cm
Tidefruit
- Color
- teal
- Shape
- round
- Texture
- fuzzy
- Grows in
- reef
- Seeds
- 8
- Sweetness
- 9
- Glow level
- 0
- Size
- 12 cm
Emberpear
- Color
- crimson
- Shape
- oval
- Texture
- smooth
- Grows in
- canopy
- Seeds
- 5
- Sweetness
- 6
- Glow level
- 2
- Size
- 9 cm
Dunedrop
- Color
- amber
- Shape
- round
- Texture
- bumpy
- Grows in
- dune
- Seeds
- 3
- Sweetness
- 7
- Glow level
- 1
- Size
- 7 cm
Canopyfig
- Color
- teal
- Shape
- oval
- Texture
- fuzzy
- Grows in
- canopy
- Seeds
- 7
- Sweetness
- 8
- Glow level
- 0
- Size
- 11 cm
Redgourd
- Color
- crimson
- Shape
- round
- Texture
- smooth
- Grows in
- dune
- Seeds
- 6
- Sweetness
- 5
- Glow level
- 2
- Size
- 10 cm
Reefplum
- Color
- amber
- Shape
- oval
- Texture
- fuzzy
- Grows in
- reef
- Seeds
- 4
- Sweetness
- 9
- Glow level
- 1
- Size
- 8 cm
Greenpod
- Color
- teal
- Shape
- round
- Texture
- bumpy
- Grows in
- canopy
- Seeds
- 9
- Sweetness
- 6
- Glow level
- 0
- Size
- 13 cm
Amberbud
- Color
- amber
- Shape
- round
- Texture
- fuzzy
- Grows in
- canopy
- Seeds
- 2
- Sweetness
- 7
- Glow level
- 2
- Size
- 6 cm
Starflare
Duplicate of Starflare (copy)- Color
- violet
- Shape
- star
- Texture
- spiky
- Grows in
- crater
- Seeds
- 2
- Sweetness
- 3
- Glow level
- 4
- Size
- 5 cm
Glowcoil
- Color
- azure
- Shape
- spiral
- Texture
- bumpy
- Grows in
- cavern
- Seeds
- 1
- Sweetness
- 2
- Glow level
- 5
- Size
- 4 cm
Dawnberry (copy)
Duplicate of Dawnberry- Color
- crimson
- Shape
- round
- Texture
- smooth
- Grows in
- canopy
- Seeds
- 6
- Sweetness
- 8
- Glow level
- 0
- Size
- 10 cm
Starflare (copy)
Duplicate of Starflare- Color
- violet
- Shape
- star
- Texture
- spiky
- Grows in
- crater
- Seeds
- 2
- Sweetness
- 3
- Glow level
- 4
- Size
- 5 cm
Voidstar
- Color
- violet
- Shape
- spiral
- Texture
- smooth
- Grows in
- crater
- Seeds
- 0
- Sweetness
- 3
- Glow level
- 5
- Size
- 5 cm
Thornstar
- Color
- azure
- Shape
- star
- Texture
- spiky
- Grows in
- cavern
- Seeds
- 3
- Sweetness
- 2
- Glow level
- 2
- Size
- 5 cm
Cavernglow
- Color
- azure
- Shape
- star
- Texture
- bumpy
- Grows in
- cavern
- Seeds
- 2
- Sweetness
- 1
- Glow level
- 4
- Size
- 7 cm
Sweetreef
- Color
- teal
- Shape
- oval
- Texture
- smooth
- Grows in
- reef
- Seeds
- 6
- Sweetness
- 9
- Glow level
- 0
- Size
- 10 cm
Add examples to improve balance
These extra, correctly-labeled fruits are available to add. Adding more of the rare category helps the model learn it.
- Sparkstar — Not safe to eat. A 6 cm violet star fruit with smooth skin and 1 seeds, sweetness 4 of 10, glow level 3 of 5, growing in a crater.
- Coilspine — Not safe to eat. A 4 cm azure spiral fruit with spiky skin and 2 seeds, sweetness 2 of 10, glow level 1 of 5, growing in a cavern.
- Brightcoil — Not safe to eat. A 5 cm azure spiral fruit with bumpy skin and 1 seeds, sweetness 1 of 10, glow level 4 of 5, growing in a cavern.
- Thornflare — Not safe to eat. A 6 cm violet star fruit with spiky skin and 3 seeds, sweetness 3 of 10, glow level 2 of 5, growing in a crater.
- Duskstar — Not safe to eat. A 5 cm violet star fruit with fuzzy skin and 0 seeds, sweetness 4 of 10, glow level 3 of 5, growing in a crater.
- Nightcoil — Not safe to eat. A 4 cm azure spiral fruit with spiky skin and 2 seeds, sweetness 2 of 10, glow level 2 of 5, growing in a cavern.
- Meadowfig — Safe to eat. A 11 cm teal oval fruit with fuzzy skin and 7 seeds, sweetness 8 of 10, glow level 1 of 5, growing in a canopy.
- Sunplum — Safe to eat. A 9 cm amber oval fruit with smooth skin and 4 seeds, sweetness 8 of 10, glow level 2 of 5, growing in a dune.
The made-up classroom rule: A space fruit is Not safe to eat if it glows brightly (glow level 3 or more) OR it is spiky. Otherwise it is Safe to eat. “Wrong label” means the label does not match this rule — not a real-world fact.
Check your understanding
Responda a estas perguntas para conferir se você sabe achar e consertar problemas de dados.
Question 1. Quais destes são problemas que você deve consertar antes de treinar um modelo? Escolha todos que se aplicam.
Select all that apply.
Question 2. Decida se a afirmação é verdadeira ou falsa.
Um conjunto de dados com 18 maçãs e só 2 bananas está bem equilibrado.
Question 3. Coloque em uma ordem sensata os passos para consertar um conjunto de dados.
- 1.Examinar o conjunto de dados para achar problemas
- 2.Remover linhas duplicadas e corrigir rótulos errados
- 3.Equilibrar as categorias
- 4.Treinar o modelo de novo e conferir a acurácia dele
0 of 3 answered
Try it yourself
Quebre e depois conserte
Pegue um conjunto de dados pequeno e limpo, acrescente de propósito cada um dos três problemas, depois conserte tudo e descreva o efeito.
- Comece com um conjunto de dados pequeno, limpo e equilibrado, de duas categorias.
- Acrescente uma linha duplicada, mude um rótulo para ficar incorreto, e tire exemplos para que uma categoria fique bem maior.
- Agora conserte os três problemas e explique, para cada um, como o conserto deve ajudar a acurácia ou a justiça do modelo.
Success looks like
- Os três problemas são acrescentados de propósito e claramente marcados.
- Os três são consertados.
- Cada conserto tem um motivo ligado à acurácia ou à justiça.
Reflection
Saved on this device as you type
Please don't include private information. Your answers are saved only in this browser and are never sent anywhere.
Recap
Duplicatas, rótulos incorretos e categorias desequilibradas prejudicam um modelo; consertá-los produz dados limpos e equilibrados que melhoram a acurácia e ajudam o modelo a generalizar com justiça.
- Remova duplicatas para que nenhum exemplo receba peso demais.
- Corrija rótulos incorretos para o modelo não aprender um padrão falso.
- Equilibre as categorias para o modelo aprender cada uma e generalizar com justiça.
Grades 7–8 extension
Quando não dá para coletar mais dados
Equilibrar acrescentando mais exemplos da categoria rara é o ideal, mas às vezes não dá para coletar mais com facilidade. Outra opção é reduzir a categoria maior para as contagens baterem, embora isso signifique jogar fora alguns exemplos reais.
Para a tabela de frutas bagunçada, defenda qual abordagem você escolheria (acrescentar mais bananas ou tirar algumas maçãs) e explique que compromisso cada escolha traz para a acurácia e a justiça do modelo.
Finish this lesson
- Attempt the knowledge check — not done
- Save a reflection (recommended) — not done
Attempt the knowledge check to finish this lesson.