Semana 2 · Aula 3 · 45-60 minutos
Conserte o conjunto de dados
Brinque de detetive de dados: cace duplicatas, rótulos incorretos e categorias desequilibradas, e conserte tudo para que um modelo possa aprender um padrão justo e preciso.
- Materiais
- Esta aula em um navegador web · Papel e lápis, ou um aplicativo de notas · O conjunto de dados bagunçado já incluído que aparece nesta aula
- Esta aula
- Em andamento
Salva sozinho neste aparelho
O que você vai conseguir fazer
- Perceber problemas comuns de dados: duplicatas, rótulos incorretos e categorias desequilibradas.
- Explicar como cada problema pode prejudicar a acurácia ou a justiça de um modelo.
- Consertar um conjunto de dados pequeno para que os exemplos fiquem corretos e as categorias equilibradas.
Para pensar
Um aluno está ensinando um modelo a diferenciar maçãs de bananas. A tabela dele tem 18 maçãs e só 2 bananas, uma banana está copiada três vezes, e uma maçã foi rotulada como "banana" por engano. O que pode dar errado quando o modelo aprender com isso?
No fim da aula você vai conseguir nomear e consertar os três problemas.
Faça uma previsão
Preveja: se um conjunto de dados tem 18 maçãs e só 2 bananas, qual categoria você acha que o modelo vai aprender melhor, e por quê?
Vocabulário
Ver todo o vocabulário do curso- Dados equilibrados
- Um conjunto de dados em que cada categoria tem uma quantidade justa e mais ou menos igual de exemplos, para o modelo aprender bem todas as categorias.
- Duplicata
- Um exemplo que aparece mais de uma vez no conjunto de dados, o que pode fazer o modelo se concentrar demais naquele caso repetido.
- Rótulo incorreto
- Um exemplo que recebeu a resposta errada, como uma banana rotulada "maçã", o que ensina ao modelo um padrão falso.
- Acurácia
- A proporção de exemplos que um modelo rotula corretamente; dados ruins normalmente a diminuem.
- Generalização
- O quanto um modelo funciona bem com exemplos novos; dados limpos e equilibrados ajudam um modelo a generalizar.
Duplicatas: o mesmo exemplo contado duas vezes
Uma duplicata é um exemplo que aparece mais de uma vez. Pode parecer inofensivo, mas uma linha duplicada faz o modelo tratar aquele único caso como se fossem muitos, dando peso demais a ele.
Se uma banana idêntica aparece três vezes, o modelo pode se concentrar demais naquela banana específica em vez de aprender como as bananas são no geral. Tirar as duplicatas faz cada exemplo real contar uma vez só.
- A linha idêntica da banana copiada três vezes na tabela
- A mesma foto colada duas vezes em um conjunto de dados
Rótulos incorretos: a resposta errada ensina o padrão errado
Um rótulo incorreto é um exemplo marcado com a categoria errada, como uma maçã rotulada "banana" sem querer. Como o modelo confia nos rótulos como se fossem a verdade, um rótulo errado ensina a ele um padrão falso.
Até uns poucos rótulos incorretos podem baixar a acurácia, porque o modelo tenta satisfazer respostas que nunca estiveram certas. Consertar um rótulo é trocá-lo pela categoria correta (ou tirar o exemplo, se você não conseguir saber).
- Uma fruta redonda e vermelha rotulada "banana"
- A foto de um gato rotulada "cachorro" em um conjunto de dados de animais
Dados equilibrados: dê a cada categoria uma parte justa
Dados equilibrados quer dizer que cada categoria tem uma quantidade justa e mais ou menos igual de exemplos. Se um conjunto de dados tem 18 maçãs mas só 2 bananas, o modelo vê muito mais maçãs e pode quase não aprender como é uma banana, então ele chuta "maçã" com frequência demais.
Equilibrar as categorias, seja reunindo mais exemplos de banana, seja reduzindo as maçãs, ajuda o modelo a aprender todas as categorias e a generalizar com justiça. Dados limpos, corretos e equilibrados são a base de um modelo preciso.
- 10 maçãs e 10 bananas é mais equilibrado que 18 maçãs e 2 bananas
- Um modelo treinado principalmente com uma categoria tende a prever demais essa categoria
Exemplo resolvido
Consertando passo a passo uma tabela de frutas bagunçada
- Comece com uma tabela bagunçada: 18 maçãs e 2 bananas, uma linha de banana copiada três vezes, e uma maçã rotulada como "banana".
- Ache as duplicatas: a banana idêntica aparece três vezes, então tire duas cópias e fique com uma.
- Conserte os rótulos incorretos: a fruta redonda e vermelha rotulada "banana" é na verdade uma maçã, então mude o rótulo dela para "maçã".
- Confira o equilíbrio: agora as categorias estão bem desiguais, então acrescente mais exemplos reais de banana até que maçãs e bananas fiquem mais ou menos parelhas.
- Resultado: um conjunto de dados limpo, corretamente rotulado e equilibrado, com que o modelo pode aprender um padrão justo.
O essencial: Conserte um conjunto de dados tirando duplicatas, corrigindo rótulos errados e equilibrando as categorias antes que um modelo aprenda com ele.
Os valores estão em exemplos.
Um gráfico de barras de quantos exemplos cada categoria tem, contados em exemplos. Antes do conserto: Maçã 18, Banana 2, bem desequilibrado. Depois do conserto: Maçã 10, Banana 10, equilibrado. Equilibrar as categorias dá ao modelo uma chance justa de aprender as duas frutas em vez de prever maçã demais.
| Problema | Como consertar | Por que importa |
|---|---|---|
| Duplicata | Tirar as cópias a mais | Um único caso ganha peso demais |
| Rótulo incorreto | Trocá-lo pela categoria correta | Uma resposta errada ensina um padrão falso |
| Categorias desequilibradas | Acrescentar à categoria pequena ou reduzir a grande | O modelo aprende de menos a categoria rara |
Uma tabela ligando cada problema de dados ao conserto dele e ao motivo de isso importar. Duplicata: um exemplo repetido; conserta-se tirando as cópias a mais; importa porque dá peso demais a um único caso. Rótulo incorreto: resposta errada em um exemplo; conserta-se corrigindo o rótulo; importa porque ensina um padrão falso. Categorias desequilibradas: uma categoria tem muito mais exemplos; conserta-se acrescentando à categoria menor ou reduzindo a maior; importa porque o modelo aprende de menos a categoria rara.
Atividade
Conserte o conjunto de dados defeituoso
Consertar um conjunto de dados bagunçado de frutas espaciais (tirar duplicatas, corrigir rótulos errados e melhorar o equilíbrio) e depois rodar o modelo de novo e comparar antes e depois.
- Examine o conjunto de dados com falhas. Remova as linhas duplicadas e corrija os rótulos que parecerem errados.
- Melhore o equilíbrio acrescentando mais exemplos da categoria pouco representada.
- As frutas de teste continuam escondidas e sem mudança. Confira e rode o modelo de novo para comparar antes e depois.
Tamanho do conjunto de dados
18
Quantidade que pode / não pode
14 / 4
Linhas duplicadas
4
Rótulos errados
?
As linhas duplicadas são detectadas sozinhas (características idênticas). Os rótulos errados ficam escondidos até você conferir: investigue primeiro. As 8 frutas de teste ficam guardadas e nunca são editadas aqui.
| Nome da fruta | Cor | Formato | Textura | Cresce em | Sementes | Doçura | Nível de brilho | Tamanho | Rótulo / remover |
|---|---|---|---|---|---|---|---|---|---|
| Baga-da-auroraDuplicata de Baga-da-aurora (cópia) | carmesim | redondo | lisa | a copa da mata | 6 | 8 | 0 | 10 cm | |
| Ameixa-de-areia | âmbar | oval | cheia de bolinhas | uma duna | 4 | 7 | 1 | 8 cm | |
| Fruta-da-maré | verde-azulado | redondo | aveludada | um recife | 8 | 9 | 0 | 12 cm | |
| Pera-brasa | carmesim | oval | lisa | a copa da mata | 5 | 6 | 2 | 9 cm | |
| Gota-de-duna | âmbar | redondo | cheia de bolinhas | uma duna | 3 | 7 | 1 | 7 cm | |
| Figo-de-copa | verde-azulado | oval | aveludada | a copa da mata | 7 | 8 | 0 | 11 cm | |
| Abóbora-vermelha | carmesim | redondo | lisa | uma duna | 6 | 5 | 2 | 10 cm | |
| Ameixa-de-recife | âmbar | oval | aveludada | um recife | 4 | 9 | 1 | 8 cm | |
| Vagem-verde | verde-azulado | redondo | cheia de bolinhas | a copa da mata | 9 | 6 | 0 | 13 cm | |
| Broto-âmbar | âmbar | redondo | aveludada | a copa da mata | 2 | 7 | 2 | 6 cm | |
| Fulgor-estelarDuplicata de Fulgor-estelar (cópia) | violeta | de estrela | espinhosa | uma cratera | 2 | 3 | 4 | 5 cm | |
| Espiral-luminosa | azul-celeste | de espiral | cheia de bolinhas | uma caverna | 1 | 2 | 5 | 4 cm | |
| Baga-da-aurora (cópia)Duplicata de Baga-da-aurora | carmesim | redondo | lisa | a copa da mata | 6 | 8 | 0 | 10 cm | |
| Fulgor-estelar (cópia)Duplicata de Fulgor-estelar | violeta | de estrela | espinhosa | uma cratera | 2 | 3 | 4 | 5 cm | |
| Estrela-do-vazio | violeta | de espiral | lisa | uma cratera | 0 | 3 | 5 | 5 cm | |
| Estrela-de-espinhos | azul-celeste | de estrela | espinhosa | uma caverna | 3 | 2 | 2 | 5 cm | |
| Brilho-de-caverna | azul-celeste | de estrela | cheia de bolinhas | uma caverna | 2 | 1 | 4 | 7 cm | |
| Recife-doce | verde-azulado | oval | lisa | um recife | 6 | 9 | 0 | 10 cm |
Baga-da-aurora
Duplicata de Baga-da-aurora (cópia)- Cor
- carmesim
- Formato
- redondo
- Textura
- lisa
- Cresce em
- a copa da mata
- Sementes
- 6
- Doçura
- 8
- Nível de brilho
- 0
- Tamanho
- 10 cm
Ameixa-de-areia
- Cor
- âmbar
- Formato
- oval
- Textura
- cheia de bolinhas
- Cresce em
- uma duna
- Sementes
- 4
- Doçura
- 7
- Nível de brilho
- 1
- Tamanho
- 8 cm
Fruta-da-maré
- Cor
- verde-azulado
- Formato
- redondo
- Textura
- aveludada
- Cresce em
- um recife
- Sementes
- 8
- Doçura
- 9
- Nível de brilho
- 0
- Tamanho
- 12 cm
Pera-brasa
- Cor
- carmesim
- Formato
- oval
- Textura
- lisa
- Cresce em
- a copa da mata
- Sementes
- 5
- Doçura
- 6
- Nível de brilho
- 2
- Tamanho
- 9 cm
Gota-de-duna
- Cor
- âmbar
- Formato
- redondo
- Textura
- cheia de bolinhas
- Cresce em
- uma duna
- Sementes
- 3
- Doçura
- 7
- Nível de brilho
- 1
- Tamanho
- 7 cm
Figo-de-copa
- Cor
- verde-azulado
- Formato
- oval
- Textura
- aveludada
- Cresce em
- a copa da mata
- Sementes
- 7
- Doçura
- 8
- Nível de brilho
- 0
- Tamanho
- 11 cm
Abóbora-vermelha
- Cor
- carmesim
- Formato
- redondo
- Textura
- lisa
- Cresce em
- uma duna
- Sementes
- 6
- Doçura
- 5
- Nível de brilho
- 2
- Tamanho
- 10 cm
Ameixa-de-recife
- Cor
- âmbar
- Formato
- oval
- Textura
- aveludada
- Cresce em
- um recife
- Sementes
- 4
- Doçura
- 9
- Nível de brilho
- 1
- Tamanho
- 8 cm
Vagem-verde
- Cor
- verde-azulado
- Formato
- redondo
- Textura
- cheia de bolinhas
- Cresce em
- a copa da mata
- Sementes
- 9
- Doçura
- 6
- Nível de brilho
- 0
- Tamanho
- 13 cm
Broto-âmbar
- Cor
- âmbar
- Formato
- redondo
- Textura
- aveludada
- Cresce em
- a copa da mata
- Sementes
- 2
- Doçura
- 7
- Nível de brilho
- 2
- Tamanho
- 6 cm
Fulgor-estelar
Duplicata de Fulgor-estelar (cópia)- Cor
- violeta
- Formato
- de estrela
- Textura
- espinhosa
- Cresce em
- uma cratera
- Sementes
- 2
- Doçura
- 3
- Nível de brilho
- 4
- Tamanho
- 5 cm
Espiral-luminosa
- Cor
- azul-celeste
- Formato
- de espiral
- Textura
- cheia de bolinhas
- Cresce em
- uma caverna
- Sementes
- 1
- Doçura
- 2
- Nível de brilho
- 5
- Tamanho
- 4 cm
Baga-da-aurora (cópia)
Duplicata de Baga-da-aurora- Cor
- carmesim
- Formato
- redondo
- Textura
- lisa
- Cresce em
- a copa da mata
- Sementes
- 6
- Doçura
- 8
- Nível de brilho
- 0
- Tamanho
- 10 cm
Fulgor-estelar (cópia)
Duplicata de Fulgor-estelar- Cor
- violeta
- Formato
- de estrela
- Textura
- espinhosa
- Cresce em
- uma cratera
- Sementes
- 2
- Doçura
- 3
- Nível de brilho
- 4
- Tamanho
- 5 cm
Estrela-do-vazio
- Cor
- violeta
- Formato
- de espiral
- Textura
- lisa
- Cresce em
- uma cratera
- Sementes
- 0
- Doçura
- 3
- Nível de brilho
- 5
- Tamanho
- 5 cm
Estrela-de-espinhos
- Cor
- azul-celeste
- Formato
- de estrela
- Textura
- espinhosa
- Cresce em
- uma caverna
- Sementes
- 3
- Doçura
- 2
- Nível de brilho
- 2
- Tamanho
- 5 cm
Brilho-de-caverna
- Cor
- azul-celeste
- Formato
- de estrela
- Textura
- cheia de bolinhas
- Cresce em
- uma caverna
- Sementes
- 2
- Doçura
- 1
- Nível de brilho
- 4
- Tamanho
- 7 cm
Recife-doce
- Cor
- verde-azulado
- Formato
- oval
- Textura
- lisa
- Cresce em
- um recife
- Sementes
- 6
- Doçura
- 9
- Nível de brilho
- 0
- Tamanho
- 10 cm
Acrescentar exemplos para melhorar o equilíbrio
Estas frutas extras, com rótulo correto, estão disponíveis para acrescentar. Colocar mais da categoria rara ajuda o modelo a aprendê-la.
- Estrela-faísca — Não pode comer. Uma fruta violeta de formato de estrela, de 6 cm, com casca lisa e 1 sementes, doçura 4 de 10, nível de brilho 3 de 5, que cresce em uma cratera.
- Espiral-espinho — Não pode comer. Uma fruta azul-celeste de formato de espiral, de 4 cm, com casca espinhosa e 2 sementes, doçura 2 de 10, nível de brilho 1 de 5, que cresce em uma caverna.
- Espiral-brilhante — Não pode comer. Uma fruta azul-celeste de formato de espiral, de 5 cm, com casca cheia de bolinhas e 1 sementes, doçura 1 de 10, nível de brilho 4 de 5, que cresce em uma caverna.
- Fulgor-espinhoso — Não pode comer. Uma fruta violeta de formato de estrela, de 6 cm, com casca espinhosa e 3 sementes, doçura 3 de 10, nível de brilho 2 de 5, que cresce em uma cratera.
- Estrela-do-anoitecer — Não pode comer. Uma fruta violeta de formato de estrela, de 5 cm, com casca aveludada e 0 sementes, doçura 4 de 10, nível de brilho 3 de 5, que cresce em uma cratera.
- Espiral-noturna — Não pode comer. Uma fruta azul-celeste de formato de espiral, de 4 cm, com casca espinhosa e 2 sementes, doçura 2 de 10, nível de brilho 2 de 5, que cresce em uma caverna.
- Figo-do-campo — Pode comer. Uma fruta verde-azulado de formato oval, de 11 cm, com casca aveludada e 7 sementes, doçura 8 de 10, nível de brilho 1 de 5, que cresce em a copa da mata.
- Ameixa-do-sol — Pode comer. Uma fruta âmbar de formato oval, de 9 cm, com casca lisa e 4 sementes, doçura 8 de 10, nível de brilho 2 de 5, que cresce em uma duna.
A regra inventada da aula: Uma fruta espacial não pode ser comida se brilha muito (nível de brilho 3 ou mais) OU se é espinhosa. Fora isso, pode comer. “Rótulo errado” quer dizer que o rótulo não bate com esta regra, não um fato do mundo real.
Confira o que você entendeu
Responda a estas perguntas para conferir se você sabe achar e consertar problemas de dados.
Question 1. Quais destes são problemas que você deve consertar antes de treinar um modelo? Escolha todos que se aplicam.
Marque todas as que se aplicam.
Question 2. Decida se a afirmação é verdadeira ou falsa.
Um conjunto de dados com 18 maçãs e só 2 bananas está bem equilibrado.
Question 3. Coloque em uma ordem sensata os passos para consertar um conjunto de dados.
- 1.Examinar o conjunto de dados para achar problemas
- 2.Remover linhas duplicadas e corrigir rótulos errados
- 3.Equilibrar as categorias
- 4.Treinar o modelo de novo e conferir a acurácia dele
0 de 3 respondidas
Experimente você
Quebre e depois conserte
Pegue um conjunto de dados pequeno e limpo, acrescente de propósito cada um dos três problemas, depois conserte tudo e descreva o efeito.
- Comece com um conjunto de dados pequeno, limpo e equilibrado, de duas categorias.
- Acrescente uma linha duplicada, mude um rótulo para ficar incorreto, e tire exemplos para que uma categoria fique bem maior.
- Agora conserte os três problemas e explique, para cada um, como o conserto deve ajudar a acurácia ou a justiça do modelo.
Você conseguiu quando
- Os três problemas são acrescentados de propósito e claramente marcados.
- Os três são consertados.
- Cada conserto tem um motivo ligado à acurácia ou à justiça.
Reflexão
Salva neste aparelho enquanto você escreve
Por favor, não inclua informações privadas. As suas respostas ficam salvas só neste navegador e nunca são enviadas para lugar nenhum.
Recapitulando
Duplicatas, rótulos incorretos e categorias desequilibradas prejudicam um modelo; consertá-los produz dados limpos e equilibrados que melhoram a acurácia e ajudam o modelo a generalizar com justiça.
- Remova duplicatas para que nenhum exemplo receba peso demais.
- Corrija rótulos incorretos para o modelo não aprender um padrão falso.
- Equilibre as categorias para o modelo aprender cada uma e generalizar com justiça.
Extensão para o 7.º e 8.º ano
Quando não dá para coletar mais dados
Equilibrar acrescentando mais exemplos da categoria rara é o ideal, mas às vezes não dá para coletar mais com facilidade. Outra opção é reduzir a categoria maior para as contagens baterem, embora isso signifique jogar fora alguns exemplos reais.
Para a tabela de frutas bagunçada, defenda qual abordagem você escolheria (acrescentar mais bananas ou tirar algumas maçãs) e explique que compromisso cada escolha traz para a acurácia e a justiça do modelo.
Termine esta aula
- Attempt the knowledge check: não feito
- Save a reflection (recommended): não feito
Faça a checagem de conhecimentos para terminar esta aula.