Semana 2 · Lección 3 · 45-60 minutos
Repara el conjunto de datos
Juega a ser detective de datos: caza duplicados, etiquetas incorrectas y categorías desequilibradas, y arréglalos para que un modelo pueda aprender un patrón justo y exacto.
- Materiales
- Esta lección en un navegador web · Papel y lápiz, o una app de notas · El conjunto de datos desordenado incluido que aparece en esta lección
- Esta lección
- En curso
Se guarda solo en este dispositivo
Lo que vas a poder hacer
- Detectar los problemas comunes de los datos: duplicados, etiquetas incorrectas y categorías desequilibradas.
- Explicar cómo cada problema puede dañar la exactitud o la justicia de un modelo.
- Reparar un conjunto de datos pequeño para que sus ejemplos sean correctos y sus categorías estén equilibradas.
Para pensar
Un estudiante le está enseñando a un modelo a distinguir manzanas de plátanos. Su tabla tiene 18 manzanas y solo 2 plátanos, un plátano está copiado tres veces, y una manzana quedó etiquetada como "plátano" por error. ¿Qué podría salir mal cuando el modelo aprenda de esto?
Al terminar la lección vas a poder nombrar y arreglar los tres problemas.
Haz una predicción
Predice: si un conjunto de datos tiene 18 manzanas y solo 2 plátanos, ¿qué categoría crees que va a aprender mejor el modelo, y por qué?
Vocabulario
Ver todo el vocabulario del curso- Datos equilibrados
- Un conjunto de datos donde cada categoría tiene una cantidad justa y más o menos igual de ejemplos, para que el modelo aprenda bien todas las categorías.
- Duplicado
- Un ejemplo que aparece más de una vez en un conjunto de datos, lo que puede hacer que el modelo se concentre de más en ese caso repetido.
- Etiqueta incorrecta
- Un ejemplo al que se le puso la respuesta equivocada, como un plátano etiquetado "manzana", lo que le enseña al modelo un patrón falso.
- Exactitud
- La proporción de ejemplos que un modelo etiqueta correctamente; los datos malos casi siempre la bajan.
- Generalización
- Qué tan bien funciona un modelo con ejemplos nuevos; los datos limpios y equilibrados ayudan a que un modelo generalice.
Duplicados: el mismo ejemplo contado dos veces
Un duplicado es un ejemplo que aparece más de una vez. Puede parecer inofensivo, pero una fila duplicada hace que el modelo trate ese único caso como si fueran muchos, dándole demasiado peso.
Si un mismo plátano aparece tres veces, el modelo puede concentrarse de más en ese plátano específico en lugar de aprender cómo son los plátanos en general. Quitar los duplicados hace que cada ejemplo real cuente una sola vez.
- La fila idéntica del plátano copiada tres veces en la tabla
- La misma foto pegada dos veces en un conjunto de datos
Etiquetas incorrectas: la respuesta equivocada enseña el patrón equivocado
Una etiqueta incorrecta es un ejemplo marcado con la categoría equivocada, como una manzana etiquetada "plátano" por accidente. Como el modelo confía en sus etiquetas como si fueran la verdad, una etiqueta equivocada le enseña un patrón falso.
Incluso unas pocas etiquetas incorrectas pueden bajar la exactitud, porque el modelo intenta satisfacer respuestas que nunca fueron correctas. Arreglar una etiqueta significa cambiarla a la categoría correcta (o quitar el ejemplo si no puedes saberlo).
- Una fruta redonda y roja etiquetada "plátano"
- La foto de un gato etiquetada "perro" en un conjunto de datos de animales
Datos equilibrados: dale a cada categoría una parte justa
Datos equilibrados significa que cada categoría tiene una cantidad justa y más o menos igual de ejemplos. Si un conjunto de datos tiene 18 manzanas pero solo 2 plátanos, el modelo ve muchísimas más manzanas y quizá casi no aprenda cómo se ve un plátano, así que responde "manzana" demasiado seguido.
Equilibrar las categorías, ya sea reuniendo más ejemplos de plátano o recortando las manzanas, ayuda al modelo a aprender todas las categorías y a generalizar de forma justa. Unos datos limpios, correctos y equilibrados son la base de un modelo exacto.
- 10 manzanas y 10 plátanos está más equilibrado que 18 manzanas y 2 plátanos
- Un modelo entrenado sobre todo con una categoría tiende a predecir esa categoría de más
Ejemplo resuelto
Reparar paso a paso una tabla de frutas desordenada
- Empieza con una tabla desordenada: 18 manzanas y 2 plátanos, una fila de plátano copiada tres veces y una manzana etiquetada como "plátano".
- Encuentra los duplicados: el plátano idéntico aparece tres veces, así que quita dos copias y conserva una.
- Arregla las etiquetas incorrectas: la fruta redonda y roja etiquetada "plátano" en realidad es una manzana, así que cambia su etiqueta a "manzana".
- Revisa el equilibrio: ahora las categorías están muy disparejas, así que agrega más ejemplos reales de plátano hasta que las manzanas y los plátanos queden más o menos parejos.
- Resultado: un conjunto de datos limpio, bien etiquetado y equilibrado, del que el modelo puede aprender un patrón justo.
Lo importante: Repara un conjunto de datos quitando duplicados, corrigiendo etiquetas equivocadas y equilibrando las categorías antes de que un modelo aprenda de él.
Los valores se muestran en ejemplos.
Una gráfica de barras de cuántos ejemplos tiene cada categoría, contados en ejemplos. Antes de reparar: Manzana 18, Plátano 2, muy desequilibrado. Después de reparar: Manzana 10, Plátano 10, equilibrado. Equilibrar las categorías le da al modelo una oportunidad justa de aprender las dos frutas en lugar de predecir manzana de más.
| Problema | Cómo repararlo | Por qué importa |
|---|---|---|
| Duplicado | Quitar las copias de más | Un solo caso recibe demasiado peso |
| Etiqueta incorrecta | Cambiarla a la categoría correcta | Una respuesta equivocada enseña un patrón falso |
| Categorías desequilibradas | Agregar a la categoría pequeña o recortar la grande | El modelo aprende de menos la categoría rara |
Una tabla que relaciona cada problema de datos con su arreglo y con por qué importa. Duplicado: un ejemplo repetido; se arregla quitando las copias de más; importa porque le da demasiado peso a un solo caso. Etiqueta incorrecta: la respuesta equivocada en un ejemplo; se arregla corrigiendo la etiqueta; importa porque enseña un patrón falso. Categorías desequilibradas: una categoría tiene muchos más ejemplos; se arregla agregando a la categoría pequeña o recortando la grande; importa porque el modelo aprende de menos la categoría rara.
Actividad
Repara el conjunto de datos defectuoso
Arreglar un conjunto de datos desordenado de frutas espaciales (quitar duplicados, corregir etiquetas equivocadas y mejorar el equilibrio) y luego volver a correr el modelo y comparar el antes y el después.
- Revisa el conjunto de datos con fallas. Quita las filas duplicadas y corrige las etiquetas que se vean mal.
- Mejora el equilibrio agregando más ejemplos de la categoría que está poco representada.
- Las frutas de prueba siguen ocultas y sin cambios. Revisa y vuelve a correr el modelo para comparar el antes y el después.
Tamaño del conjunto de datos
18
Cuántos aptos / no aptos
14 / 4
Filas duplicadas
4
Etiquetas incorrectas
?
Las filas duplicadas se detectan solas (características idénticas). Las etiquetas incorrectas se quedan ocultas hasta que revises: investiga primero. Las 8 frutas de prueba están apartadas y nunca se editan aquí.
| Nombre de la fruta | Color | Forma | Textura | Crece en | Semillas | Dulzura | Nivel de brillo | Tamaño | Etiqueta / quitar |
|---|---|---|---|---|---|---|---|---|---|
| Baya del AlbaDuplicado de Baya del Alba (copia) | carmesí | redonda | lisa | el dosel del bosque | 6 | 8 | 0 | 10 cm | |
| Ciruela de Arena | ámbar | ovalada | con bultos | una duna | 4 | 7 | 1 | 8 cm | |
| Fruta de Marea | verde azulado | redonda | peluda | un arrecife | 8 | 9 | 0 | 12 cm | |
| Pera Brasa | carmesí | ovalada | lisa | el dosel del bosque | 5 | 6 | 2 | 9 cm | |
| Gota de Duna | ámbar | redonda | con bultos | una duna | 3 | 7 | 1 | 7 cm | |
| Higo del Dosel | verde azulado | ovalada | peluda | el dosel del bosque | 7 | 8 | 0 | 11 cm | |
| Calabaza Roja | carmesí | redonda | lisa | una duna | 6 | 5 | 2 | 10 cm | |
| Ciruela de Arrecife | ámbar | ovalada | peluda | un arrecife | 4 | 9 | 1 | 8 cm | |
| Vaina Verde | verde azulado | redonda | con bultos | el dosel del bosque | 9 | 6 | 0 | 13 cm | |
| Brote Ámbar | ámbar | redonda | peluda | el dosel del bosque | 2 | 7 | 2 | 6 cm | |
| Destello EstelarDuplicado de Destello Estelar (copia) | violeta | de estrella | con púas | un cráter | 2 | 3 | 4 | 5 cm | |
| Espiral Luminosa | azul cielo | de espiral | con bultos | una caverna | 1 | 2 | 5 | 4 cm | |
| Baya del Alba (copia)Duplicado de Baya del Alba | carmesí | redonda | lisa | el dosel del bosque | 6 | 8 | 0 | 10 cm | |
| Destello Estelar (copia)Duplicado de Destello Estelar | violeta | de estrella | con púas | un cráter | 2 | 3 | 4 | 5 cm | |
| Estrella del Vacío | violeta | de espiral | lisa | un cráter | 0 | 3 | 5 | 5 cm | |
| Estrella de Espinas | azul cielo | de estrella | con púas | una caverna | 3 | 2 | 2 | 5 cm | |
| Fulgor de Caverna | azul cielo | de estrella | con bultos | una caverna | 2 | 1 | 4 | 7 cm | |
| Arrecife Dulce | verde azulado | ovalada | lisa | un arrecife | 6 | 9 | 0 | 10 cm |
Baya del Alba
Duplicado de Baya del Alba (copia)- Color
- carmesí
- Forma
- redonda
- Textura
- lisa
- Crece en
- el dosel del bosque
- Semillas
- 6
- Dulzura
- 8
- Nivel de brillo
- 0
- Tamaño
- 10 cm
Ciruela de Arena
- Color
- ámbar
- Forma
- ovalada
- Textura
- con bultos
- Crece en
- una duna
- Semillas
- 4
- Dulzura
- 7
- Nivel de brillo
- 1
- Tamaño
- 8 cm
Fruta de Marea
- Color
- verde azulado
- Forma
- redonda
- Textura
- peluda
- Crece en
- un arrecife
- Semillas
- 8
- Dulzura
- 9
- Nivel de brillo
- 0
- Tamaño
- 12 cm
Pera Brasa
- Color
- carmesí
- Forma
- ovalada
- Textura
- lisa
- Crece en
- el dosel del bosque
- Semillas
- 5
- Dulzura
- 6
- Nivel de brillo
- 2
- Tamaño
- 9 cm
Gota de Duna
- Color
- ámbar
- Forma
- redonda
- Textura
- con bultos
- Crece en
- una duna
- Semillas
- 3
- Dulzura
- 7
- Nivel de brillo
- 1
- Tamaño
- 7 cm
Higo del Dosel
- Color
- verde azulado
- Forma
- ovalada
- Textura
- peluda
- Crece en
- el dosel del bosque
- Semillas
- 7
- Dulzura
- 8
- Nivel de brillo
- 0
- Tamaño
- 11 cm
Calabaza Roja
- Color
- carmesí
- Forma
- redonda
- Textura
- lisa
- Crece en
- una duna
- Semillas
- 6
- Dulzura
- 5
- Nivel de brillo
- 2
- Tamaño
- 10 cm
Ciruela de Arrecife
- Color
- ámbar
- Forma
- ovalada
- Textura
- peluda
- Crece en
- un arrecife
- Semillas
- 4
- Dulzura
- 9
- Nivel de brillo
- 1
- Tamaño
- 8 cm
Vaina Verde
- Color
- verde azulado
- Forma
- redonda
- Textura
- con bultos
- Crece en
- el dosel del bosque
- Semillas
- 9
- Dulzura
- 6
- Nivel de brillo
- 0
- Tamaño
- 13 cm
Brote Ámbar
- Color
- ámbar
- Forma
- redonda
- Textura
- peluda
- Crece en
- el dosel del bosque
- Semillas
- 2
- Dulzura
- 7
- Nivel de brillo
- 2
- Tamaño
- 6 cm
Destello Estelar
Duplicado de Destello Estelar (copia)- Color
- violeta
- Forma
- de estrella
- Textura
- con púas
- Crece en
- un cráter
- Semillas
- 2
- Dulzura
- 3
- Nivel de brillo
- 4
- Tamaño
- 5 cm
Espiral Luminosa
- Color
- azul cielo
- Forma
- de espiral
- Textura
- con bultos
- Crece en
- una caverna
- Semillas
- 1
- Dulzura
- 2
- Nivel de brillo
- 5
- Tamaño
- 4 cm
Baya del Alba (copia)
Duplicado de Baya del Alba- Color
- carmesí
- Forma
- redonda
- Textura
- lisa
- Crece en
- el dosel del bosque
- Semillas
- 6
- Dulzura
- 8
- Nivel de brillo
- 0
- Tamaño
- 10 cm
Destello Estelar (copia)
Duplicado de Destello Estelar- Color
- violeta
- Forma
- de estrella
- Textura
- con púas
- Crece en
- un cráter
- Semillas
- 2
- Dulzura
- 3
- Nivel de brillo
- 4
- Tamaño
- 5 cm
Estrella del Vacío
- Color
- violeta
- Forma
- de espiral
- Textura
- lisa
- Crece en
- un cráter
- Semillas
- 0
- Dulzura
- 3
- Nivel de brillo
- 5
- Tamaño
- 5 cm
Estrella de Espinas
- Color
- azul cielo
- Forma
- de estrella
- Textura
- con púas
- Crece en
- una caverna
- Semillas
- 3
- Dulzura
- 2
- Nivel de brillo
- 2
- Tamaño
- 5 cm
Fulgor de Caverna
- Color
- azul cielo
- Forma
- de estrella
- Textura
- con bultos
- Crece en
- una caverna
- Semillas
- 2
- Dulzura
- 1
- Nivel de brillo
- 4
- Tamaño
- 7 cm
Arrecife Dulce
- Color
- verde azulado
- Forma
- ovalada
- Textura
- lisa
- Crece en
- un arrecife
- Semillas
- 6
- Dulzura
- 9
- Nivel de brillo
- 0
- Tamaño
- 10 cm
Agregar ejemplos para mejorar el equilibrio
Estas frutas extra, con la etiqueta correcta, están disponibles para agregar. Sumar más de la categoría escasa ayuda al modelo a aprenderla.
- Estrella Chispa — No apto para comer. Una fruta violeta de forma de estrella, de 6 cm, con piel lisa y 1 semillas, dulzura 4 de 10, nivel de brillo 3 de 5, que crece en un cráter.
- Espiral Espinosa — No apto para comer. Una fruta azul cielo de forma de espiral, de 4 cm, con piel con púas y 2 semillas, dulzura 2 de 10, nivel de brillo 1 de 5, que crece en una caverna.
- Espiral Brillante — No apto para comer. Una fruta azul cielo de forma de espiral, de 5 cm, con piel con bultos y 1 semillas, dulzura 1 de 10, nivel de brillo 4 de 5, que crece en una caverna.
- Destello Espinoso — No apto para comer. Una fruta violeta de forma de estrella, de 6 cm, con piel con púas y 3 semillas, dulzura 3 de 10, nivel de brillo 2 de 5, que crece en un cráter.
- Estrella del Ocaso — No apto para comer. Una fruta violeta de forma de estrella, de 5 cm, con piel peluda y 0 semillas, dulzura 4 de 10, nivel de brillo 3 de 5, que crece en un cráter.
- Espiral Nocturna — No apto para comer. Una fruta azul cielo de forma de espiral, de 4 cm, con piel con púas y 2 semillas, dulzura 2 de 10, nivel de brillo 2 de 5, que crece en una caverna.
- Higo de Pradera — Apto para comer. Una fruta verde azulado de forma ovalada, de 11 cm, con piel peluda y 7 semillas, dulzura 8 de 10, nivel de brillo 1 de 5, que crece en el dosel del bosque.
- Ciruela del Sol — Apto para comer. Una fruta ámbar de forma ovalada, de 9 cm, con piel lisa y 4 semillas, dulzura 8 de 10, nivel de brillo 2 de 5, que crece en una duna.
La regla inventada de la clase: Una fruta espacial no es apta para comer si brilla mucho (nivel de brillo 3 o más) O si tiene púas. Si no, es apta para comer. “Etiqueta incorrecta” significa que la etiqueta no coincide con esta regla, no un hecho del mundo real.
Revisa lo que entendiste
Responde esto para comprobar que sabes detectar y arreglar problemas en los datos.
Question 1. ¿Cuáles de estos son problemas que deberías arreglar antes de entrenar un modelo? Elige todos los que correspondan.
Marca todas las que correspondan.
Question 2. Decide si la afirmación es verdadera o falsa.
Un conjunto de datos con 18 manzanas y solo 2 plátanos está bien equilibrado.
Question 3. Ordena de forma sensata los pasos para reparar un conjunto de datos.
- 1.Revisar el conjunto de datos para encontrar problemas
- 2.Quitar las filas duplicadas y corregir las etiquetas equivocadas
- 3.Equilibrar las categorías
- 4.Volver a entrenar el modelo y revisar su exactitud
0 de 3 respondidas
Pruébalo tú
Rómpelo y luego arréglalo
Toma un conjunto de datos pequeño y limpio, agrégale a propósito cada uno de los tres problemas, luego repáralo y describe el efecto.
- Empieza con un conjunto de datos pequeño, limpio y equilibrado, de dos categorías.
- Agrega una fila duplicada, cambia una etiqueta para que quede incorrecta y quita ejemplos para que una categoría sea mucho más grande.
- Ahora repara los tres problemas y explica, para cada uno, cómo debería ayudar el arreglo a la exactitud o la justicia del modelo.
Lo lograste cuando
- Los tres problemas se agregan a propósito y quedan claramente marcados.
- Los tres quedan reparados.
- Cada reparación tiene una razón ligada a la exactitud o a la justicia.
Reflexión
Se guarda en este dispositivo mientras escribes
Por favor no incluyas información privada. Tus respuestas se guardan solo en este navegador y nunca se envían a ningún lado.
Repaso
Los duplicados, las etiquetas incorrectas y las categorías desequilibradas dañan un modelo; repararlos produce datos limpios y equilibrados que mejoran la exactitud y ayudan al modelo a generalizar de forma justa.
- Quita los duplicados para que ningún ejemplo tenga peso de más.
- Corrige las etiquetas incorrectas para que el modelo no aprenda un patrón falso.
- Equilibra las categorías para que el modelo aprenda cada una y generalice de forma justa.
Extensión para 7.º y 8.º
Cuando no puedes reunir más datos
Equilibrar agregando más ejemplos de la categoría rara es lo ideal, pero a veces no puedes reunir más con facilidad. Otra opción es recortar la categoría grande para que las cantidades coincidan, aunque eso signifique desechar ejemplos reales.
Para la tabla de frutas desordenada, argumenta qué enfoque elegirías (agregar más plátanos o quitar algunas manzanas) y explica qué compensación implica cada elección para la exactitud y la justicia del modelo.
Termina esta lección
- Attempt the knowledge check: sin hacer
- Save a reflection (recommended): sin hacer
Haz la revisión de conocimientos para terminar esta lección.