Saltar al contenido

Semana 2 · Lección 3 · 45-60 minutos

Repara el conjunto de datos

Juega a ser detective de datos: caza duplicados, etiquetas incorrectas y categorías desequilibradas, y arréglalos para que un modelo pueda aprender un patrón justo y exacto.

Materiales
Esta lección en un navegador web · Papel y lápiz, o una app de notas · El conjunto de datos desordenado incluido que aparece en esta lección
Esta lección
En curso

Se guarda solo en este dispositivo

Lo que vas a poder hacer

  • Detectar los problemas comunes de los datos: duplicados, etiquetas incorrectas y categorías desequilibradas.
  • Explicar cómo cada problema puede dañar la exactitud o la justicia de un modelo.
  • Reparar un conjunto de datos pequeño para que sus ejemplos sean correctos y sus categorías estén equilibradas.

Para pensar

Un estudiante le está enseñando a un modelo a distinguir manzanas de plátanos. Su tabla tiene 18 manzanas y solo 2 plátanos, un plátano está copiado tres veces, y una manzana quedó etiquetada como "plátano" por error. ¿Qué podría salir mal cuando el modelo aprenda de esto?

Al terminar la lección vas a poder nombrar y arreglar los tres problemas.

Haz una predicción

Predice: si un conjunto de datos tiene 18 manzanas y solo 2 plátanos, ¿qué categoría crees que va a aprender mejor el modelo, y por qué?

Datos equilibrados
Un conjunto de datos donde cada categoría tiene una cantidad justa y más o menos igual de ejemplos, para que el modelo aprenda bien todas las categorías.
Duplicado
Un ejemplo que aparece más de una vez en un conjunto de datos, lo que puede hacer que el modelo se concentre de más en ese caso repetido.
Etiqueta incorrecta
Un ejemplo al que se le puso la respuesta equivocada, como un plátano etiquetado "manzana", lo que le enseña al modelo un patrón falso.
Exactitud
La proporción de ejemplos que un modelo etiqueta correctamente; los datos malos casi siempre la bajan.
Generalización
Qué tan bien funciona un modelo con ejemplos nuevos; los datos limpios y equilibrados ayudan a que un modelo generalice.

Duplicados: el mismo ejemplo contado dos veces

Un duplicado es un ejemplo que aparece más de una vez. Puede parecer inofensivo, pero una fila duplicada hace que el modelo trate ese único caso como si fueran muchos, dándole demasiado peso.

Si un mismo plátano aparece tres veces, el modelo puede concentrarse de más en ese plátano específico en lugar de aprender cómo son los plátanos en general. Quitar los duplicados hace que cada ejemplo real cuente una sola vez.

  • La fila idéntica del plátano copiada tres veces en la tabla
  • La misma foto pegada dos veces en un conjunto de datos

Etiquetas incorrectas: la respuesta equivocada enseña el patrón equivocado

Una etiqueta incorrecta es un ejemplo marcado con la categoría equivocada, como una manzana etiquetada "plátano" por accidente. Como el modelo confía en sus etiquetas como si fueran la verdad, una etiqueta equivocada le enseña un patrón falso.

Incluso unas pocas etiquetas incorrectas pueden bajar la exactitud, porque el modelo intenta satisfacer respuestas que nunca fueron correctas. Arreglar una etiqueta significa cambiarla a la categoría correcta (o quitar el ejemplo si no puedes saberlo).

  • Una fruta redonda y roja etiquetada "plátano"
  • La foto de un gato etiquetada "perro" en un conjunto de datos de animales

Datos equilibrados: dale a cada categoría una parte justa

Datos equilibrados significa que cada categoría tiene una cantidad justa y más o menos igual de ejemplos. Si un conjunto de datos tiene 18 manzanas pero solo 2 plátanos, el modelo ve muchísimas más manzanas y quizá casi no aprenda cómo se ve un plátano, así que responde "manzana" demasiado seguido.

Equilibrar las categorías, ya sea reuniendo más ejemplos de plátano o recortando las manzanas, ayuda al modelo a aprender todas las categorías y a generalizar de forma justa. Unos datos limpios, correctos y equilibrados son la base de un modelo exacto.

  • 10 manzanas y 10 plátanos está más equilibrado que 18 manzanas y 2 plátanos
  • Un modelo entrenado sobre todo con una categoría tiende a predecir esa categoría de más

Ejemplo resuelto

Reparar paso a paso una tabla de frutas desordenada

  1. Empieza con una tabla desordenada: 18 manzanas y 2 plátanos, una fila de plátano copiada tres veces y una manzana etiquetada como "plátano".
  2. Encuentra los duplicados: el plátano idéntico aparece tres veces, así que quita dos copias y conserva una.
  3. Arregla las etiquetas incorrectas: la fruta redonda y roja etiquetada "plátano" en realidad es una manzana, así que cambia su etiqueta a "manzana".
  4. Revisa el equilibrio: ahora las categorías están muy disparejas, así que agrega más ejemplos reales de plátano hasta que las manzanas y los plátanos queden más o menos parejos.
  5. Resultado: un conjunto de datos limpio, bien etiquetado y equilibrado, del que el modelo puede aprender un patrón justo.

Lo importante: Repara un conjunto de datos quitando duplicados, corrigiendo etiquetas equivocadas y equilibrando las categorías antes de que un modelo aprenda de él.

Antes y después de equilibrar

Una gráfica de barras de cuántos ejemplos tiene cada categoría, contados en ejemplos. Antes de reparar: Manzana 18, Plátano 2, muy desequilibrado. Después de reparar: Manzana 10, Plátano 10, equilibrado. Equilibrar las categorías le da al modelo una oportunidad justa de aprender las dos frutas en lugar de predecir manzana de más.

Tres problemas y sus reparaciones
ProblemaCómo repararloPor qué importa
DuplicadoQuitar las copias de másUn solo caso recibe demasiado peso
Etiqueta incorrectaCambiarla a la categoría correctaUna respuesta equivocada enseña un patrón falso
Categorías desequilibradasAgregar a la categoría pequeña o recortar la grandeEl modelo aprende de menos la categoría rara

Una tabla que relaciona cada problema de datos con su arreglo y con por qué importa. Duplicado: un ejemplo repetido; se arregla quitando las copias de más; importa porque le da demasiado peso a un solo caso. Etiqueta incorrecta: la respuesta equivocada en un ejemplo; se arregla corrigiendo la etiqueta; importa porque enseña un patrón falso. Categorías desequilibradas: una categoría tiene muchos más ejemplos; se arregla agregando a la categoría pequeña o recortando la grande; importa porque el modelo aprende de menos la categoría rara.

Actividad

Repara el conjunto de datos defectuoso

Arreglar un conjunto de datos desordenado de frutas espaciales (quitar duplicados, corregir etiquetas equivocadas y mejorar el equilibrio) y luego volver a correr el modelo y comparar el antes y el después.

  1. Revisa el conjunto de datos con fallas. Quita las filas duplicadas y corrige las etiquetas que se vean mal.
  2. Mejora el equilibrio agregando más ejemplos de la categoría que está poco representada.
  3. Las frutas de prueba siguen ocultas y sin cambios. Revisa y vuelve a correr el modelo para comparar el antes y el después.

Tamaño del conjunto de datos

18

Cuántos aptos / no aptos

14 / 4

Filas duplicadas

4

Etiquetas incorrectas

?

Las filas duplicadas se detectan solas (características idénticas). Las etiquetas incorrectas se quedan ocultas hasta que revises: investiga primero. Las 8 frutas de prueba están apartadas y nunca se editan aquí.

  • Baya del Alba

    Duplicado de Baya del Alba (copia)
    Color
    carmesí
    Forma
    redonda
    Textura
    lisa
    Crece en
    el dosel del bosque
    Semillas
    6
    Dulzura
    8
    Nivel de brillo
    0
    Tamaño
    10 cm
  • Ciruela de Arena

    Color
    ámbar
    Forma
    ovalada
    Textura
    con bultos
    Crece en
    una duna
    Semillas
    4
    Dulzura
    7
    Nivel de brillo
    1
    Tamaño
    8 cm
  • Fruta de Marea

    Color
    verde azulado
    Forma
    redonda
    Textura
    peluda
    Crece en
    un arrecife
    Semillas
    8
    Dulzura
    9
    Nivel de brillo
    0
    Tamaño
    12 cm
  • Pera Brasa

    Color
    carmesí
    Forma
    ovalada
    Textura
    lisa
    Crece en
    el dosel del bosque
    Semillas
    5
    Dulzura
    6
    Nivel de brillo
    2
    Tamaño
    9 cm
  • Gota de Duna

    Color
    ámbar
    Forma
    redonda
    Textura
    con bultos
    Crece en
    una duna
    Semillas
    3
    Dulzura
    7
    Nivel de brillo
    1
    Tamaño
    7 cm
  • Higo del Dosel

    Color
    verde azulado
    Forma
    ovalada
    Textura
    peluda
    Crece en
    el dosel del bosque
    Semillas
    7
    Dulzura
    8
    Nivel de brillo
    0
    Tamaño
    11 cm
  • Calabaza Roja

    Color
    carmesí
    Forma
    redonda
    Textura
    lisa
    Crece en
    una duna
    Semillas
    6
    Dulzura
    5
    Nivel de brillo
    2
    Tamaño
    10 cm
  • Ciruela de Arrecife

    Color
    ámbar
    Forma
    ovalada
    Textura
    peluda
    Crece en
    un arrecife
    Semillas
    4
    Dulzura
    9
    Nivel de brillo
    1
    Tamaño
    8 cm
  • Vaina Verde

    Color
    verde azulado
    Forma
    redonda
    Textura
    con bultos
    Crece en
    el dosel del bosque
    Semillas
    9
    Dulzura
    6
    Nivel de brillo
    0
    Tamaño
    13 cm
  • Brote Ámbar

    Color
    ámbar
    Forma
    redonda
    Textura
    peluda
    Crece en
    el dosel del bosque
    Semillas
    2
    Dulzura
    7
    Nivel de brillo
    2
    Tamaño
    6 cm
  • Destello Estelar

    Duplicado de Destello Estelar (copia)
    Color
    violeta
    Forma
    de estrella
    Textura
    con púas
    Crece en
    un cráter
    Semillas
    2
    Dulzura
    3
    Nivel de brillo
    4
    Tamaño
    5 cm
  • Espiral Luminosa

    Color
    azul cielo
    Forma
    de espiral
    Textura
    con bultos
    Crece en
    una caverna
    Semillas
    1
    Dulzura
    2
    Nivel de brillo
    5
    Tamaño
    4 cm
  • Baya del Alba (copia)

    Duplicado de Baya del Alba
    Color
    carmesí
    Forma
    redonda
    Textura
    lisa
    Crece en
    el dosel del bosque
    Semillas
    6
    Dulzura
    8
    Nivel de brillo
    0
    Tamaño
    10 cm
  • Destello Estelar (copia)

    Duplicado de Destello Estelar
    Color
    violeta
    Forma
    de estrella
    Textura
    con púas
    Crece en
    un cráter
    Semillas
    2
    Dulzura
    3
    Nivel de brillo
    4
    Tamaño
    5 cm
  • Estrella del Vacío

    Color
    violeta
    Forma
    de espiral
    Textura
    lisa
    Crece en
    un cráter
    Semillas
    0
    Dulzura
    3
    Nivel de brillo
    5
    Tamaño
    5 cm
  • Estrella de Espinas

    Color
    azul cielo
    Forma
    de estrella
    Textura
    con púas
    Crece en
    una caverna
    Semillas
    3
    Dulzura
    2
    Nivel de brillo
    2
    Tamaño
    5 cm
  • Fulgor de Caverna

    Color
    azul cielo
    Forma
    de estrella
    Textura
    con bultos
    Crece en
    una caverna
    Semillas
    2
    Dulzura
    1
    Nivel de brillo
    4
    Tamaño
    7 cm
  • Arrecife Dulce

    Color
    verde azulado
    Forma
    ovalada
    Textura
    lisa
    Crece en
    un arrecife
    Semillas
    6
    Dulzura
    9
    Nivel de brillo
    0
    Tamaño
    10 cm

Agregar ejemplos para mejorar el equilibrio

Estas frutas extra, con la etiqueta correcta, están disponibles para agregar. Sumar más de la categoría escasa ayuda al modelo a aprenderla.

  • Estrella Chispa — No apto para comer. Una fruta violeta de forma de estrella, de 6 cm, con piel lisa y 1 semillas, dulzura 4 de 10, nivel de brillo 3 de 5, que crece en un cráter.
  • Espiral Espinosa — No apto para comer. Una fruta azul cielo de forma de espiral, de 4 cm, con piel con púas y 2 semillas, dulzura 2 de 10, nivel de brillo 1 de 5, que crece en una caverna.
  • Espiral Brillante — No apto para comer. Una fruta azul cielo de forma de espiral, de 5 cm, con piel con bultos y 1 semillas, dulzura 1 de 10, nivel de brillo 4 de 5, que crece en una caverna.
  • Destello Espinoso — No apto para comer. Una fruta violeta de forma de estrella, de 6 cm, con piel con púas y 3 semillas, dulzura 3 de 10, nivel de brillo 2 de 5, que crece en un cráter.
  • Estrella del Ocaso — No apto para comer. Una fruta violeta de forma de estrella, de 5 cm, con piel peluda y 0 semillas, dulzura 4 de 10, nivel de brillo 3 de 5, que crece en un cráter.
  • Espiral Nocturna — No apto para comer. Una fruta azul cielo de forma de espiral, de 4 cm, con piel con púas y 2 semillas, dulzura 2 de 10, nivel de brillo 2 de 5, que crece en una caverna.
  • Higo de Pradera — Apto para comer. Una fruta verde azulado de forma ovalada, de 11 cm, con piel peluda y 7 semillas, dulzura 8 de 10, nivel de brillo 1 de 5, que crece en el dosel del bosque.
  • Ciruela del Sol — Apto para comer. Una fruta ámbar de forma ovalada, de 9 cm, con piel lisa y 4 semillas, dulzura 8 de 10, nivel de brillo 2 de 5, que crece en una duna.

La regla inventada de la clase: Una fruta espacial no es apta para comer si brilla mucho (nivel de brillo 3 o más) O si tiene púas. Si no, es apta para comer. “Etiqueta incorrecta” significa que la etiqueta no coincide con esta regla, no un hecho del mundo real.

Revisa lo que entendiste

Responde esto para comprobar que sabes detectar y arreglar problemas en los datos.

  1. Question 1. ¿Cuáles de estos son problemas que deberías arreglar antes de entrenar un modelo? Elige todos los que correspondan.

    Marca todas las que correspondan.

  2. Question 2. Decide si la afirmación es verdadera o falsa.

    Un conjunto de datos con 18 manzanas y solo 2 plátanos está bien equilibrado.

  3. Question 3. Ordena de forma sensata los pasos para reparar un conjunto de datos.

    1. 1.Revisar el conjunto de datos para encontrar problemas
    2. 2.Quitar las filas duplicadas y corregir las etiquetas equivocadas
    3. 3.Equilibrar las categorías
    4. 4.Volver a entrenar el modelo y revisar su exactitud

0 de 3 respondidas

Pruébalo tú

Rómpelo y luego arréglalo

Toma un conjunto de datos pequeño y limpio, agrégale a propósito cada uno de los tres problemas, luego repáralo y describe el efecto.

  1. Empieza con un conjunto de datos pequeño, limpio y equilibrado, de dos categorías.
  2. Agrega una fila duplicada, cambia una etiqueta para que quede incorrecta y quita ejemplos para que una categoría sea mucho más grande.
  3. Ahora repara los tres problemas y explica, para cada uno, cómo debería ayudar el arreglo a la exactitud o la justicia del modelo.

Lo lograste cuando

  • Los tres problemas se agregan a propósito y quedan claramente marcados.
  • Los tres quedan reparados.
  • Cada reparación tiene una razón ligada a la exactitud o a la justicia.

Reflexión

Se guarda en este dispositivo mientras escribes

Por favor no incluyas información privada. Tus respuestas se guardan solo en este navegador y nunca se envían a ningún lado.

Repaso

Los duplicados, las etiquetas incorrectas y las categorías desequilibradas dañan un modelo; repararlos produce datos limpios y equilibrados que mejoran la exactitud y ayudan al modelo a generalizar de forma justa.

  • Quita los duplicados para que ningún ejemplo tenga peso de más.
  • Corrige las etiquetas incorrectas para que el modelo no aprenda un patrón falso.
  • Equilibra las categorías para que el modelo aprenda cada una y generalice de forma justa.

Extensión para 7.º y 8.º

Cuando no puedes reunir más datos

Equilibrar agregando más ejemplos de la categoría rara es lo ideal, pero a veces no puedes reunir más con facilidad. Otra opción es recortar la categoría grande para que las cantidades coincidan, aunque eso signifique desechar ejemplos reales.

Para la tabla de frutas desordenada, argumenta qué enfoque elegirías (agregar más plátanos o quitar algunas manzanas) y explica qué compensación implica cada elección para la exactitud y la justicia del modelo.

Termina esta lección

  • Attempt the knowledge check: sin hacer
  • Save a reflection (recommended): sin hacer

Haz la revisión de conocimientos para terminar esta lección.