Semana 5 · Lección 3 · 50-60 minutos
Investiga el contenido de IA y toma una decisión ética
Aprende a verificar contenido hecho por IA y contenido en línea buscando la fuente original, revisando el contexto y confirmando de forma independiente, y luego toma una decisión ética con supervisión humana y derecho de apelación.
- Materiales
- Esta lección en un navegador web · Papel y lápiz, o una app de notas
- Esta lección
- En curso
Se guarda solo en este dispositivo
Lo que vas a poder hacer
- Definir deepfake y desinformación y explicar cómo pueden engañar.
- Verificar una afirmación buscando su fuente original y revisando el contexto.
- Usar la confirmación independiente de fuentes separadas y confiables.
- Explicar por qué las decisiones importantes de una IA necesitan supervisión humana y derecho de apelación.
Para pensar
Un video circula en internet mostrando a una científica famosa diciendo algo escandaloso. Se ve y se oye real. Antes de creerlo o de compartirlo, ¿qué querrías comprobar primero?
La IA ya puede crear imágenes, videos y audios falsos muy convincentes, así que "se ve real" ya no basta para confiar en algo.
Haz una predicción
Predice: si la misma afirmación sorprendente aparece en cinco cuentas que todas copiaron una misma publicación, ¿eso cuenta como cinco confirmaciones independientes?
Vocabulario
Ver todo el vocabulario del curso- Deepfake
- Una foto, un video o un audio hecho o alterado por IA para mostrar a una persona diciendo o haciendo algo que en realidad no dijo ni hizo.
- Desinformación
- Información falsa o engañosa que se difunde, sin importar si quien la comparte tiene o no la intención de engañar.
- Fuente original
- El primer lugar de donde realmente salió una afirmación, una cita o una imagen, antes de que se copiara o se volviera a compartir.
- Contexto
- Toda la historia alrededor (cuándo, dónde y por qué pasó algo) que le da a un hecho su significado real.
- Confirmación independiente
- Comprobar una afirmación con dos o más fuentes separadas y confiables que no se copiaron entre sí.
- Supervisión humana
- Que una persona revise las decisiones importantes de una IA y siga siendo responsable de ellas, en lugar de dejar que el software decida solo.
- Apelación
- El derecho a pedirle a una persona que revise, y si hace falta cambie, una decisión que una IA tomó sobre ti.
Deepfakes y desinformación: por qué "se ve real" no es prueba
Un deepfake es una foto, un video o un audio que la IA creó o alteró para mostrar a una persona diciendo o haciendo algo que nunca hizo. Como la IA es cada vez mejor en esto, un video puede verse y sonar convincente y aun así ser falso.
La desinformación es información falsa o engañosa que se difunde. No siempre es un deepfake, y quien la comparte no siempre quiere engañar: una foto real puede circular con un pie de foto falso. En cualquier caso, la solución es la misma: no confíes en algo solo porque se ve real o porque mucha gente lo compartió.
- Un video en el que la IA alteró la boca y la voz de una persona para falsificar una cita.
- Una foto vieja y real que se vuelve a compartir con la afirmación falsa de que pasó hoy.
- Una "estadística" inventada, repetida tantas veces que empieza a sentirse verdadera.
Busca la fuente original y revisa el contexto
Para verificar una afirmación, rastréala hasta su fuente original: el primer lugar de donde realmente salió, antes de que se copiara y se volviera a compartir. Una captura de pantalla de una cita no es la fuente; el artículo, el video o la página oficial de verdad sí lo son. Si no puedes encontrar ninguna fuente original, eso es una señal de alerta.
Después revisa el contexto: cuándo, dónde y por qué pasó. Una foto real puede ser engañosa si es vieja, si es de otro lugar o si le falta la historia alrededor. El contexto es lo que convierte un dato suelto en un dato honesto.
- Rastrear una cita hasta la entrevista completa de la que se recortó.
- Descubrir que una foto de "última hora" es en realidad de un evento de hace años.
- Leer la declaración completa y ver que una cita quedó cortada a la mitad.
Confirmación independiente: fuentes separadas, no ecos
Una sola fuente puede equivocarse, así que las afirmaciones fuertes necesitan confirmación independiente: dos o más fuentes separadas y confiables que no se copiaron entre sí. Diez cuentas volviendo a compartir la misma publicación siguen siendo una sola fuente haciendo eco, no diez confirmaciones.
Para confirmar de forma independiente, busca reportes o registros que hayan llegado a la afirmación por su cuenta: otro medio de comunicación, una página oficial, una persona experta. Si fuentes independientes coinciden, es mucho más probable que la afirmación sea cierta. Si solo una fuente la tiene, mantente cauteloso.
- Dos medios de comunicación distintos que cada uno reportó la historia por su cuenta.
- La página propia de una organización oficial confirmando su propio anuncio.
- Darse cuenta de que cinco "fuentes" enlazan todas a la misma publicación.
Supervisión humana y derecho de apelación
La IA puede ayudar a marcar posibles falsificaciones o a ordenar información, pero comete errores, así que las decisiones importantes necesitan supervisión humana: una persona que revise la decisión y siga siendo responsable de ella. Esto importa sobre todo cuando una decisión afecta la vida de alguien, como marcar una publicación como falsa, calificar un trabajo o bloquear una cuenta.
Las personas afectadas por una decisión de una IA también deberían tener derecho de apelación: poder pedirle a un ser humano que revise la decisión y la cambie si la IA se equivocó. La supervisión y la apelación son la forma de mantener a las personas, y no al software, al mando de las decisiones que importan.
- Una persona revisando las publicaciones que marcó una IA antes de que se elimine alguna.
- Un estudiante pidiéndole a su maestra que vuelva a revisar una respuesta calificada por una IA.
- Una persona usuaria apelando ante un humano después de que una IA bloqueó su cuenta por error.
Ejemplo resuelto
Investigar un video viral escandaloso
- Detente antes de compartir. El video es sorprendente y emotivo, y ese es justo el momento en que la desinformación se difunde más rápido.
- Busca la fuente original. Busca el video completo o la declaración oficial, no solo el fragmento corto que alguien volvió a publicar.
- Revisa el contexto. Nota que el fragmento se recortó de una charla más larga en la que la persona decía lo contrario; la cita se sacó de contexto.
- Confirma de forma independiente. Busca una fuente separada y confiable. Ningún medio independiente reporta la afirmación escandalosa, lo que es una fuerte señal de que no es real.
- Decide con supervisión y apelación. Como hay mucho en juego, es una persona moderadora, y no la IA sola, quien lo revisa y lo etiqueta como engañoso, y quien lo publicó puede apelar si tiene evidencia real.
Lo importante: Verifica por fuente y contexto, confirma de forma independiente, y mantén a una persona al mando con una vía de apelación antes de actuar frente a una afirmación seria.
Un flujo de cuatro pasos para revisar una afirmación antes de creerla o compartirla. Paso 1: busca la fuente original (el primer lugar de donde salió, no una captura de pantalla). Paso 2: revisa el contexto (cuándo, dónde y por qué pasó). Paso 3: confirma de forma independiente (dos o más fuentes separadas y confiables que no se copiaron entre sí). Paso 4: decide con supervisión humana y conserva un derecho de apelación. Si algún paso falla, no lo compartas como cierto.
Sigue los cuatro pasos en orden; una afirmación que falla en un paso no debería compartirse como cierta.
| Lo que encontraste | ¿Es confirmación independiente? |
|---|---|
| Cinco veces compartida la misma publicación original | No, una sola fuente haciendo eco |
| Dos medios de comunicación distintos, cada uno reportando por su cuenta | Sí, es independiente |
| Una organización oficial confirmando su propia noticia | Sí, fuente confiable |
| Una sola cuenta anónima sin ninguna fuente enlazada | No, verifica antes de confiar |
Una tabla que distingue una confirmación independiente real del eco de una sola fuente. Cinco veces compartida la misma publicación original: no es independiente, porque todo se remonta a una sola fuente. Dos medios de comunicación distintos reportando por su cuenta: sí es independiente, porque llegaron a la afirmación por separado. Una organización oficial confirmando su propia noticia: independiente y confiable. Una sola cuenta anónima sin fuente: no es confirmación, trátala con cautela.
Actividad
Investigación de contenido y decisión ética
Investigar publicaciones ficticias usando evidencia de fuente y contexto, y luego actuar como comité de ética frente a sistemas de IA propuestos y diseñar un proceso de apelación.
- Parte 1 — investiga las publicaciones: haz las siete revisiones de fuente y contexto y después juzga cada una.
- Parte 2 — comité de ética: evalúa un sistema de IA propuesto, elige una decisión y escoge salvaguardas.
- Parte 3 — diseña una apelación: cómo se entera alguien de que hubo IA, cómo obtiene una explicación y cómo se revisa su caso.
Every post, school, and person here is fictional. No real accounts are visited. Don't put personal details in your notes.
Parte 1 · Investiga las publicaciones
Un «detalle visual» como manos raras o texto extraño no es una forma confiable de detectar contenido de IA; revisar la fuente, la fecha y el contexto original sí lo es.
El club de arte comparte un cartel hecho con IA y lo dice
Ilustración generada con IA, etiquetada con honestidad
Una ilustración colorida de un robot pintando, con un pie claro: «Ilustración generada con IA por el Club de Arte».
Afirmación: Esta imagen del cartel se hizo con una herramienta de IA.
Evidencia (7/7 revisiones se ven bien)
- Bien:¿Quién lo publicó? Publicado por: Club de Arte de la escuela (con nombre).
- Bien:¿Se puede encontrar la fuente original? Se puede encontrar una fuente original.
- Bien:¿La fecha es correcta? La fecha coincide con la del original.
- Bien:¿El pie de foto coincide con el contexto original? El pie de foto coincide con el contexto original.
- Bien:¿Hay evidencia? Se aporta evidencia de respaldo.
- Bien:¿Lo confirman fuentes confiables e independientes? Fuentes confiables e independientes lo confirman.
- Bien:¿Empuja una reacción emocional antes de mostrar evidencia? No te apura emocionalmente.
Tu juicio:«¡Anoche se inundó nuestro pueblo!», con una foto dramática
Imagen real con un pie de foto engañoso
Una foto real de una calle inundada, con un pie que la presenta como si hubiera pasado anoche en el pueblo de quien lee.
Afirmación: Esta foto de la inundación es de nuestro pueblo anoche.
Evidencia (1/7 revisiones se ven bien)
- Alerta:¿Quién lo publicó? Publicado por: Cuenta anónima.
- Bien:¿Se puede encontrar la fuente original? Se puede encontrar una fuente original.
- Alerta:¿La fecha es correcta? La fecha no coincide con la del original.
- Alerta:¿El pie de foto coincide con el contexto original? El pie de foto cambia o tergiversa el contexto original.
- Alerta:¿Hay evidencia? No se aporta ninguna evidencia de respaldo.
- Alerta:¿Lo confirman fuentes confiables e independientes? Ninguna fuente independiente lo confirma.
- Alerta:¿Empuja una reacción emocional antes de mostrar evidencia? Empuja una reacción emocional antes de mostrar evidencia.
Tu juicio:«¡Los robots están tomando la escuela!»
Imagen real puesta en un contexto equivocado
Una foto de una competencia de robótica, con un pie que insinúa que los robots están reemplazando a los docentes.
Afirmación: Los robots reemplazaron a los docentes en esta escuela.
Evidencia (2/7 revisiones se ven bien)
- Alerta:¿Quién lo publicó? Publicado por: Blog de fans.
- Bien:¿Se puede encontrar la fuente original? Se puede encontrar una fuente original.
- Bien:¿La fecha es correcta? La fecha coincide con la del original.
- Alerta:¿El pie de foto coincide con el contexto original? El pie de foto cambia o tergiversa el contexto original.
- Alerta:¿Hay evidencia? No se aporta ninguna evidencia de respaldo.
- Alerta:¿Lo confirman fuentes confiables e independientes? Ninguna fuente independiente lo confirma.
- Alerta:¿Empuja una reacción emocional antes de mostrar evidencia? Empuja una reacción emocional antes de mostrar evidencia.
Tu juicio:La directora «confirma» que no habrá más tareas
Cita inventada
Una publicación de texto con una cita atribuida a la directora de la escuela.
Afirmación: La directora dijo que las tareas quedan prohibidas para siempre.
Evidencia (0/7 revisiones se ven bien)
- Alerta:¿Quién lo publicó? Publicado por: Página de memes.
- Alerta:¿Se puede encontrar la fuente original? No se puede encontrar ninguna fuente original.
- Alerta:¿La fecha es correcta? La fecha no se puede comprobar.
- Alerta:¿El pie de foto coincide con el contexto original? El pie de foto cambia o tergiversa el contexto original.
- Alerta:¿Hay evidencia? No se aporta ninguna evidencia de respaldo.
- Alerta:¿Lo confirman fuentes confiables e independientes? Ninguna fuente independiente lo confirma.
- Alerta:¿Empuja una reacción emocional antes de mostrar evidencia? Empuja una reacción emocional antes de mostrar evidencia.
Tu juicio:«¡La feria de ciencias se cancela, hoy!»
Fecha falsa
Una captura de un aviso con la fecha de hoy sobre un evento cancelado.
Afirmación: La feria de ciencias se cancela hoy.
Evidencia (2/7 revisiones se ven bien)
- Alerta:¿Quién lo publicó? Publicado por: Captura republicada.
- Bien:¿Se puede encontrar la fuente original? Se puede encontrar una fuente original.
- Alerta:¿La fecha es correcta? La fecha no coincide con la del original.
- Bien:¿El pie de foto coincide con el contexto original? El pie de foto coincide con el contexto original.
- Alerta:¿Hay evidencia? No se aporta ninguna evidencia de respaldo.
- Alerta:¿Lo confirman fuentes confiables e independientes? Ninguna fuente independiente lo confirma.
- Alerta:¿Empuja una reacción emocional antes de mostrar evidencia? Empuja una reacción emocional antes de mostrar evidencia.
Tu juicio:«El 90 % de los estudiantes prefiere los robots a la tarea»
Afirmación sin fuente original
Una estadística en letras grandes, sin enlace ni estudio nombrado.
Afirmación: El 90 % de los estudiantes prefiere los robots a la tarea.
Evidencia (2/7 revisiones se ven bien)
- Alerta:¿Quién lo publicó? Publicado por: Desconocido.
- Alerta:¿Se puede encontrar la fuente original? No se puede encontrar ninguna fuente original.
- Alerta:¿La fecha es correcta? La fecha no se puede comprobar.
- Bien:¿El pie de foto coincide con el contexto original? El pie de foto coincide con el contexto original.
- Alerta:¿Hay evidencia? No se aporta ninguna evidencia de respaldo.
- Alerta:¿Lo confirman fuentes confiables e independientes? Ninguna fuente independiente lo confirma.
- Bien:¿Empuja una reacción emocional antes de mostrar evidencia? No te apura emocionalmente.
Tu juicio:El distrito publica el calendario oficial de la feria de ciencias
Afirmación respaldada por una fuente original confiable
Un calendario en el sitio oficial del distrito escolar, con una fecha clara y un contacto.
Afirmación: La feria de ciencias es en la fecha que aparece en el sitio del distrito.
Evidencia (7/7 revisiones se ven bien)
- Bien:¿Quién lo publicó? Publicado por: Distrito escolar (sitio oficial).
- Bien:¿Se puede encontrar la fuente original? Se puede encontrar una fuente original.
- Bien:¿La fecha es correcta? La fecha coincide con la del original.
- Bien:¿El pie de foto coincide con el contexto original? El pie de foto coincide con el contexto original.
- Bien:¿Hay evidencia? Se aporta evidencia de respaldo.
- Bien:¿Lo confirman fuentes confiables e independientes? Fuentes confiables e independientes lo confirman.
- Bien:¿Empuja una reacción emocional antes de mostrar evidencia? No te apura emocionalmente.
Tu juicio:«¡¡¡COMPARTE YA o tu clase pierde su viaje!!!»
Publicación diseñada para provocar una reacción emocional
Una publicación en mayúsculas con lenguaje urgente que exige compartir antes de que sea «demasiado tarde».
Afirmación: Compartir esta publicación va a salvar el viaje de tu clase.
Evidencia (0/7 revisiones se ven bien)
- Alerta:¿Quién lo publicó? Publicado por: Cadena anónima.
- Alerta:¿Se puede encontrar la fuente original? No se puede encontrar ninguna fuente original.
- Alerta:¿La fecha es correcta? La fecha no se puede comprobar.
- Alerta:¿El pie de foto coincide con el contexto original? El pie de foto cambia o tergiversa el contexto original.
- Alerta:¿Hay evidencia? No se aporta ninguna evidencia de respaldo.
- Alerta:¿Lo confirman fuentes confiables e independientes? Ninguna fuente independiente lo confirma.
- Alerta:¿Empuja una reacción emocional antes de mostrar evidencia? Empuja una reacción emocional antes de mostrar evidencia.
Tu juicio:
Esta actividad no puede detectar a la perfección el contenido hecho con IA, y no lo intenta: revisa fuentes y contexto, que es lo que de verdad se sostiene.
Parte 2 · Comité de ética de IA
Propuesta: Sugerir libros de la biblioteca según lo que el estudiante pidió prestado antes.
Beneficio esperado: Ayuda a los estudiantes a descubrir libros que les podrían gustar.
Errores probables: Recomendar un conjunto estrecho (burbuja de filtro); Dejar fuera libros distintos a los de antes
Personas afectadas: Estudiantes, Bibliotecarios
Nivel de riesgo: bajo. Un simple estante de «lo más pedido del mes» funcionaría casi igual de bien con muchos menos datos.
Tu decisión
Salvaguardas que exigirías
Parte 3 · Diseña un proceso de apelación
La IA de alto impacto necesita una vía para que las personas entiendan y cuestionen una decisión. Diseña una:
0 de 6 partes diseñadas: completa el resto para terminar el proceso de apelación.
Revisa lo que entendiste
Responde esto para comprobar que sabes verificar contenido y razonar sobre supervisión y apelación.
Question 1. Ordena de forma sensata los pasos para verificar una afirmación sorprendente.
- 1.Buscar la fuente original de donde salió la afirmación
- 2.Revisar el contexto: cuándo, dónde y por qué pasó
- 3.Confirmarla con dos o más fuentes independientes
- 4.Decidir qué hacer, con una persona revisando la decisión
Question 2. ¿Cuál de estas es una verdadera confirmación independiente de una afirmación?
Question 3. ¿Cuál es la forma más responsable de manejar esta decisión de una IA?
Una app escolar usa IA para marcar los ensayos que predice que fueron copiados. Marca el ensayo de Priya, que en realidad ella misma escribió.
0 de 3 respondidas
Pruébalo tú
Escribe una guía de verificación
Haz una guía corta que un amigo pueda usar para comprobar si una publicación viral es confiable antes de compartirla.
- Escribe los cuatro pasos: fuente original, contexto, confirmación independiente y una revisión humana.
- Para cada paso, agrega una pregunta sencilla que esa persona pueda hacerse.
- Agrega una línea sobre cuándo una decisión necesita supervisión humana y una vía de apelación.
Lo lograste cuando
- Los cuatro pasos de verificación aparecen en un orden claro.
- Cada paso tiene una pregunta sencilla y usable.
- La guía menciona la supervisión humana y el derecho de apelación.
Reflexión
Se guarda en este dispositivo mientras escribes
Por favor no incluyas información privada. Tus respuestas se guardan solo en este navegador y nunca se envían a ningún lado.
Repaso
Como la IA puede falsificar y difundir contenido convincente, verifica por fuente y contexto, confirma de forma independiente, y mantén a las personas al mando con derecho de apelación.
- Los deepfakes y la desinformación significan que "se ve real" no es prueba.
- Rastrea las afirmaciones hasta la fuente original y revisa el contexto que las rodea.
- La confirmación independiente necesita fuentes separadas, no copias de una sola publicación.
- Las decisiones importantes de una IA necesitan supervisión humana y derecho de apelación.
Extensión para 7.º y 8.º
Cuando la rapidez pelea contra la exactitud
En internet, ser el primero muchas veces recibe más atención que tener la razón, así que el contenido engañoso puede difundirse antes de que nadie lo verifique. Verificar con cuidado toma un tiempo que un feed veloz no recompensa.
Describe una situación en la que la presión por compartir rápido choque con los pasos para verificar una afirmación. ¿Qué podría hacer una plataforma, o una persona, para que la opción correcta sea más fácil que la rápida?
Termina esta lección
- Attempt the knowledge check: sin hacer
- Save a reflection (recommended): sin hacer
Haz la revisión de conocimientos para terminar esta lección.