Misión: revisar una IA
Estás en un comité que revisa un producto de IA ficticio antes de que se lance. Responde las preguntas y después escribe tu recomendación. Esto es para tu aprendizaje: no hay calificaciones, no se envía nada a ningún lado y puedes repetir cualquier parte.
El producto: La escuela comunitaria Northgate propone “PathwayAI”, un asistente que (1) recomienda actividades extraescolares a los estudiantes, (2) responde preguntas de las familias en una ventana de chat y (3) marca solicitudes de beca para que el personal las revise. Tu trabajo en el comité de revisión es examinarlo antes de que se lance.
- A. ConceptosIA frente a reglas, entrenamiento frente a prueba, confianza y comportamiento de las recomendaciones.
- B. Leer los resultadosResultados generales frente a resultados por grupo, errores del modelo e incertidumbre.
- C. Justicia y privacidadDatos poco representados, datos personales innecesarios y revisión humana.
- D. DesinformaciónFuente, fecha, contexto y evidencia independiente.
Responde las 10 preguntas de las secciones A a D. Con 7 correctas apruebas con solidez, pero no necesitas un puntaje perfecto para terminar el curso.
Question 1. El recomendador de PathwayAI aprende de miles de decisiones que tomaron estudiantes antes. ¿Qué lo hace IA y no un programa tradicional?
Question 2. El equipo probó el recomendador solo con los mismos estudiantes con los que aprendió. ¿Por qué es un problema?
Question 3. El chatbot responde a una familia con “95 % de confianza”. ¿Qué significa esa confianza?
Question 4. PathwayAI le sigue recomendando el mismo tipo de actividad a un estudiante que siempre eligió deportes. ¿Qué está pasando?
Question 5. Lee la gráfica de exactitud. ¿Qué revela?
Exactitud de PathwayAI al marcar solicitudes General91Grupo A94Grupo B62Los valores se muestran en % de acierto.
Exactitud en porcentaje. General: 91 %. Solicitantes del grupo A: 94 %. Solicitantes del grupo B: 62 %. El número general esconde que al grupo B lo trata mucho peor.
Question 6. Lee la matriz de confusión. ¿Cuál es el error más común?
Resultados del marcado (filas = real, columnas = predicho) Predicho Real Aprobar Revisar Aprobar 40 18 Revisar 5 37 Fila real “aprobar”: 40 predichas como aprobar, 18 como revisar. Fila real “revisar”: 5 predichas como aprobar, 37 como revisar. El error más grande son 18 solicitudes aprobables enviadas a revisión por equivocación.
Question 7. En una solicitud, PathwayAI predice “revisar” con 54 % de confianza. ¿Cuál es la lectura responsable?
Confianza en una solicitud Revisar54Aprobar46Los valores se muestran en % de confianza.
Confianza: revisar 54 %, aprobar 46 %. Está casi empatado: el modelo no está seguro.
Question 8. Las solicitudes del grupo B se manejan peor y el grupo B está poco representado en los datos de entrenamiento. ¿Cuáles son buenas respuestas? Marca todas las que correspondan.
Marca todas las que correspondan.
Question 9. Para recomendar actividades, ¿qué datos NO necesita PathwayAI? Marca todos los que sean innecesarios o demasiado sensibles.
Marca todas las que correspondan.
Question 10. Una publicación viral dice “¡PathwayAI rechazó a 500 estudiantes la semana pasada!” con una foto dramática. ¿Qué deberías comprobar antes de creerlo? Marca todas las que correspondan.
Marca todas las que correspondan.
0 de 10 respondidas
E · Tu recomendación
Cualquiera de estas puede ser la decisión correcta: lo que importa es tu razonamiento. No incluyas información privada.
¿Qué cosas buenas podría lograr?
¿Qué podría salir mal?
¿Qué datos hacen falta y cuáles no?
¿A quién podrían tratar de forma desigual?
¿Quién revisa y cuándo?
¿Cómo puede alguien reclamar un resultado?
Elige una decisión · 0 de 6 razones escritas.
Reflexión final
Se guarda en este dispositivo. No incluyas información privada.