Week 4 · Lesson 3 · 50-60 minutos
Construa e questione as recomendações
Veja como os sistemas de recomendação usam similaridade e o seu retorno para sugerir o que vem a seguir, e questione como esse mesmo sistema pode te prender em uma bolha de filtro.
- Materials
- Esta aula em um navegador web · Papel e lápis, ou um aplicativo de notas
- This lesson
- In progress
Auto-saves on this device
What you'll be able to do
- Explicar como um sistema de recomendação usa similaridade para sugerir itens.
- Descrever como o seu retorno (curtidas, pulos, tempo assistido) treina as recomendações.
- Explicar o que é uma bolha de filtro e como as recomendações podem criar uma.
- Auditar um feed de recomendações e sugerir maneiras de ver uma variedade maior.
Think about it
Você assiste a um vídeo sobre manobras de skate. Logo o seu feed inteiro é skate, e os vídeos de qualquer outro assunto somem. Como o aplicativo decidiu te mostrar só isso, e o que você pode estar perdendo?
Você vai aprender tanto como isso é construído quanto por que vale a pena questionar.
Make a prediction
Preveja: se um aplicativo de música só tocasse músicas parecidas com as suas três favoritas, que tipos de música você provavelmente nunca descobriria?
Vocabulary
See the full course vocabulary- Recomendação
- Uma sugestão de algo de que você pode gostar em seguida (um vídeo, uma música, um produto ou uma publicação), escolhida por um sistema de IA.
- Similaridade
- O quanto dois itens ou duas pessoas se parecem. Os recomendadores sugerem itens parecidos com os de que você gostou, ou de que pessoas parecidas com você gostaram.
- Retorno
- Os sinais que você dá a um sistema (curtidas, pulos, cliques, tempo assistido) e que ele usa para aprender os seus gostos.
- Bolha de filtro
- Quando um sistema continua mostrando coisas parecidas, então você vê principalmente uma fatia estreita de ideias ou conteúdos e perde o resto.
As recomendações funcionam por similaridade
Um sistema de recomendação sugere itens medindo similaridade. Se você gostou de um vídeo, ele procura outros vídeos parecidos (mesmo assunto, estilo ou criador) ou vídeos de que pessoas parecidas com você também gostaram. E então coloca esses no topo do seu feed.
Isso é genuinamente útil: ajuda você a achar coisas de que gostaria sem precisar procurar. O sistema está respondendo a "o que é mais parecido com aquilo de que esta pessoa já gostou?".
- Gostou de um vídeo de culinária → recomenda mais vídeos de culinária
- "Quem comprou isto também comprou…" em um site de compras
- Uma estação de músicas montada a partir de um artista de que você gosta
O seu retorno treina o sistema
O sistema não conhece o seu gosto de antemão: ele aprende com o seu retorno. Cada curtida, pulo, clique, repetição e até quanto tempo você assiste é um sinal. Assistir até o fim conta como um forte "mais disso". Pular depois de dois segundos conta como "menos disso".
Ou seja, você está treinando o seu próprio feed o tempo todo, muitas vezes sem querer. Parar em um vídeo por tempo suficiente pode empurrar o sistema a te mostrar mais daquele tipo, quer você quisesse mais ou não.
- Terminar um vídeo → mais daquele assunto
- Pular rápido → menos daquele tipo
- Curtir uma publicação → mais daquele criador e de criadores parecidos
Bolhas de filtro: quando a similaridade estreita o seu mundo
Aqui está o compromisso honesto. Como o sistema continua te mostrando o que é mais parecido com aquilo de que você já gostou, o seu feed pode ficar cada vez mais estreito. Isso se chama bolha de filtro: você acaba vendo uma fatia só de conteúdo e perde inteiramente outros assuntos, pontos de vista e criadores.
Bolhas de filtro importam para além do entretenimento. Se um feed de notícias ou opiniões só te mostra visões com que você já concorda, você pode achar que todo mundo concorda, e raramente encontrar boas ideias que te desafiem. Bolhas de filtro não são causadas por uma IA "ruim": são um efeito colateral de um sistema fazendo exatamente aquilo para o que foi construído, maximizar a similaridade com o seu comportamento passado. Saber disso permite reagir: procurando assuntos novos, seguindo criadores diferentes, ou usando controles que acrescentam variedade.
- Um feed que vira só um hobby depois de um único vídeo
- Um feed de notícias que mostra só um lado de uma questão
- Um site de compras que nunca te mostra uma marca mais barata ou diferente
Worked example
Como um clique pode encolher um feed
- Você abre um aplicativo de vídeos; o feed é variado: esportes, ciência, música, comédia, culinária.
- Você assiste a um vídeo de ciência inteiro, do começo ao fim. Isso é um forte retorno positivo.
- O sistema acha os vídeos mais parecidos com aquele e os sobe de posição, porque a similaridade diz "mostre mais parecido com o que a pessoa terminou".
- Você assiste a mais alguns vídeos de ciência; cada um que termina é mais retorno apontando na mesma direção.
- Agora o feed é quase todo de ciência. Os vídeos de música e comédia, de que você também poderia adorar, quase não aparecem: você escorregou para uma bolha de filtro construída com o seu próprio retorno.
- Para alargá-la, você procura de propósito um assunto novo, pula alguns vídeos de ciência, ou usa um controle de "não tenho interesse" para enviar outro retorno.
Takeaway: Similaridade mais o seu retorno tornam as recomendações úteis, mas esse mesmo ciclo pode estreitar silenciosamente o seu feed até virar uma bolha de filtro, a não ser que você aja para alargá-lo.
Um fluxo circular com quatro etapas. Etapa 1: você assiste, curte ou pula algo (retorno). Etapa 2: o sistema atualiza o palpite dele sobre o seu gosto. Etapa 3: ele acha os itens mais parecidos com aquilo de que você gostou. Etapa 4: ele te mostra esses itens, o que molda o que você assiste em seguida, e a seta volta para a etapa 1. A legenda observa que o ciclo é útil, mas tende a se fechar em torno de um conjunto estreito de itens com o tempo, formando uma bolha de filtro.
O ciclo aprende rápido, mas cada volta pode puxar o seu feed para um conjunto mais estreito de itens parecidos.
Antes: um feed equilibrado com cinco assuntos em proporções mais ou menos iguais: esportes, ciência, música, comédia e culinária. Depois: após um vídeo de ciência assistido até o fim e mais alguns, esse mesmo feed agora é quase todo de ciência, com só fatias mínimas dos outros. A mudança mostra como similaridade e retorno podem transformar um feed variado em um estreito, e aponta ações (procurar assuntos novos, pular, marcar "não tenho interesse") que devolvem a variedade.
Activity
Construtor de sistemas de recomendação
Construir um recomendador baseado em conteúdo: avaliar itens, escolher quais características importam, ler recomendações que se explicam sozinhas, e fazer um experimento de bolha de filtro.
- Rate a few activities you like or don't. The recommender builds a profile from your ratings.
- Adjust which features matter, then read the recommendations — each one explains why it appeared.
- Run the filter-bubble experiment: rate one topic only, then add a different topic and compare.
This catalog is made up. Don't enter personal information — just rate the built-in items.
Low data: Rate at least two items so the recommender has enough to learn from.
3 · Recommendations
Design a Simple Robot
score 0.0
robots · activity · beginner · hands-on
Why you're seeing this
- This appeared because there isn't enough rating information yet to prefer anything specific.
Build a Cardboard Rover
score 0.0
space · activity · beginner · hands-on
Why you're seeing this
- This appeared because there isn't enough rating information yet to prefer anything specific.
Animal Habitats Book
score 0.0
animals · book · beginner · reading
Why you're seeing this
- This appeared because there isn't enough rating information yet to prefer anything specific.
Make a Cloud in a Jar
score 0.0
weather · activity · intermediate · hands-on
Why you're seeing this
- This appeared because there isn't enough rating information yet to prefer anything specific.
Space Station Exhibit
score 0.0
space · exhibit · intermediate · video
Why you're seeing this
- This appeared because there isn't enough rating information yet to prefer anything specific.
Planets Picture Book
score 0.0
space · book · beginner · reading
Why you're seeing this
- This appeared because there isn't enough rating information yet to prefer anything specific.
4 · Filter-bubble experiment
- Like a few items from just one topic and look at the feed's topics below.
- Snapshot it, then like an item from a different topic and compare.
- Turn on Explore mode to see how variety changes the feed.
Topics in your current feed (4 of 6 topics)
Current feed topics: space 3, robots 1, animals 1, weather 1.
Check your understanding
Responda a estas perguntas para conferir se você sabe explicar e questionar recomendações.
Question 1. O que um sistema de recomendação usa principalmente para decidir o que sugerir em seguida?
Question 2. Quais destas são maneiras de alargar um feed e escapar de uma bolha de filtro? (Escolha todas que se aplicam.)
Select all that apply.
Question 3. Qual alternativa explica melhor o que está acontecendo nesta situação?
Depois que Sam termina vários vídeos defendendo um lado de um debate escolar, o feed dele para de mostrar o outro lado por completo, e ele começa a sentir que todo mundo concorda com ele.
0 of 3 answered
Try it yourself
Crie um recurso fura-bolha
Invente um recurso para um aplicativo de vídeo ou de música que ajude as pessoas a escapar de bolhas de filtro sem deixar as recomendações de serem úteis.
- Descreva o recurso e que botão ou controle o usuário veria.
- Explique como ele muda o retorno ou a similaridade que o sistema usa.
- Aponte uma desvantagem (por exemplo, alguns usuários podem não querer mais variedade) e como você lidaria com ela.
Success looks like
- Um recurso claro, com um controle que o usuário possa usar.
- Uma explicação de como ele alarga o feed.
- Uma desvantagem honesta e uma resposta a ela.
Reflection
Saved on this device as you type
Please don't include private information. Your answers are saved only in this browser and are never sent anywhere.
Recap
Os sistemas de recomendação usam similaridade e o seu retorno para sugerir o que vem a seguir, o que é útil, mas pode estreitar o seu feed até virar uma bolha de filtro, a não ser que você aja para alargá-lo.
- Os recomendadores sugerem itens parecidos com os de que você (ou pessoas como você) gostou.
- As suas curtidas, pulos e tempo assistido são o retorno que treina o seu feed.
- Esse mesmo ciclo pode criar bolhas de filtro; procurar e dar retornos variados alargam o feed.
Grades 7–8 extension
Quem se beneficia do seu retorno?
Sistemas de recomendação muitas vezes são projetados para manter você assistindo, porque mais tempo assistido pode significar mais lucro para a empresa. Esse objetivo nem sempre coincide com o seu objetivo de aprender de forma ampla ou de usar bem o seu tempo.
Explique como o objetivo de uma empresa (mais tempo assistido) e o de um usuário (variedade, tempo bem gasto) podem puxar para lados diferentes, e sugira uma mudança de projeto honesta que serviria melhor aos usuários mesmo que reduzisse o tempo assistido.
Finish this lesson
- Attempt the knowledge check — not done
- Save a reflection (recommended) — not done
Attempt the knowledge check to finish this lesson.