Semana 4 · Aula 3 · 50-60 minutos
Construa e questione as recomendações
Veja como os sistemas de recomendação usam similaridade e o seu retorno para sugerir o que vem a seguir, e questione como esse mesmo sistema pode te prender em uma bolha de filtro.
- Materiais
- Esta aula em um navegador web · Papel e lápis, ou um aplicativo de notas
- Esta aula
- Em andamento
Salva sozinho neste aparelho
O que você vai conseguir fazer
- Explicar como um sistema de recomendação usa similaridade para sugerir itens.
- Descrever como o seu retorno (curtidas, pulos, tempo assistido) treina as recomendações.
- Explicar o que é uma bolha de filtro e como as recomendações podem criar uma.
- Auditar um feed de recomendações e sugerir maneiras de ver uma variedade maior.
Para pensar
Você assiste a um vídeo sobre manobras de skate. Logo o seu feed inteiro é skate, e os vídeos de qualquer outro assunto somem. Como o aplicativo decidiu te mostrar só isso, e o que você pode estar perdendo?
Você vai aprender tanto como isso é construído quanto por que vale a pena questionar.
Faça uma previsão
Preveja: se um aplicativo de música só tocasse músicas parecidas com as suas três favoritas, que tipos de música você provavelmente nunca descobriria?
Vocabulário
Ver todo o vocabulário do curso- Recomendação
- Uma sugestão de algo de que você pode gostar em seguida (um vídeo, uma música, um produto ou uma publicação), escolhida por um sistema de IA.
- Similaridade
- O quanto dois itens ou duas pessoas se parecem. Os recomendadores sugerem itens parecidos com os de que você gostou, ou de que pessoas parecidas com você gostaram.
- Retorno
- Os sinais que você dá a um sistema (curtidas, pulos, cliques, tempo assistido) e que ele usa para aprender os seus gostos.
- Bolha de filtro
- Quando um sistema continua mostrando coisas parecidas, então você vê principalmente uma fatia estreita de ideias ou conteúdos e perde o resto.
As recomendações funcionam por similaridade
Um sistema de recomendação sugere itens medindo similaridade. Se você gostou de um vídeo, ele procura outros vídeos parecidos (mesmo assunto, estilo ou criador) ou vídeos de que pessoas parecidas com você também gostaram. E então coloca esses no topo do seu feed.
Isso é genuinamente útil: ajuda você a achar coisas de que gostaria sem precisar procurar. O sistema está respondendo a "o que é mais parecido com aquilo de que esta pessoa já gostou?".
- Gostou de um vídeo de culinária → recomenda mais vídeos de culinária
- "Quem comprou isto também comprou…" em um site de compras
- Uma estação de músicas montada a partir de um artista de que você gosta
O seu retorno treina o sistema
O sistema não conhece o seu gosto de antemão: ele aprende com o seu retorno. Cada curtida, pulo, clique, repetição e até quanto tempo você assiste é um sinal. Assistir até o fim conta como um forte "mais disso". Pular depois de dois segundos conta como "menos disso".
Ou seja, você está treinando o seu próprio feed o tempo todo, muitas vezes sem querer. Parar em um vídeo por tempo suficiente pode empurrar o sistema a te mostrar mais daquele tipo, quer você quisesse mais ou não.
- Terminar um vídeo → mais daquele assunto
- Pular rápido → menos daquele tipo
- Curtir uma publicação → mais daquele criador e de criadores parecidos
Bolhas de filtro: quando a similaridade estreita o seu mundo
Aqui está o compromisso honesto. Como o sistema continua te mostrando o que é mais parecido com aquilo de que você já gostou, o seu feed pode ficar cada vez mais estreito. Isso se chama bolha de filtro: você acaba vendo uma fatia só de conteúdo e perde inteiramente outros assuntos, pontos de vista e criadores.
Bolhas de filtro importam para além do entretenimento. Se um feed de notícias ou opiniões só te mostra visões com que você já concorda, você pode achar que todo mundo concorda, e raramente encontrar boas ideias que te desafiem. Bolhas de filtro não são causadas por uma IA "ruim": são um efeito colateral de um sistema fazendo exatamente aquilo para o que foi construído, maximizar a similaridade com o seu comportamento passado. Saber disso permite reagir: procurando assuntos novos, seguindo criadores diferentes, ou usando controles que acrescentam variedade.
- Um feed que vira só um hobby depois de um único vídeo
- Um feed de notícias que mostra só um lado de uma questão
- Um site de compras que nunca te mostra uma marca mais barata ou diferente
Exemplo resolvido
Como um clique pode encolher um feed
- Você abre um aplicativo de vídeos; o feed é variado: esportes, ciência, música, comédia, culinária.
- Você assiste a um vídeo de ciência inteiro, do começo ao fim. Isso é um forte retorno positivo.
- O sistema acha os vídeos mais parecidos com aquele e os sobe de posição, porque a similaridade diz "mostre mais parecido com o que a pessoa terminou".
- Você assiste a mais alguns vídeos de ciência; cada um que termina é mais retorno apontando na mesma direção.
- Agora o feed é quase todo de ciência. Os vídeos de música e comédia, de que você também poderia adorar, quase não aparecem: você escorregou para uma bolha de filtro construída com o seu próprio retorno.
- Para alargá-la, você procura de propósito um assunto novo, pula alguns vídeos de ciência, ou usa um controle de "não tenho interesse" para enviar outro retorno.
O essencial: Similaridade mais o seu retorno tornam as recomendações úteis, mas esse mesmo ciclo pode estreitar silenciosamente o seu feed até virar uma bolha de filtro, a não ser que você aja para alargá-lo.
Um fluxo circular com quatro etapas. Etapa 1: você assiste, curte ou pula algo (retorno). Etapa 2: o sistema atualiza o palpite dele sobre o seu gosto. Etapa 3: ele acha os itens mais parecidos com aquilo de que você gostou. Etapa 4: ele te mostra esses itens, o que molda o que você assiste em seguida, e a seta volta para a etapa 1. A legenda observa que o ciclo é útil, mas tende a se fechar em torno de um conjunto estreito de itens com o tempo, formando uma bolha de filtro.
O ciclo aprende rápido, mas cada volta pode puxar o seu feed para um conjunto mais estreito de itens parecidos.
Antes: um feed equilibrado com cinco assuntos em proporções mais ou menos iguais: esportes, ciência, música, comédia e culinária. Depois: após um vídeo de ciência assistido até o fim e mais alguns, esse mesmo feed agora é quase todo de ciência, com só fatias mínimas dos outros. A mudança mostra como similaridade e retorno podem transformar um feed variado em um estreito, e aponta ações (procurar assuntos novos, pular, marcar "não tenho interesse") que devolvem a variedade.
Atividade
Construtor de sistemas de recomendação
Construir um recomendador baseado em conteúdo: avaliar itens, escolher quais características importam, ler recomendações que se explicam sozinhas, e fazer um experimento de bolha de filtro.
- Avalie algumas atividades de que você gosta ou não. O recomendador monta um perfil com as suas notas.
- Ajuste quais características importam e depois leia as recomendações: cada uma explica por que apareceu.
- Faça o experimento da bolha de filtro: avalie só um tema, depois acrescente outro e compare.
Este catálogo é inventado. Não escreva informações pessoais: só avalie os itens que já estão aqui.
Poucos dados: Avalie pelo menos duas coisas para o recomendador ter com o que aprender.
3 · Recomendações
Projete um robô simples
pontuação 0.0
robots · activity · beginner · hands-on
Por que você está vendo isto
- Isto apareceu porque ainda não há avaliações suficientes para preferir algo específico.
Construa um rover de papelão
pontuação 0.0
space · activity · beginner · hands-on
Por que você está vendo isto
- Isto apareceu porque ainda não há avaliações suficientes para preferir algo específico.
Livro de habitats dos animais
pontuação 0.0
animals · book · beginner · reading
Por que você está vendo isto
- Isto apareceu porque ainda não há avaliações suficientes para preferir algo específico.
Faça uma nuvem num pote
pontuação 0.0
weather · activity · intermediate · hands-on
Por que você está vendo isto
- Isto apareceu porque ainda não há avaliações suficientes para preferir algo específico.
Exposição da estação espacial
pontuação 0.0
space · exhibit · intermediate · video
Por que você está vendo isto
- Isto apareceu porque ainda não há avaliações suficientes para preferir algo específico.
Livro ilustrado dos planetas
pontuação 0.0
space · book · beginner · reading
Por que você está vendo isto
- Isto apareceu porque ainda não há avaliações suficientes para preferir algo específico.
4 · Experimento da bolha de filtro
- Curta algumas coisas de um único tema e olhe abaixo os temas do feed.
- Tire um instantâneo, depois curta algo de outro tema e compare.
- Ative o modo explorar para ver como a variedade muda o feed.
Temas no seu feed atual (4 de 6 temas)
Temas do feed atual: Espaço 3, Robôs 1, Animais 1, Tempo 1.
Confira o que você entendeu
Responda a estas perguntas para conferir se você sabe explicar e questionar recomendações.
Question 1. O que um sistema de recomendação usa principalmente para decidir o que sugerir em seguida?
Question 2. Quais destas são maneiras de alargar um feed e escapar de uma bolha de filtro? (Escolha todas que se aplicam.)
Marque todas as que se aplicam.
Question 3. Qual alternativa explica melhor o que está acontecendo nesta situação?
Depois que Sam termina vários vídeos defendendo um lado de um debate escolar, o feed dele para de mostrar o outro lado por completo, e ele começa a sentir que todo mundo concorda com ele.
0 de 3 respondidas
Experimente você
Crie um recurso fura-bolha
Invente um recurso para um aplicativo de vídeo ou de música que ajude as pessoas a escapar de bolhas de filtro sem deixar as recomendações de serem úteis.
- Descreva o recurso e que botão ou controle o usuário veria.
- Explique como ele muda o retorno ou a similaridade que o sistema usa.
- Aponte uma desvantagem (por exemplo, alguns usuários podem não querer mais variedade) e como você lidaria com ela.
Você conseguiu quando
- Um recurso claro, com um controle que o usuário possa usar.
- Uma explicação de como ele alarga o feed.
- Uma desvantagem honesta e uma resposta a ela.
Reflexão
Salva neste aparelho enquanto você escreve
Por favor, não inclua informações privadas. As suas respostas ficam salvas só neste navegador e nunca são enviadas para lugar nenhum.
Recapitulando
Os sistemas de recomendação usam similaridade e o seu retorno para sugerir o que vem a seguir, o que é útil, mas pode estreitar o seu feed até virar uma bolha de filtro, a não ser que você aja para alargá-lo.
- Os recomendadores sugerem itens parecidos com os de que você (ou pessoas como você) gostou.
- As suas curtidas, pulos e tempo assistido são o retorno que treina o seu feed.
- Esse mesmo ciclo pode criar bolhas de filtro; procurar e dar retornos variados alargam o feed.
Extensão para o 7.º e 8.º ano
Quem se beneficia do seu retorno?
Sistemas de recomendação muitas vezes são projetados para manter você assistindo, porque mais tempo assistido pode significar mais lucro para a empresa. Esse objetivo nem sempre coincide com o seu objetivo de aprender de forma ampla ou de usar bem o seu tempo.
Explique como o objetivo de uma empresa (mais tempo assistido) e o de um usuário (variedade, tempo bem gasto) podem puxar para lados diferentes, e sugira uma mudança de projeto honesta que serviria melhor aos usuários mesmo que reduzisse o tempo assistido.
Termine esta aula
- Attempt the knowledge check: não feito
- Save a reflection (recommended): não feito
Faça a checagem de conhecimentos para terminar esta aula.