Semana 5 · Aula 3 · 50-60 minutos
Investigue conteúdo de IA e tome uma decisão ética
Aprenda a verificar conteúdo feito por IA e conteúdo on-line achando a fonte original, conferindo o contexto e confirmando de forma independente, e depois tome uma decisão ética com supervisão humana e direito de recurso.
- Materiais
- Esta aula em um navegador web · Papel e lápis, ou um aplicativo de notas
- Esta aula
- Em andamento
Salva sozinho neste aparelho
O que você vai conseguir fazer
- Definir deepfake e desinformação e explicar como eles podem enganar.
- Verificar uma afirmação achando a fonte original dela e conferindo o contexto.
- Usar a confirmação independente de fontes separadas e confiáveis.
- Explicar por que decisões importantes de uma IA precisam de supervisão humana e de direito de recurso.
Para pensar
Um vídeo se espalha na internet mostrando uma cientista famosa dizendo algo chocante. Parece e soa real. Antes de acreditar ou compartilhar, o que você iria querer conferir primeiro?
A IA já consegue criar imagens, vídeos e áudios falsos muito convincentes, então "parece real" não basta mais para confiar em algo.
Faça uma previsão
Preveja: se a mesma afirmação surpreendente aparece em cinco contas que todas copiaram uma única publicação, isso conta como cinco confirmações independentes?
Vocabulário
Ver todo o vocabulário do curso- Deepfake
- Uma foto, um vídeo ou um áudio feito ou alterado por IA para mostrar uma pessoa dizendo ou fazendo algo que ela não disse nem fez de verdade.
- Desinformação
- Informação falsa ou enganosa que se espalha, quer quem compartilha tenha a intenção de enganar, quer não.
- Fonte original
- O primeiro lugar de onde uma afirmação, citação ou imagem realmente veio, antes de ser copiada ou recompartilhada.
- Contexto
- Toda a história em volta (quando, onde e por que algo aconteceu) que dá a um fato o significado real dele.
- Confirmação independente
- Conferir uma afirmação em duas ou mais fontes separadas e confiáveis que não simplesmente copiaram uma à outra.
- Supervisão humana
- Uma pessoa revisando e continuando responsável pelas decisões importantes de uma IA, em vez de deixar o software decidir sozinho.
- Recurso
- O direito de pedir que uma pessoa revise e possivelmente mude uma decisão que uma IA tomou sobre você.
Deepfakes e desinformação: por que "parece real" não é prova
Um deepfake é uma foto, um vídeo ou um áudio que a IA criou ou alterou para mostrar uma pessoa dizendo ou fazendo algo que ela nunca fez. Como a IA fica cada vez melhor nisso, um vídeo pode parecer e soar convincente e ainda assim ser falso.
Desinformação é informação falsa ou enganosa que se espalha. Nem sempre é um deepfake, e quem compartilha nem sempre quer enganar: uma foto real pode circular com uma legenda falsa. De todo jeito, a solução é a mesma: não confie em algo só porque parece real ou porque muita gente compartilhou.
- Um vídeo em que a boca e a voz de uma pessoa foram alteradas por IA para forjar uma citação.
- Uma foto antiga e real recompartilhada com a alegação falsa de que aconteceu hoje.
- Uma "estatística" inventada, repetida tantas vezes que começa a parecer verdade.
Ache a fonte original e confira o contexto
Para verificar uma afirmação, rastreie-a até a fonte original: o primeiro lugar de onde ela realmente veio, antes de ser copiada e recompartilhada. Uma captura de tela de uma citação não é a fonte; a reportagem, o vídeo ou a página oficial de verdade são. Se você não consegue achar nenhuma fonte original, isso é um sinal de alerta.
Depois confira o contexto: quando, onde e por que aquilo aconteceu. Uma foto real pode enganar se for antiga, de outro lugar, ou se faltar a história em volta. O contexto é o que transforma um fato solto em um fato honesto.
- Rastrear uma citação até a entrevista completa de onde ela foi recortada.
- Descobrir que uma foto de "última hora" é na verdade de um evento de anos atrás.
- Ler a declaração inteira e ver que uma citação foi cortada no meio da frase.
Confirmação independente: fontes separadas, e não ecos
Uma fonte só pode estar errada, então afirmações fortes precisam de confirmação independente: duas ou mais fontes separadas e confiáveis que não simplesmente copiaram uma à outra. Dez contas recompartilhando a mesma publicação continuam sendo uma única fonte ecoando, e não dez confirmações.
Para confirmar de forma independente, procure reportagens ou registros que tenham chegado à afirmação por conta própria: outro veículo de imprensa, uma página oficial, uma pessoa especialista. Se fontes independentes concordam, é bem mais provável que a afirmação seja verdadeira. Se só uma fonte tem aquilo, continue cauteloso.
- Dois veículos de imprensa distintos que cada um noticiou por conta própria.
- A página da própria organização oficial confirmando o próprio anúncio dela.
- Perceber que cinco "fontes" apontam todas para a mesma publicação única.
Supervisão humana e o direito de recurso
A IA pode ajudar a sinalizar possíveis falsificações ou a organizar informação, mas ela erra, então decisões importantes precisam de supervisão humana: uma pessoa que revisa a decisão e continua responsável por ela. Isso importa mais quando uma decisão afeta a vida de alguém, como marcar uma publicação como falsa, avaliar um trabalho ou bloquear uma conta.
Quem é afetado por uma decisão de IA também deveria ter direito de recurso: poder pedir que uma pessoa revise a decisão e a mude se a IA errou. Supervisão e recurso são o jeito de manter as pessoas, e não o software, no comando das decisões que importam.
- Uma pessoa revisando as publicações que uma IA sinalizou antes de qualquer uma ser removida.
- Um aluno pedindo à professora que reveja uma resposta avaliada por IA.
- Uma pessoa recorrendo a um humano depois de uma IA bloquear a conta dela por engano.
Exemplo resolvido
Investigando um vídeo viral chocante
- Pare antes de compartilhar. O vídeo é surpreendente e emocionante, que é justamente quando a desinformação se espalha mais rápido.
- Ache a fonte original. Procure o vídeo completo ou a declaração oficial, e não só o trecho curto que alguém republicou.
- Confira o contexto. Repare que o trecho foi recortado de uma palestra mais longa em que a pessoa disse o contrário; a citação foi tirada de contexto.
- Confirme de forma independente. Procure uma fonte separada e confiável. Nenhum veículo independente noticia a afirmação chocante, um forte sinal de que ela não é real.
- Decida com supervisão e recurso. Como há muito em jogo, uma pessoa moderadora, e não a IA sozinha, revisa e rotula como enganoso, e quem publicou pode recorrer se tiver provas reais.
O essencial: Verifique por fonte e contexto, confirme de forma independente, e mantenha uma pessoa no comando com um caminho de recurso antes de agir diante de uma afirmação séria.
Um fluxo de quatro passos para conferir uma afirmação antes de acreditar ou compartilhar. Passo 1: ache a fonte original (o primeiro lugar de onde veio, e não uma captura de tela). Passo 2: confira o contexto (quando, onde e por que aconteceu). Passo 3: confirme de forma independente (duas ou mais fontes separadas e confiáveis que não copiaram uma à outra). Passo 4: decida com supervisão humana e mantenha um direito de recurso. Se algum passo falhar, não compartilhe aquilo como verdade.
Siga os quatro passos em ordem; uma afirmação que falha em um passo não deve ser compartilhada como verdade.
| O que você encontrou | É confirmação independente? |
|---|---|
| Cinco republicações da mesma publicação original | Não, uma única fonte ecoando |
| Dois veículos de imprensa distintos, cada um noticiando por conta própria | Sim, é independente |
| Uma organização oficial confirmando a própria notícia | Sim, fonte confiável |
| Uma conta anônima sem nenhuma fonte ligada | Não, verifique antes de confiar |
Uma tabela distinguindo confirmação independente real do eco de uma única fonte. Cinco republicações da mesma publicação original: não é independente, porque todas remetem a uma única fonte. Dois veículos de imprensa diferentes noticiando por conta própria: independente, porque chegaram à afirmação separadamente. Uma organização oficial confirmando a própria notícia: independente e confiável. Uma conta anônima sem fonte: não é confirmação, trate com cautela.
Atividade
Investigação de conteúdo e decisão ética
Investigar publicações fictícias usando provas de fonte e contexto, e depois atuar como comitê de ética diante de sistemas de IA propostos e desenhar um processo de recurso.
- Parte 1 — investigue as publicações: faça as sete checagens de fonte e contexto e depois julgue cada uma.
- Parte 2 — comitê de ética: avalie um sistema de IA proposto, escolha uma decisão e selecione salvaguardas.
- Parte 3 — projete um recurso: como uma pessoa fica sabendo que a IA participou, obtém uma explicação e tem o caso revisado.
Every post, school, and person here is fictional. No real accounts are visited. Don't put personal details in your notes.
Parte 1 · Investigue as publicações
Um “detalhe visual” como mãos estranhas ou texto esquisito não é um jeito confiável de identificar conteúdo de IA; conferir a fonte, a data e o contexto original é.
O clube de arte compartilha um cartaz feito com IA e diz isso
Ilustração gerada com IA, rotulada com honestidade
Uma ilustração colorida de um robô pintando, com uma legenda clara: “Ilustração gerada com IA pelo Clube de Arte”.
Afirmação: Esta imagem do cartaz foi feita com uma ferramenta de IA.
Evidência (7/7 checagens parecem boas)
- OK:Quem publicou? Publicado por: Clube de Arte da escola (com nome).
- OK:Dá para achar a fonte original? Dá para achar uma fonte original.
- OK:A data está certa? A data bate com a do original.
- OK:A legenda bate com o contexto original? A legenda bate com o contexto original.
- OK:Tem evidência? Há evidência de apoio.
- OK:Fontes confiáveis e independentes confirmam? Fontes confiáveis e independentes confirmam.
- OK:Ele empurra uma reação emocional antes de mostrar evidência? Ele não te apressa emocionalmente.
O seu julgamento:“A nossa cidade alagou ontem à noite!”, com uma foto dramática
Imagem real com uma legenda enganosa
Uma foto real de uma rua alagada, com uma legenda que a apresenta como se tivesse acontecido ontem à noite na cidade de quem lê.
Afirmação: Esta foto da enchente é da nossa cidade ontem à noite.
Evidência (1/7 checagens parecem boas)
- Alerta:Quem publicou? Publicado por: Conta anônima.
- OK:Dá para achar a fonte original? Dá para achar uma fonte original.
- Alerta:A data está certa? A data não bate com a do original.
- Alerta:A legenda bate com o contexto original? A legenda muda ou distorce o contexto original.
- Alerta:Tem evidência? Não há nenhuma evidência de apoio.
- Alerta:Fontes confiáveis e independentes confirmam? Nenhuma fonte independente confirma.
- Alerta:Ele empurra uma reação emocional antes de mostrar evidência? Ele empurra uma reação emocional antes de mostrar evidência.
O seu julgamento:“Os robôs estão tomando a escola!”
Imagem real colocada no contexto errado
Uma foto de uma competição de robótica, com uma legenda que insinua que os robôs estão substituindo os professores.
Afirmação: Os robôs substituíram os professores nesta escola.
Evidência (2/7 checagens parecem boas)
- Alerta:Quem publicou? Publicado por: Blog de fãs.
- OK:Dá para achar a fonte original? Dá para achar uma fonte original.
- OK:A data está certa? A data bate com a do original.
- Alerta:A legenda bate com o contexto original? A legenda muda ou distorce o contexto original.
- Alerta:Tem evidência? Não há nenhuma evidência de apoio.
- Alerta:Fontes confiáveis e independentes confirmam? Nenhuma fonte independente confirma.
- Alerta:Ele empurra uma reação emocional antes de mostrar evidência? Ele empurra uma reação emocional antes de mostrar evidência.
O seu julgamento:A diretora “confirma” que não haverá mais lição de casa
Citação inventada
Uma publicação de texto com uma citação atribuída à diretora da escola.
Afirmação: A diretora disse que a lição de casa está proibida para sempre.
Evidência (0/7 checagens parecem boas)
- Alerta:Quem publicou? Publicado por: Página de memes.
- Alerta:Dá para achar a fonte original? Não dá para achar nenhuma fonte original.
- Alerta:A data está certa? A data não dá para conferir.
- Alerta:A legenda bate com o contexto original? A legenda muda ou distorce o contexto original.
- Alerta:Tem evidência? Não há nenhuma evidência de apoio.
- Alerta:Fontes confiáveis e independentes confirmam? Nenhuma fonte independente confirma.
- Alerta:Ele empurra uma reação emocional antes de mostrar evidência? Ele empurra uma reação emocional antes de mostrar evidência.
O seu julgamento:“A feira de ciências foi cancelada, hoje!”
Data falsa
Uma captura de um aviso com a data de hoje sobre um evento cancelado.
Afirmação: A feira de ciências foi cancelada hoje.
Evidência (2/7 checagens parecem boas)
- Alerta:Quem publicou? Publicado por: Captura republicada.
- OK:Dá para achar a fonte original? Dá para achar uma fonte original.
- Alerta:A data está certa? A data não bate com a do original.
- OK:A legenda bate com o contexto original? A legenda bate com o contexto original.
- Alerta:Tem evidência? Não há nenhuma evidência de apoio.
- Alerta:Fontes confiáveis e independentes confirmam? Nenhuma fonte independente confirma.
- Alerta:Ele empurra uma reação emocional antes de mostrar evidência? Ele empurra uma reação emocional antes de mostrar evidência.
O seu julgamento:“90% dos estudantes preferem robôs à lição de casa”
Afirmação sem fonte original
Uma estatística em letras grandes, sem link nem estudo citado.
Afirmação: 90% dos estudantes preferem robôs à lição de casa.
Evidência (2/7 checagens parecem boas)
- Alerta:Quem publicou? Publicado por: Desconhecido.
- Alerta:Dá para achar a fonte original? Não dá para achar nenhuma fonte original.
- Alerta:A data está certa? A data não dá para conferir.
- OK:A legenda bate com o contexto original? A legenda bate com o contexto original.
- Alerta:Tem evidência? Não há nenhuma evidência de apoio.
- Alerta:Fontes confiáveis e independentes confirmam? Nenhuma fonte independente confirma.
- OK:Ele empurra uma reação emocional antes de mostrar evidência? Ele não te apressa emocionalmente.
O seu julgamento:A rede de ensino publica o cronograma oficial da feira de ciências
Afirmação apoiada por uma fonte original confiável
Um cronograma no site oficial da rede de ensino, com data clara e um contato.
Afirmação: A feira de ciências é na data que aparece no site da rede.
Evidência (7/7 checagens parecem boas)
- OK:Quem publicou? Publicado por: Rede de ensino (site oficial).
- OK:Dá para achar a fonte original? Dá para achar uma fonte original.
- OK:A data está certa? A data bate com a do original.
- OK:A legenda bate com o contexto original? A legenda bate com o contexto original.
- OK:Tem evidência? Há evidência de apoio.
- OK:Fontes confiáveis e independentes confirmam? Fontes confiáveis e independentes confirmam.
- OK:Ele empurra uma reação emocional antes de mostrar evidência? Ele não te apressa emocionalmente.
O seu julgamento:“COMPARTILHE JÁ ou a sua turma perde o passeio!!!”
Publicação feita para provocar uma reação emocional
Uma publicação em letras maiúsculas com linguagem urgente exigindo compartilhamentos antes que seja “tarde demais”.
Afirmação: Compartilhar esta publicação vai salvar o passeio da sua turma.
Evidência (0/7 checagens parecem boas)
- Alerta:Quem publicou? Publicado por: Corrente anônima.
- Alerta:Dá para achar a fonte original? Não dá para achar nenhuma fonte original.
- Alerta:A data está certa? A data não dá para conferir.
- Alerta:A legenda bate com o contexto original? A legenda muda ou distorce o contexto original.
- Alerta:Tem evidência? Não há nenhuma evidência de apoio.
- Alerta:Fontes confiáveis e independentes confirmam? Nenhuma fonte independente confirma.
- Alerta:Ele empurra uma reação emocional antes de mostrar evidência? Ele empurra uma reação emocional antes de mostrar evidência.
O seu julgamento:
Esta atividade não consegue detectar perfeitamente conteúdo feito com IA, e nem tenta: ela confere fontes e contexto, que é o que realmente se sustenta.
Parte 2 · Comitê de ética de IA
Proposta: Sugerir livros da biblioteca com base no que o estudante pegou emprestado antes.
Benefício esperado: Ajuda os estudantes a descobrir livros de que podem gostar.
Erros prováveis: Recomendar um conjunto estreito (bolha de filtro); Deixar de fora livros diferentes dos anteriores
Pessoas afetadas: Estudantes, Bibliotecários
Nível de risco: baixo. Uma simples prateleira de “mais pedidos do mês” funcionaria quase tão bem com muito menos dados.
A sua decisão
Salvaguardas que você exigiria
Parte 3 · Projete um processo de recurso
IA de alto impacto precisa de um caminho para as pessoas entenderem e questionarem uma decisão. Projete um:
0 de 6 partes projetadas: complete o resto para terminar o processo de recurso.
Confira o que você entendeu
Responda a estas perguntas para conferir se você sabe verificar conteúdo e raciocinar sobre supervisão e recurso.
Question 1. Coloque em uma ordem sensata os passos de verificar uma afirmação surpreendente.
- 1.Achar a fonte original de onde a afirmação veio
- 2.Conferir o contexto: quando, onde e por que aconteceu
- 3.Confirmá-la com duas ou mais fontes independentes
- 4.Decidir o que fazer, com uma pessoa revisando a decisão
Question 2. Qual destas é uma verdadeira confirmação independente de uma afirmação?
Question 3. Qual é o jeito mais responsável de lidar com esta decisão de IA?
Um aplicativo escolar usa IA para sinalizar redações que ele prevê terem sido copiadas. Ele sinaliza a redação de Priya, que ela mesma escreveu.
0 de 3 respondidas
Experimente você
Escreva um guia de verificação
Faça um guia curto que um amigo possa usar para conferir se uma publicação viral é confiável antes de compartilhar.
- Escreva os quatro passos: fonte original, contexto, confirmação independente e uma conferência humana.
- Para cada passo, acrescente uma pergunta simples que a pessoa possa se fazer.
- Acrescente uma linha sobre quando uma decisão precisa de supervisão humana e de um caminho de recurso.
Você conseguiu quando
- Os quatro passos de verificação aparecem em uma ordem clara.
- Cada passo tem uma pergunta simples e utilizável.
- O guia menciona a supervisão humana e o direito de recurso.
Reflexão
Salva neste aparelho enquanto você escreve
Por favor, não inclua informações privadas. As suas respostas ficam salvas só neste navegador e nunca são enviadas para lugar nenhum.
Recapitulando
Como a IA consegue falsificar e espalhar conteúdo convincente, verifique por fonte e contexto, confirme de forma independente, e mantenha as pessoas no comando com direito de recurso.
- Deepfakes e desinformação significam que "parece real" não é prova.
- Rastreie as afirmações até a fonte original e confira o contexto em volta delas.
- Confirmação independente exige fontes separadas, e não cópias de uma única publicação.
- Decisões importantes de IA precisam de supervisão humana e de direito de recurso.
Extensão para o 7.º e 8.º ano
Quando a pressa briga com a exatidão
Na internet, ser o primeiro muitas vezes rende mais atenção do que estar certo, então conteúdo enganoso pode se espalhar antes que alguém verifique. Verificar com cuidado leva um tempo que um feed acelerado não recompensa.
Descreva uma situação em que a pressão para compartilhar rápido entra em conflito com os passos de verificar uma afirmação. O que uma plataforma, ou uma pessoa, poderia fazer para tornar a escolha correta mais fácil do que a rápida?
Termine esta aula
- Attempt the knowledge check: não feito
- Save a reflection (recommended): não feito
Faça a checagem de conhecimentos para terminar esta aula.