Semana 6 · Aula 3 · 50-65 minutos

Apresente, revise e explore as carreiras em IA

Termine com força: apresente o seu projeto com honestidade, incluindo as limitações dele e a supervisão humana de que ele precisa, dê e receba retorno útil, e explore o que as pessoas que constroem, regulam e projetam IA realmente fazem.

Materiais: Esta aula em um navegador web · Papel e lápis, ou um aplicativo de notas
Esta aula: Em andamento
Salva sozinho neste aparelho

O que você vai conseguir fazer

Apresentar um projeto com clareza: o problema, o seu projeto, os seus testes e as limitações dele.
Explicar a supervisão e o uso responsável de que o seu projeto precisa para ser confiável.
Dar e receber um retorno específico, gentil e útil em uma revisão.
Descrever várias carreiras reais em IA: as pessoas que constroem, regulam e projetam IA.

Para pensar

Duas equipes apresentam projetos de separação de resíduos. Uma diz: "Funciona perfeitamente!". A outra diz: "Ele acerta na maioria das vezes, mas tem dificuldade com papel engordurado, então uma pessoa confere esses casos". Em qual equipe você confia mais, e por quê?

Uma apresentação honesta, que aponta limitações e supervisão, ganha mais confiança do que uma promessa grandiosa.

Faça uma previsão

Preveja: os projetos mais fortes vão ser os que garantem não errar, ou os que explicam com clareza as limitações deles e como uma pessoa fica de olho?

Vocabulário

Ver todo o vocabulário do curso

Limitação: Uma situação em que um sistema erra, não consegue decidir, ou não deveria ser considerado confiável; algo que projetos honestos dizem abertamente.
Supervisão: Uma pessoa continuar responsável por conferir e corrigir as decisões de uma IA, principalmente quando um erro pode pesar.
Uso responsável: Usar a IA de um jeito justo, honesto e seguro, que respeite a privacidade das pessoas, deixando claro o que ela pode e o que não pode fazer.
Carreira em IA: Um trabalho em que as pessoas constroem, estudam, regulam ou projetam sistemas de IA e o modo como eles são usados.

Apresente com honestidade: problema, projeto, testes e limitações

Uma apresentação forte conta uma história clara: aqui está a necessidade da pessoa usuária e a definição do problema, aqui está o meu projeto (entrada, saída, características, rótulos, regras), foi assim que testei, e foi isto que encontrei, incluindo as limitações. Apontar limitações não é fraqueza; mostra que você entende o seu próprio sistema.

Evite prometer demais. "Funciona perfeitamente" quase nunca é verdade e perde a confiança no instante em que alguém acha uma falha. "Acerta na maioria dos casos, mas tem dificuldade com X" é honesto, e é exatamente o que um público atento quer ouvir.

"Entrada: a foto de um item. Saída: reciclagem, compostagem ou lixo comum."
"Passou em 7 de 9 casos de teste; falha com papel engordurado e alumínio brilhante."
"Como ele pode errar, uma pessoa confere os casos duvidosos."

Supervisão e uso responsável tornam um projeto confiável

Como a IA pode errar ou ser injusta, um projeto responsável planeja a supervisão humana: uma pessoa continua responsável por conferir e corrigir a IA, principalmente onde um erro pode pesar. A sua apresentação deve dizer quem supervisiona o sistema e quando.

Uso responsável também significa ser justo, ser honesto sobre o que o sistema consegue fazer, proteger a privacidade das pessoas, e não usar IA onde os riscos são altos demais. Amarre tudo do curso: justiça, privacidade, limitações e decisões humanas aparecem no quanto um projeto é projetado e descrito com responsabilidade.

"Um aluno revisa qualquer item sobre o qual o separador esteja em dúvida, antes de ele ser jogado fora."
"Não coletamos o nome nem o rosto de ninguém, só fotos dos itens."
"Nunca usaríamos isto para decidir algo sério sobre uma pessoa."

Revisões funcionam melhor com retorno específico e gentil, e a IA também é uma carreira

Em uma revisão, você dá e recebe retorno. Um retorno útil é específico ("o seu caso de teste do papel engordurado é um ótimo achado; dá para acrescentar uma regra para ele?") em vez de vago ("está bom") ou duro. Receber bem o retorno significa ouvir, fazer perguntas e tratá-lo como ajuda, e não como ataque. A iteração continua aqui: as revisões muitas vezes dão a faísca da sua próxima melhoria.

Construir IA também é uma área de trabalho em crescimento. Quem faz engenharia de aprendizado de máquina e ciência de dados constrói e treina modelos. Quem rotula e anota dados cria os exemplos rotulados com que os sistemas aprendem. Quem trabalha com ética da IA, auditoria e políticas públicas regula a IA, conferindo justiça, segurança e privacidade, e escrevendo as regras de como ela pode ser usada. Quem projeta produto e experiência do usuário decide como as pessoas realmente interagem com a IA e mantêm o controle. Professores, médicos, artistas e muitas outras pessoas usam cada vez mais a IA como ferramenta. Você não precisa ser programador para influenciar como a IA é construída e usada.

Engenheira de aprendizado de máquina: constrói e treina o modelo.
Pessoa que rotula ou anota dados: cria os exemplos rotulados para o aprendizado.
Especialista em ética da IA ou auditor: confere se os sistemas são justos, seguros e respeitam a privacidade.
Designer de produto ou de experiência do usuário: projeta como as pessoas usam a IA e mantêm a supervisão.

Exemplo resolvido

Uma apresentação confiável de dois minutos

Enuncie o problema: "Alunos novos não sabem em qual lixeira o resíduo deles vai, então separamos uma foto em reciclagem, compostagem ou lixo comum".
Mostre o projeto: "A entrada é a foto de um item; a saída é um de três rótulos; as características incluem o material e a gordura de comida".
Relate os testes: "Rodamos nove casos de teste e passamos em sete; ele falha com papel engordurado e alumínio".
Aponte as limitações e a supervisão: "Esses são limites reais, então uma pessoa confere qualquer item sobre o qual ele esteja em dúvida, antes de jogar fora".
Feche com o uso responsável: "Coletamos só fotos de itens, nunca rostos ou nomes, e não usaríamos isto para nada de alto risco".

O essencial: A apresentação mais confiável enuncia o problema, o projeto, resultados de teste honestos, as limitações, e a supervisão humana que mantém o uso responsável.

Prometer demais contra apresentar com honestidade

Antes (prometendo demais): "Nossa IA separa resíduos perfeitamente!": sem limitações, sem supervisão, e ela perde a confiança no instante em que alguém acha uma falha. Depois (honesto): "Ela passa na maioria dos casos, mas falha com papel engordurado e alumínio, então uma pessoa confere os itens duvidosos, e usamos só fotos dos itens": enuncia limitações, supervisão e uso responsável, e ganha mais confiança.

Ser honesto sobre limites e supervisão deixa um projeto mais confiável, e não menos.

Quem constrói e regula a IA

Função	O que faz	Uma habilidade que usa
Engenharia de aprendizado de máquina	Constrói e treina modelos	Projetar e testar sistemas
Rotulagem e anotação de dados	Cria os exemplos rotulados	Rotular com cuidado e consistência
Ética e auditoria da IA	Regula a IA quanto a justiça e segurança	Perceber danos, definir regras
Design de produto e experiência do usuário	Projeta como as pessoas usam a IA	Entender pessoas usuárias reais

Uma tabela de carreiras em IA. Engenharia de aprendizado de máquina: constrói e treina modelos; a habilidade central é projetar e testar sistemas. Rotulagem e anotação de dados: cria os exemplos rotulados; a habilidade central é rotular com cuidado e consistência. Ética e auditoria da IA: regula a IA quanto a justiça, segurança e privacidade; a habilidade central é perceber danos e definir regras. Design de produto e de experiência do usuário: projeta como as pessoas usam a IA e mantêm a supervisão; a habilidade central é entender as pessoas usuárias.

Atividade

Estúdio de apresentação e revisão

Resumo da atividade

Apresentar o seu projeto com honestidade e dar e receber um retorno específico e útil usando uma rubrica de revisão.

Prepare uma apresentação de dois minutos cobrindo problema, projeto, resultados de teste, limitações, supervisão e uso responsável.
Apresente para um colega ou um grupo pequeno.
Como revisor, use a lista de revisão para dar pelo menos dois comentários específicos e gentis por projeto.
Como apresentador, anote o retorno que receber e escolha uma melhoria para fazer (a sua próxima iteração).
Conversem sobre com quais carreiras em IA cada projeto se conecta e quais interessam a vocês.

Você vai preparar uma apresentação curta e honesta do seu projeto (problema, projeto, testes, limitações, supervisão e uso responsável) e depois participar de uma revisão, dando a outras equipes um retorno específico e gentil e recebendo o delas, com uma lista compartilhada. As revisões daqui podem dar a faísca de mais uma iteração antes do Projeto Final.

Você vai precisar de

Papel e lápis, ou um aplicativo de notas

Você conseguiu quando

Uma apresentação que inclua limitações, supervisão e uso responsável, e não só o que funciona.
Pelo menos dois comentários específicos e gentis dados a outras pessoas.
O retorno recebido fica anotado e uma próxima melhoria é escolhida.
Pelo menos uma carreira em IA com que o seu projeto se conecta é apontada.

Conjunto de dados incluído

Rubrica de revisão de projetos

Uma lista de revisão já incluída que as equipes usam para dar retorno. As linhas cobrem: definição clara do problema; entrada, saída, rótulos e características sensatos; resultados de teste honestos; limitações apontadas; um plano de supervisão humana; e uso responsável (justiça, privacidade, honestidade). Cada linha tem uma proposta e espaço para um comentário específico.

Por enquanto, faça esta atividade com os materiais incluídos, as suas anotações e a conversa em grupo. Uma versão interativa vem numa atualização futura.

Confira o que você entendeu

Confira se você sabe apresentar com responsabilidade e descrever o trabalho real com IA.

Question 1. Por que a apresentação de um projeto deve incluir as limitações dele?
Question 2. Decida se a afirmação é verdadeira ou falsa.
Você precisa ser programador de computadores para ter qualquer papel na construção ou na regulação da IA.
Question 3. Qual resposta dá o retorno de revisão mais útil?
Um colega apresenta um detector de doenças de plantas que passou na maioria dos testes, mas não foi testado com fotos borradas, e não há plano de quem confere as decisões dele.

0 de 3 respondidas

Experimente você

Conheça um trabalho com IA

Pesquise uma carreira em IA e conecte-a ao projeto que você criou nesta semana.

Escolha uma função: engenharia de aprendizado de máquina, rotulagem de dados, ética ou auditoria de IA, políticas públicas, ou design de produto e experiência do usuário em IA.
Escreva três a quatro frases sobre o que essa pessoa faz no dia a dia e uma habilidade que ela usa.
Explique de qual parte do seu próprio projeto essa função cuidaria.
Anote uma coisa sobre esse trabalho que você gostaria de conhecer melhor.

Você conseguiu quando

Uma função de IA descrita com precisão, junto com uma habilidade que ela usa.
Uma ligação clara entre a função e uma parte do seu projeto.
Uma pergunta genuína que você tem sobre essa carreira.

Reflexão

Salva neste aparelho enquanto você escreve

Por favor, não inclua informações privadas. As suas respostas ficam salvas só neste navegador e nunca são enviadas para lugar nenhum.

Em todo o curso, qual é a coisa mais importante que você vai levar sobre usar a IA com responsabilidade?

Qual carreira em IA parece mais interessante para você, e o que você gostaria de aprender em seguida para explorá-la?

Recapitulando

Um projeto terminado é apresentado com honestidade (problema, projeto, testes, limitações, supervisão e uso responsável), melhorado pela revisão, e conectado às pessoas reais que constroem e regulam a IA.

Apresente o problema, o projeto e resultados de teste honestos, incluindo as limitações.
Planeje a supervisão humana e o uso responsável para o projeto poder ser confiável.
A IA é construída e regulada por muitas funções, e não só por quem programa.

Extensão para o 7.º e 8.º ano

Escreva o rótulo de "uso responsável" do seu projeto

Alguns sistemas de IA já são publicados com uma breve "ficha do modelo" ou rótulo de uso: para que o sistema serve, para que não serve, quais são as limitações conhecidas dele, e quem é responsável por supervisioná-lo.

Escreva um rótulo de uso responsável de um parágrafo para o seu próprio projeto. Diga para que ele deve e não deve ser usado, as principais limitações dele, quem faz a supervisão, e como ele protege a privacidade das pessoas.

Termine esta aula

Attempt the knowledge check: não feito
Save a reflection (recommended): não feito

Faça a checagem de conhecimentos para terminar esta aula.