Por Que a IA Às Vezes Erra

A IA responde rápido. Dinossauros, um conto curto, um erro no seu código, uma ideia para a feira de ciências. Às vezes a resposta é excelente. Às vezes ela soa excelente. Nem sempre é a mesma coisa.

O que levanta uma pergunta justa: se essa tecnologia é tão avançada, por que ela continua errando? Porque a IA não sabe as coisas do jeito que você sabe. Ela prevê, com base em padrões. Quase sempre acerta. Às vezes sai pela tangente.

Toda vez que você pergunta algo, a IA está montando uma resposta com o formato da sua pergunta. Ela se apoia em padrões de uma montanha de exemplos e prevê quais palavras vêm depois. Então, mesmo quando soa segura demais, ela está fazendo um palpite muito bem informado.

Pergunte qual é a montanha mais alta do mundo e ela diz Everest sem problema. Esse dado aparece em todo lugar. Mas fique muito específico, pergunte algo obscuro, e talvez ela não tenha padrões sólidos de onde puxar. Em vez de te avisar, ela pode produzir algo que soa certo. Esse é o modo de falha número um: ela responde quando deveria dar de ombros.

Quando uma IA inventa algo e te entrega como se fosse fato, as pessoas chamam isso de alucinação. Ela não está vendo coisas. Ela gerou uma resposta com o formato da verdade, mas sem nada dentro.

Coisas que a IA já inventou com toda a tranquilidade:

• Um título de livro que não existe
• Uma data errada por décadas
• Uma citação que ninguém jamais disse
• Um dado científico que soa completamente razoável e é falso
• Uma fonte com um link bem convincente que não leva a lugar nenhum

A IA aprende com dados, e dados significam o texto, as imagens e os números com que a alimentaram. Parte disso está desatualizada. Parte é enviesada. Parte conta metade da história. Parte está simplesmente errada. Aprenda padrões de uma pilha bagunçada e você vai repetir parte da bagunça.

Imagine estudar por um caderno em que metade das páginas está certa e a outra metade tem respostas erradas anotadas. Se você nunca confere, vai aprender o errado com toda a confiança e nem perceber. A IA está na mesma situação, só que o caderno dela é do tamanho da internet.

Às vezes o problema não é a IA. É a pergunta. Se alguém chegasse e perguntasse "qual é o tamanho?", você diria "o tamanho de quê?". Uma IA muitas vezes só escolhe um significado e vai, e, se escolheu errado, tudo o que vem depois está errado.

É por isso que o jeito de perguntar importa tanto. "Me fale sobre energia" não dá nada com que trabalhar. "Explique a diferença entre energia renovável e não renovável para uma criança do 4º ano" dá um alvo. Mesma ferramenta, resposta radicalmente diferente.

Os padrões são a força dela e também a fraqueza. Duas figuras históricas com nomes parecidos se fundem em uma pessoa só. O título de um filme troca de lugar com o de um livro. Uma explicação científica usa palavras que soam certas mas descrevem algo levemente diferente.

Isso acontece porque a IA não está olhando para o mundo. Está olhando para textos sobre o mundo. E alguns sistemas nem conhecem o que aconteceu recentemente, então, para descobertas novas, mudanças de regras ou qualquer coisa no noticiário, vá conferir uma fonte atual.

Faça algumas perguntas a você mesmo. De onde essa informação teria vindo? Consigo encontrar isso em algum lugar em que confio? Isso bate com o que meu professor disse? E a mais importante: isso faz sentido de verdade?

Três conferências rápidas funcionam bem. Faz sentido? Uma fonte confiável confirma? Um professor, um pai ou uma pessoa especialista concordaria? Se falhar em qualquer uma das três, reduza muito a velocidade.

A IA erra porque chuta, porque os dados de treinamento dela eram imperfeitos, porque a sua pergunta foi vaga, porque ela misturou duas coisas parecidas ou porque nunca viu a informação mais nova. Nada disso a torna inútil. Só significa que você continua no volante.