Confundir dado disponível com dado necessário compromete modelos de IA

O ponto crítico em muitos projetos de inteligência artificial aparece antes do modelo: o dado disponível costuma ser tratado como se fosse o dado necessário. Na apresentação de Helena e Jéssica, no Instituto de Computação da Unicamp, essa diferença organiza uma crítica prática à frase confortável de que “os dados não mentem”. Dados são produzidos por escolhas, restrições, instrumentos, cadastros, plataformas e expectativas prévias. Quando esse processo desaparece, a acurácia vira uma medida menos informativa do que parece.

A conversa mostra esse mecanismo por exemplos concretos. A craniometria queria medir inteligência, mas tomou o tamanho da cabeça como substituto, reforçando uma hierarquia racial já pressuposta. Um sistema que tenta inferir gênero por imagem enfrenta outro problema: reduz uma construção social complexa a sinais visuais. Há casos em que o dado desejado nem pode ser coletado diretamente, como na detecção de abuso sexual infantil, ou não deve ser produzido, como em sistemas de queda para idosos. A saída costuma ser usar tarefas substitutas, simulações ou participantes mais jovens, mas cada substituição muda o problema que o modelo aprende.

Mesmo quando há muitos dados, a abundância não resolve a curadoria. Jéssica expõe imagens de um conjunto conhecido, com legendas inconsistentes, perguntas no lugar de descrições e anotações que sequer correspondem à imagem. A discussão com o público reforça que manual de anotação, análise qualitativa e revisão iterativa não são detalhes burocráticos; são parte do que define o dado. O mesmo vale para bases raspadas do YouTube ou do Instagram: elas parecem mais “naturais”, mas já carregam performance, ausência de quem não posta, padrões de acesso e escolhas feitas para agradar plataformas.

A consequência é direta para quem desenvolve ou avalia sistemas: perguntar “95% de acurácia para quem, em qual base e com quais exclusões?” deve vir antes da confiança no resultado. Ferramentas de documentação, como questionários para datasets, não eliminam viés, mas tornam explícito o que foi coletado, por quem, com qual finalidade, que grupos ficaram de fora e que riscos existem. Isso não produz um dado puro. Produz uma condição mínima para decidir se aquele dado serve para o problema ou apenas confirma, com aparência técnica, uma decisão já tomada.

Assistir ao episódio original

Referências encontradas

Livros

• A Falsa Medida do Homem, de Stephen Jay Gould — Ver livro na Amazon
• Dentes de Galinha e Dedos de Cavalo, de Stephen Jay Gould — Ver livro na Amazon

Este post contém links de afiliado. Se você comprar por eles, eu posso receber uma pequena comissão sem custo adicional para você.