- Published on
Usar IA exige auditoria humana, não confiança automática
- Authors

- Name
- Michel Fernandes
- @michelpf

A competência decisiva diante da inteligência artificial não é saber acioná-la, mas saber desconfiar dela do jeito certo. Na palestra de Gabriel Bertocco, pesquisador do Instituto de Computação da Unicamp, a recomendação mais prática apareceu quando ele falou do próprio uso de modelos para escrever código: pedir ajuda, ler linha a linha, confrontar com a literatura e corrigir bugs. A IA pode acelerar trabalho intelectual, mas esse ganho depende de conhecimento prévio. Sem domínio mínimo do problema, a resposta vira autoridade sem verificação.
Essa cautela ganha peso porque a IA atual combina dois fatores que não existiam na mesma escala décadas atrás: dados massivos e poder de processamento. Bertocco lembrou que curtidas, comentários e compartilhamentos formam rastros de comportamento, enquanto GPUs, TPUs e NPUs viabilizam modelos cada vez maiores. O ChatGPT, nesse quadro, não é sinônimo de IA, mas uma expressão visível de uma história mais longa, que passa por machine learning, deep learning, redes convolucionais e transformers. A consequência é simples: ferramentas mais acessíveis não significam ferramentas mais compreensíveis.
O problema fica mais grave quando a decisão não é apenas individual. Bertocco citou deepfakes, clonagem de voz, golpes financeiros e desinformação como usos em que texto, imagem, áudio e vídeo podem ser combinados numa realidade sintética. Também descreveu ferramentas de detecção desenvolvidas no laboratório da Unicamp e disponibilizadas a órgãos públicos. Ao responder sobre reconhecimento em câmeras de segurança, porém, fez uma ressalva central: o sistema deve retornar candidatos, não substituir a decisão humana. Em contextos de falsos positivos danosos, automatizar a conclusão é justamente o risco.
A mesma lógica vale fora da computação. Para quem não conhece transformers ou multiplicação de matrizes, a defesa básica é manter pensamento crítico: ler a resposta, checar a informação, desconfiar de conteúdos apelativos e buscar contexto. Bertocco foi claro ao dizer que detectar um texto gerado por IA sem contexto pode ser muito difícil. Isso desloca a questão pública: não basta esperar uma ferramenta que separe automaticamente o verdadeiro do falso. Será preciso criar hábitos, processos e instituições capazes de auditar sistemas que já estão integrados ao trabalho, à segurança e à circulação de informação.
Referências encontradas
Livros
- AI Superpowers: China, Silicon Valley, And The New World Order, de Kai-Fu Lee — Ver livro na Amazon
Filmes
- Ex Machina — Ver no TMDB
- Oppenheimer, de Cristofer no — Ver no TMDB
Este post contém links de afiliado. Se você comprar por eles, eu posso receber uma pequena comissão sem custo adicional para você.