A IA útil depende de humanos no centro da decisão

A inteligência artificial mais útil tende a aparecer quando amplia a capacidade humana, não quando é vendida como substituição automática do julgamento. Essa foi a provocação mais forte do workshop do H.IAAC, no Instituto de Computação da Unicamp, especialmente na fala de Anderson de Rezende Rocha. Ele contrapôs a ideia de IA como “magia”, uma caixa-preta aceita sem crítica, à noção de inteligência aumentada: sistemas desenhados com especialistas desde a coleta dos dados até a decisão final, sobretudo quando há impacto em saúde, crédito, justiça ou trabalho.

O argumento ganhou peso porque dialogou com exemplos apresentados ao longo do encontro. Em saúde, pesquisadores citaram triagem de Alzheimer por EEG, detecção de AVC por movimento dos olhos, câncer de pele em peles negras e sinais de Parkinson. Em todos esses casos, o modelo pode reduzir custo, acelerar triagem e indicar risco, mas a decisão clínica continua exigindo médico, validação e explicação. Anderson lembrou que muitos modelos de detecção de Covid por raio X fracassaram quando testados fora do ambiente original, justamente por dados ruins, vieses e falta de participação de especialistas.

A mesma lógica apareceu em finanças, agricultura e indústria. Um modelo de crédito que nega acesso a certos grupos deixa de observar como essas pessoas pagariam, criando um ciclo de exclusão. Um robô agrícola ou uma armadilha inteligente de pragas só gera valor se responder a problemas concretos do campo, com dados confiáveis e custo viável. Representantes de empresas foram diretos: falta menos curiosidade sobre a ferramenta da moda e mais formação em fundamentos, arquitetura, dados e aplicação. A lacuna não está só em saber usar IA, mas em saber quando ela deve ou não decidir.

A consequência prática é incômoda para universidades, empresas e governo. Projetos de IA precisam ser avaliados pelo grau de supervisão, explicabilidade, rastreabilidade e benefício real, não pela aparência de sofisticação. A governança discutida no evento aponta nessa direção: políticas de uso, avaliação de risco, letramento e responsabilização. Se a IA for tratada como autoridade técnica incontestável, o erro vira escala. Se for tratada como copiloto auditável, a pergunta muda: quais decisões devem continuar humanas, e que evidências autorizam delegar o restante?

Assistir ao episódio original

Referências encontradas

Livros

• Política - Aristóteles, de Aristóteles — Ver livro na Amazon

Filmes

• 2001: a Space Odyssey, de Stanley Kubrick — Ver no TMDB

Este post contém links de afiliado. Se você comprar por eles, eu posso receber uma pequena comissão sem custo adicional para você.