O risco de perder a habilidade que a IA deveria apenas ampliar

A supervisão humana da inteligência artificial só funciona se o humano ainda souber fazer, ao menos em parte, aquilo que está supervisionando. Essa foi a tensão mais útil da fala de Jurgen Appelo no Adaptive Organizations meet Architecture: usar IA é necessário para continuar relevante, mas delegar demais pode destruir justamente a capacidade de julgar se a IA está trabalhando bem. O problema não é uma recusa abstrata da tecnologia. Appelo descreve uma rotina em que usa assistentes digitais para escrever, revisar, pesquisar e simular leitores. A ressalva aparece quando ele insiste que ainda escreve primeiros rascunhos, reescreve respostas do seu assistente e mantém contato direto com a prática.

O mecanismo é conhecido em tarefas mais simples. Ele pergunta quantas pessoas ainda conseguem se orientar numa cidade sem Google Maps e usa a resposta como evidência de uma perda cotidiana: quando a ferramenta faz sempre a navegação, a habilidade espacial enfraquece. A mesma lógica fica mais delicada em sistemas críticos. Pilotos podem intervir no piloto automático, mas treinam em simuladores para conservar a competência necessária. Em carros autônomos, diz Appelo, a exigência legal de intervenção humana se torna ambígua se o motorista, por falta de prática, já não tem condição real de avaliar e assumir o controle no momento certo.

Essa ambiguidade também vale para o trabalho intelectual. Appelo defende que profissionais usem IA para não ficarem obsoletos, mas rejeita a entrega completa da atividade. No caso dele, a IA acelera a escrita, sugere conexões com conceitos como efeito Hawthorne ou paradoxo de Stockdale e substitui parte do feedback irregular de leitores beta. Ainda assim, a decisão editorial, a formulação do insight e o julgamento de qualidade permanecem ancorados na prática humana. A produtividade aumenta, mas a dependência precisa ser desenhada para não transformar o trabalhador em mero aprovador de uma produção que ele já não sabe avaliar.

A consequência para organizações é concreta. Não basta declarar que haverá um “humano no loop” se o desenho do trabalho elimina as condições para esse humano manter competência. Equipes que adotam IA precisam decidir quais tarefas podem ser automatizadas, quais devem ser praticadas deliberadamente e que tipo de treinamento preserva o julgamento profissional. Sem isso, a promessa de aumento de capacidade vira uma troca frágil: ganha-se velocidade no curto prazo e perde-se a habilidade que tornava a supervisão confiável.

Assistir ao episódio original

Referências encontradas

Livros

• Human Robot Agent: New Fundamentals For AI-Driven Leadership With Algorithmic Management, de Jurgen Appelo — Ver livro na Amazon
• Entender Management 3.0 (Spanish Edition), de Jurgen Appelo — Ver livro na Amazon
• Managing For Happiness, de Jurgen Appelo — Ver livro na Amazon
• Por Que os Generalistas Vencem em Um Mundo de Especialistas, de David Epstein — Ver livro na Amazon
• Humano + Máquina: Reinventando o Trabalho na Era da IA, de Paul R. Daugherty; H. James Wilson — Ver livro na Amazon

Este post contém links de afiliado. Se você comprar por eles, eu posso receber uma pequena comissão sem custo adicional para você.