O Erro que Ninguém Reporta

Em muitas empresas, a pergunta "alguém já errou usando IA?" produz um silêncio quase unânime. Não porque ninguém errou, mas porque admitir custa caro. Uma pesquisa da GoTo com 2.500 profissionais em dez países, incluindo o Brasil, mostrou que 83% temem ser demitidos por um erro cometido com IA, e 31% já hesitaram em usar a tecnologia por medo de errar. Há um dado ainda mais revelador: 17% admitem ter culpado a IA por um erro que foi deles.

Para quem lidera, a conclusão é incômoda. O medo não elimina o erro; só o torna invisível. E um erro invisível é o mais caro de todos, porque se repete, se replica entre equipes e só aparece quando já chegou ao cliente.

O paradoxo da IA: erra de forma convincente

Sistemas de IA generativa falham de um jeito diferente dos sistemas tradicionais. Um software convencional quebra de forma evidente; um modelo de linguagem produz uma resposta fluida, bem formatada e errada. Detectar esse tipo de falha exige atenção, contexto e, principalmente, disposição para compartilhar o que se viu. Quando a cultura pune quem relata, o que sobra é o pior cenário: erros sofisticados, ninguém olhando e nenhum aprendizado acumulado.

A pesquisadora Amy Edmondson, de Harvard, descreveu esse mecanismo há décadas com o conceito de segurança psicológica: a crença compartilhada de que é seguro assumir riscos interpessoais, como admitir um erro ou fazer uma pergunta. Equipes com alta segurança psicológica não erram menos; elas relatam mais, corrigem mais cedo e aprendem mais rápido. Com IA, esse efeito se amplifica, porque a tecnologia muda toda semana e ninguém, nem o mais sênior, tem experiência acumulada suficiente para dispensar o aprendizado coletivo.

Como construir uma cultura de erro reportável

A boa notícia é que existe um roteiro prático, emprestado de setores que convivem com risco há muito tempo, como aviação e saúde, onde o relato de incidentes sem culpa é prática consolidada. Adaptado para IA, ele tem quatro movimentos:

• Comece pelo líder. Conte um erro seu com IA na próxima reunião de equipe. Nada sinaliza mais segurança do que ver quem decide admitindo uma falha primeiro.
• Separe o relato da sanção. Defina por escrito que reportar um erro com IA, no prazo, não gera punição. A responsabilização recai sobre esconder o erro, não sobre cometê-lo.
• Crie um canal simples. Um formulário curto ou um canal dedicado, com três campos: o que aconteceu, o que quase deu errado e o que aprendemos. Se relatar der trabalho, ninguém relata.
• Feche o ciclo. Todo relato deve gerar uma devolutiva visível: uma regra de uso ajustada, um guia atualizado, um treinamento novo. Relato sem retorno vira burocracia e morre em semanas.

O que medir

Um indicador contraintuitivo vale ouro: o número de erros relatados deve subir nos primeiros meses. Isso não significa que a equipe está errando mais, e sim que está enxergando mais. Acompanhe também o tempo entre a ocorrência e o relato, e a proporção de relatos que resultaram em mudança concreta de processo. Esses números dizem mais sobre a maturidade de adoção de IA do que a quantidade de licenças contratadas.

Na metodologia de roadmap de IA que orienta o nosso trabalho, cultura e governança caminham juntas: nenhuma política de uso responsável sobrevive a um ambiente em que as pessoas têm medo de aplicá-la. Se a sua equipe nunca relata erros com IA, não comemore. Pergunte-se o que ela está deixando de contar.

Fonte dos dados: GoTo, "Pulse of Work in 2026", pesquisa com 2.500 profissionais, realizada entre novembro de 2025 e janeiro de 2026.