A IA está quebrando paredes nas organizações

A parede quebrada - Imagem criada pelo Gemini (NanoBanana 2)

Quem já reformou uma casa conhece o momento em que a marreta quebra uma parede antiga. Cai o reboco e aparece o que estava atrás: uma fiação que ninguém projetou daquele jeito, uma emenda feita às pressas, um cano que faz uma curva esquisita para desviar de alguma coisa que já nem está mais ali.

Nada daquilo está na planta. E, mesmo assim, funcionava. A casa ficou de pé por vinte anos apoiada em soluções que alguém inventou numa tarde de sábado, resolveu na hora e nunca anotou.

Enquanto a parede esteve fechada, aquilo tudo era invisível e inofensivo. Alguém sabia. Alguém lembrava. Alguém dava um jeito.

A camada invisível do design organizacional

Toda organização tem paredes assim. Por trás do organograma, dos processos e dos sistemas existe uma camada de improviso que sustenta a operação sem aparecer em relatório nenhum.

É a pessoa que sabe quem procurar quando o fluxo trava. É quem olha um pedido e sente que tem algo errado ali antes de virar problema. É quem reconcilia duas versões de um número que deveriam bater e não batem. É quem assume uma responsabilidade que não está escrita em lugar nenhum.

Esse trabalho invisível absorve as ambiguidades que o desenho da organização nunca resolveu. Quem tem autoridade sobre o quê. Qual critério vale quando dois critérios se contradizem. O que fazer quando o caso não se parece com nenhum dos previstos.

Enquanto o trabalho é feito por gente, a parede fica fechada. As pessoas interpretam o contexto, percebem a exceção, procuram quem realmente sabe e seguem em frente. A bagunça continua ali e quase nunca atrapalha.

Vale dizer que nem toda improvisação é virtuosa. Boa parte dela encobre erro, retrabalho e escolha que ninguém nunca revisou, assim como atrás do reboco antigo também existe fiação perigosa e encanamentos mal posicionados. Abrir a parede, portanto, nem sempre é prejuízo. Muitas vezes é a primeira chance real de consertar o que vinha sendo remendado no escuro.

A automação por IA abre a parede

É aqui que a inteligência artificial entra, mas o ponto é menos glamoroso do que costumam vender.

Um sistema precisa transformar registros, regras, permissões e objetivos em decisões e ações executáveis. Para isso, ele precisa que essas coisas estejam explícitas. E quando encontra uma lacuna, ele nem sempre para para perguntar, como um funcionário novo faria.

Dependendo de como foi construído, ele pode travar. Pode pedir confirmação. Ou pode, no caso mais comum e mais traiçoeiro, preencher a lacuna com uma inferência plausível, repetir essa inferência com consistência exemplar e espalhá-la em escala.

Pense numa política de desconto que, no papel, vai até 15%. Na prática, todo mundo sabe que o time comercial passa disso quando o cliente é antigo, que existe um limite informal em torno de 25% e que acima disso alguém liga para o diretor. Esse arranjo nunca foi escrito, e funcionou por anos porque as pessoas envolvidas sabiam ler o contexto de cada caso. Agora coloque um Agente de IA para aprovar desconto. Ele vai encontrar quinze no documento e o histórico de aprovações acima disso nos dados. Alguma regra ele vai seguir, e ninguém escolheu qual.

Repare no que aconteceu. A ambiguidade que uma pessoa contornava em silêncio virou comportamento automatizado, visível e multiplicado. O problema não nasceu ali. Ele já estava atrás do reboco.

Tenho ouvido muita conversa sobre a IA estar criando problemas de gestão, mas acho que é o contrário. Ela está submetendo a organização a um teste de estresse e revelando o que já existia. A maior parte do que aparece nesse teste é dívida antiga de desenho (similar ao que aconteceu com a adoção de métodos ágeis).

Sendo justo, a IA também traz problemas inteiramente novos. A alucinação, a injeção de instruções maliciosas, a deriva silenciosa de um modelo ao longo do tempo. Esses problemas existem e são sérios. Só não são a maior parte do que estou vendo quebrar nas organizações.

A tecnologia sozinha não é o problema

Muito além da tecnologia, o problema mora na distância entre a eficiência de otimização da IA e a capacidade de governança da organização.

Quanto mais eficiente uma empresa fica para otimizar aquilo que consegue medir e representar, maior fica a exposição dela ao que ficou de fora da representação. Ao que permaneceu tácito, contestado ou invisível.

Tenho usado uma frase para resumir isso: a organização otimiza o que consegue tornar legível e paga pelo que deixa fora da representação.

A IA é útil na medida exata em que torna o trabalho legível. E fica perigosa quando cresce a distância entre o que virou legível para o sistema e o que continua importando para o negócio. As duas coisas crescem juntas, e é por isso que a mesma implantação pode ser um ganho enorme numa área e um desastre silencioso em outra.

A gestão está mudando de lugar

A IA não elimina a necessidade de gestão. Ela desloca a gestão. Sai da supervisão direta das tarefas e vai para o desenho das condições sob as quais humanos e máquinas podem agir juntos.

O trabalho que passa a importar é outro:

• Definir quem tem autoridade sobre o quê
• Separar quem decide de quem responde
• Saber o que é confiável no próprio acervo de informação
• Estabelecer o que acontece diante da exceção
• Manter rastro do que foi decidido e por quê.

Nada disso é novo. É só que antes dava para não fazer, porque tinha gente absorvendo a falta.

Uma observação interessante: organizações autogeridas tiveram que escrever cedo aquilo que as outras organizações puderam deixar implícito: quem decide o quê, com base em que critério, dentro de que limite e prestando contas a quem. Elas pagaram esse custo há anos, muitas vezes reclamando dele.

Acontece que descrever um papel com precisão e escrever a procuração de um agente de IA são quase o mesmo trabalho. Quem já tem o documento pronto está a alguns passos à frente.

Para refletir

Se amanhã um sistema tivesse que executar sozinho uma decisão que hoje passa por você, ele encontraria por escrito o critério que você usa? Ou encontraria uma lacuna e preencheria com a suposição mais plausível?

Quando algo dá errado na sua área, quem absorve? E o que acontece com esse trabalho quando parte da operação deixa de ser feita por gente?

Qual parede da sua empresa você prefere abrir por escolha, agora, em vez de descobrir o que tem atrás dela no meio de uma implantação?