AIARTIGO

Estamos automatizando a programação e terceirizando nossa capacidade de compreender o software.

Estamos automatizando a programação e terceirizando nossa capacidade de compreender o software.
Imagem: Cezar Taurion
Artigo · AI
Leitura
4 min

Depois de tantos anos trabalhando com desenvolvimento de sistemas, aprendi uma coisa: escrever código nunca foi a parte mais difícil da engenharia de software. O verdadeiro desafio sempre foi construir sistemas que continuassem funcionando, com segurança e confiabilidade, muito depois de seus criadores terem deixado o projeto.

Por isso, quando ouço que a IA↳Inteligência artificial440 conteúdosUX e IA: Transformando Experiências Digitais com Inteligência ArtificialProduto & UX · jan 2025MCP: O que é e por que você vai ouvir falar disso em breve?AI · jul 2025IA generativa e a urgência de reconstruir nossa relação com a verdadeAI · jun 2025Ver tudo em AI → tornará o desenvolvimento de software cada vez mais fácil e barato, fico com uma preocupação que raramente aparece nas demonstrações de agentes escrevendo milhares de linhas de código.

E se estivermos criando software muito mais rapidamente do que conseguimos compreendê-lo?

A IA está reduzindo o esforço necessário para produzir código. Agentes conseguem implementar funcionalidades, corrigir erros, criar testes e modificar aplicações inteiras. É um avanço extraordinário.  Mas produzir código não é sinônimo de fazer engenharia de software.

Um sistema corporativo precisa conviver com regras de negócio, integrações, dados históricos, requisitos regulatórios, controles de segurança e decisões arquiteturais acumuladas durante anos.

Imagine um banco utilizando agentes para modificar sistemas de crédito. Em poucas horas, dezenas de alterações são implementadas, testadas e incorporadas. Tudo parece funcionar.

Meses depois, uma mudança regulatória exige alterar determinada regra de cálculo. Quem consegue explicar por que aquela lógica foi implementada daquela maneira? Quais dependências serão afetadas? Que hipóteses foram consideradas? E quais consequências podem aparecer em sistemas que ninguém lembrou de testar?

É aqui que surge um risco diferente da conhecida dívida técnica.

A dívida técnica está associada a escolhas de implementação e arquitetura que aumentam o custo de manutenção e evolução. Já a dívida cognitiva do software representa a distância crescente entre o conhecimento que uma organização possui sobre seus sistemas e o conhecimento necessário para modificá-los com segurança.

Podemos ter código bem estruturado, testes automatizados↳Testes automatizados4 conteúdosComo migrei meus testes automatizados de Java para Ruby… Será que fiz bem?Dev (Back & Front) · jun 2019TDD em Nodejs: conhecendo o JestDev (Back & Front) · mar 2019Arquitetura Hexagonal na prática com exemplos em PythonDev (Back & Front) · mai 2025Ver tudo em Dev (Back & Front) → e documentação aparentemente completa, mas poucos profissionais capazes de explicar realmente como o sistema funciona.

E essa diferença importa. Uma pesquisa publicada em 2026 na revista Empirical Software Engineering, envolvendo 151 participantes, encontrou ganhos de velocidade no desenvolvimento assistido por IA, mas não identificou diferenças estatisticamente significativas na manutenção posterior do código. Ao mesmo tempo, observou menor lembrança de detalhes do trabalho entre participantes que utilizaram IA e alertou para o risco de acumulação de dívida cognitiva.

Outro estudo, da METR, realizado em 2025 com desenvolvedores experientes trabalhando em projetos conhecidos, encontrou um resultado contraintuitivo: com as ferramentas de IA avaliadas, as tarefas levaram, em média, 19% mais tempo. Os próprios profissionais acreditavam ter trabalhado mais rapidamente.

Não significa que a IA reduza sempre a produtividade. Significa que produzir código e entregar software confiável são coisas diferentes.

O problema pode se agravar quando agentes passam a gerar alterações em escala, enquanto equipes humanas ficam responsáveis apenas por aprová-las.

Revisar centenas de mudanças não equivale a compreender suas consequências. E testes automatizados, embora indispensáveis, não demonstram necessariamente que todas as regras de negócio, dependências e condições excepcionais foram consideradas.

Há ainda uma questão organizacional. Se profissionais passam a depender continuamente de agentes para compreender e modificar sistemas, como preservarão o conhecimento necessário para questionar suas recomendações?

Podemos acabar criando uma dependência circular: precisamos da IA para manter sistemas que deixamos de compreender porque utilizamos IA para construí-los.

Não considero esse resultado inevitável. A própria IA pode ajudar a explicar código legado, identificar dependências, produzir testes e recuperar conhecimento disperso. Utilizada adequadamente, pode até reduzir dívidas acumuladas durante décadas.

Mas isso exige tratar a compreensão como parte do processo de engenharia, não como uma atividade opcional.

As equipes precisam conseguir explicar decisões arquiteturais, justificar alterações críticas, validar comportamentos e demonstrar que sabem recuperar o sistema quando algo falha. A produtividade deveria ser medida também por qualidade, confiabilidade, capacidade de manutenção e custo de evolução, não apenas pela quantidade de código entregue.

E os gestores precisam resistir à tentação de interpretar mais commits, mais funcionalidades e equipes menores como evidências automáticas de maior eficiência.

Tenho visto muitas transformações tecnológicas ao longo da carreira. Uma lição se repete: quando aumentamos a capacidade de produzir algo, frequentemente descobrimos novos gargalos na capacidade de administrar suas consequências.

Com a IA, talvez estejamos transferindo o gargalo da programação para a compreensão.

Não estou prevendo um colapso inevitável do software. Estou questionando se nossas práticas de engenharia e gestão estão evoluindo na mesma velocidade que nossas ferramentas de geração de código.

O custo de um sistema não termina quando ele entra em produção. Em muitos casos, é justamente ali que começa sua parte mais difícil. No passado, faltavam programadores para desenvolver sistemas. No futuro, poderemos ter sistemas demais e profissionais de menos capazes de explicar como eles realmente funcionam.

É CEO da Litteris Consulting. Profissional e estudioso de Tecnologia da Informação desde fins da década de 70, com educação formal diversificada, em Economia, mestrado em Ciência da Computação e MBA em Marketing de Serviços, e experiência profissional moldada pela passagem em empresas de porte mundial. Escreve constantemente sobre tecnologia da informação em publicações especializadas como CIO Magazine, Mundo Java, além do iMasters, e apresenta palestras em eventos e conferências de renome. É autor de sete livros que abordam assuntos como Software Livre, Grid Computing, Software Embarcado, Cloud Computing e Big data.

Ver perfil →