O maior risco da IA não é ela pensar como nós. É nós começarmos a pensar como ela.

Outro dia, me peguei pensando em quantas revoluções tecnológicas já acompanhei ao longo da minha carreira. Do mainframe aos superminis, daí aos computadores pessoais, da internet à cloud computing↳Cloud30 conteúdosGerenciamento de infraestrutura multicloud com Kubernetes proporciona otimização e economiaDevSecOps · set 2021Vivo assina contrato para aquisição da IPNET e cresce em cloud computingDevSecOps · ago 20245 tendências da computação em nuvem para as empresasDevSecOps · abr 2022Ver tudo em DevSecOps → e, agora, à inteligência artificial↳Inteligência artificial440 conteúdosUX e IA: Transformando Experiências Digitais com Inteligência ArtificialProduto & UX · jan 2025MCP: O que é e por que você vai ouvir falar disso em breve?AI · jul 2025IA generativa e a urgência de reconstruir nossa relação com a verdadeAI · jun 2025Ver tudo em AI →. Em cada uma delas, vi entusiasmo, promessas extraordinárias e discussões intermináveis sobre o que a nova tecnologia seria capaz de fazer.

Mas, olhando para trás, uma coisa me incomoda. Sempre dedicamos enorme atenção às capacidades das tecnologias e muito menos às mudanças que elas provocam em nós mesmos. Discutimos produtividade, custos e vantagens competitivas, mas raramente percebemos que, enquanto transformamos o mundo com nossas ferramentas, elas também transformam a maneira como enxergamos esse mundo.

O automóvel é um exemplo. Não apenas acelerou os deslocamentos. Contribuiu para transformar cidades, estimular a expansão dos subúrbios e reorganizar atividades econômicas. Criamos uma tecnologia para resolver problemas de transporte e acabamos construindo ambientes nos quais milhões de pessoas dependem dela para viver.

Essa reflexão me levou a revisitar Martin Heidegger e seu ensaio A questão da técnica, publicado em 1954. Heidegger argumentava que compreender a técnica apenas como instrumento era insuficiente. A técnica moderna também influencia nossa maneira de perceber a realidade, favorecendo uma visão em que natureza, objetos e até seres humanos aparecem como recursos disponíveis para utilização e controle. Ele chamou essa estrutura de Gestell, frequentemente traduzida como enquadramento ou armação. O risco está em essa forma de compreender o mundo se tornar dominante, obscurecendo outras maneiras de atribuir significado às coisas.

É justamente essa ideia que considero perturbadoramente atual diante da expansão da IA. Quando uma empresa incorpora sistemas de IA, não está apenas automatizando tarefas. Também está escolhendo quais informações serão consideradas relevantes, quais comportamentos serão valorizados e quais resultados orientarão suas decisões.

Na gestão de pessoas, por exemplo, modelos que privilegiam indicadores de produtividade podem estimular uma visão limitada dos profissionais. Criatividade, experiência, julgamento, colaboração e conhecimento tácito correm o risco de perder importância porque são mais difíceis de representar nos dados.

Na educação, o uso indiscriminado de IA para produzir respostas e argumentos pode deslocar a atenção do processo de aprendizagem para a qualidade aparente do resultado. Uma resposta correta não demonstra necessariamente compreensão.

Nas empresas, vejo algo semelhante quando a transformação por IA passa a ser medida quase exclusivamente por tarefas automatizadas, horas economizadas e redução de custos. São indicadores legítimos. Mas não representam tudo o que torna uma organização eficiente e capaz de evoluir. Qualidade das decisões, aprendizagem coletiva, responsabilidade e capacidade de enfrentar situações inesperadas também importam. O risco não é simplesmente utilizar tecnologia para otimizar processos, mas passar a interpretar toda a organização como um conjunto de recursos disponíveis para otimização.

Isso não significa que esses efeitos sejam inevitáveis. A IA pode ampliar capacidades humanas, revelar padrões antes imperceptíveis e abrir novas possibilidades de conhecimento.

Mas as escolhas tecnológicas não são neutras em suas consequências. Quando definimos quais dados coletar, quais objetivos otimizar e quais decisões automatizar, privilegiamos determinadas representações da realidade.

Tenho acompanhado discussões intermináveis sobre benchmarks, agentes, modelos e capacidades técnicas. São necessárias. Mas sinto falta de uma reflexão mais profunda sobre como essas tecnologias estão modificando aquilo que consideramos valioso nas pessoas e nas organizações.

E não precisamos imaginar superinteligências, máquinas conscientes ou sistemas com intenções próprias para reconhecer esse risco.

Bastam decisões gerenciais aparentemente razoáveis que, acumuladas ao longo do tempo, transformem a eficiência mensurável no principal critério para avaliar pessoas, processos e resultados. O problema não é medir, automatizar ou buscar produtividade. É permitir que aquilo que conseguimos quantificar passe a definir aquilo que consideramos importante.

A tecnologia amplia nossas possibilidades, mas também pode estreitar nossa percepção sobre quais delas merecem ser exploradas.

O maior risco da IA não é ela começar a pensar como nós. Será nós começarmos a enxergar o mundo apenas da maneira como conseguimos representá-lo para ela.