Em uma recente reunião de trabalho com o CTO de uma grande empresa, discutimos uma questão que considero um dos maiores desafios estratégicos atuais: como evitar que os agentes de IA de hoje se transformem na dívida técnica de amanhã? A conversa me lembrou um problema que a engenharia de software conhece e combate há…

Em uma das aulas me perguntaram como um LLM gera um token. A resposta é interessante porque mostra que, por trás de uma conversa aparentemente natural, existe um processo inteiramente matemático. Para entender o que acontece “embaixo do capô” de um modelo de linguagem, precisamos esquecer, por um momento, as palavras e pensar em geometria….

Uma das maiores surpresas de quem coloca IA em produção não costuma ser a qualidade das respostas. É a fatura de tokens. Muita gente ainda encara o custo de um LLM como se fosse o licenciamento de um software SaaS, com um valor relativamente previsível por usuário. Na prática, porém, a lógica é completamente diferente….

Em algumas empresas que estão usando o Model Context Protocol (MCP), observei alguns aspectos que merecem mais atenção e que vou compartilhar aqui. De maneira geral, quase toda a discussão com elas está concentrada na facilidade de integrar sistemas e disponibilizar ferramentas para os LLMs. Pouco se fala sobre segurança, desempenho, governança e arquitetura operacional….

Uma das mudanças mais interessantes que observo na IA corporativa é que, à medida que os modelos de linguagem atingem um determinado nível de capacidade, o principal desafio deixa de ser apenas escolher o melhor LLM. Isso não significa que os modelos tenham se tornado uma commodity ou que sua qualidade seja irrelevante. Em muitas…

Nesse fim de semana investi na leitura do paper da Anthropic sobre o chamado Jacobian Lens (J-Lens). É um trabalho fascinante, tecnicamente sofisticado e, ao mesmo tempo, um daqueles estudos que facilmente podem ser interpretados de forma exagerada. Recomendo sua leitura para quem quer entender melhor como pesquisadores estão tentando abrir a “caixa-preta” dos LLMs….

Participo de um grupo de debates que transita entre filosofia e IA e, a cada quinze dias, fazemos um encontro virtual bastante instigante. Em um dos últimos encontros discutimos o papel da IA na descoberta científica. A conversa rapidamente chegou a uma questão muito mais filosófica do que técnica: afinal, o que significa criar conhecimento?…

Um assunto que quase não aparece nos posts entusiasmados sobre IA é a questão da segurança e privacidade. E um dos riscos mais subestimados no uso de LLMs em produção não é o modelo cometer erros. É ele expor informação sensível que deveria permanecer inacessível. Esse problema, conhecido como data leakage, ocorre quando o sistema…

Uma das perguntas mais interessantes que já me fizeram em uma palestra foi: “Um LLM sabe quando está escrevendo uma poesia ou uma linha de código?” Parece uma curiosidade simples, mas ela revela um dos maiores mistérios que cercam esses modelos para quem não trabalha com IA. A resposta é: depende do que entendemos por…

Outro dia tive uma conversa muito interessante com um colega sobre como o mercado está recrutando profissionais de tecnologia. Segundo ele, pouco importa se você acredita ou não no hype da IA. O que realmente importa é que os recrutadores acreditam, e isso basta para influenciar seu futuro profissional. Existe uma diferença importante entre a…