Como o Figma usa agentes de IA para acelerar a resposta a incidentes de segurança

O time de engenharia do Figma↳Figma3 conteúdosFigma Dev Mode funciona mesmo? Testando na práticaDev (Back & Front) · mar 2025Claude Design: nova aposta da Anthropic contra Figma e MicrosoftProduto & UX · abr 2026A importância do HTML e CSS para quem trabalha com UI Design e Design SystemProduto & UX · dez 2024Ver tudo em Produto & UX → publicou dois textos detalhando como construiu agentes de IA↳Agentes de IA42 conteúdosOpera passa a integrar ChatGPT, Claude e outros agentes de IADev (Back & Front) · mar 2026Operações mais inteligentes, decisões mais rápidas: o impacto da IA agêntica na rotina de TIAI · abr 2026Adobe aposta em orquestração de agentes de IA: o que muda para devsDev (Back & Front) · abr 2026Ver tudo em AI → para apoiar o time de segurança: investigar alertas, buscar em incidentes passados, checar sistemas da empresa e até preparar correções de código. Segundo a documentação reportada pela InfoQ, os agentes aprendem com investigações anteriores e ajudam a resolver alertas complexos cerca de 70% mais rápido, com revisão humana e controles estritos mantidos no fluxo.

O ponto que interessa para quem desenha produto e opera Figma em produção não é o número, é o desenho da decisão: em vez de terceirizar julgamento ao modelo, o Figma modelou onde o humano continua no comando e onde o agente pode agir sozinho. Esse recorte de responsabilidade é uma escolha de produto, não de infraestrutura.

Como o sistema está montado

A base é um SIEM (Panther) que investiga alertas e cruza logs de auditoria entre AWS↳AWS20 conteúdosE-mails de verificação com AWS SES + Lambda (Node.js) e Terraform: do zero ao envioDevSecOps · out 2025Codex na AWS: chegada do agente da OpenAI à nuvem da AmazonDevSecOps · abr 2026Salesforce e AWS ampliam colaboração em IA, CRM e marketplaceDevSecOps · nov 2023Ver tudo em DevSecOps →, Okta, GitHub, GCP e osquery, a ferramenta open source que permite consultar máquinas por SQL para dados de segurança e sistema. Segundo o relato, o sistema consulta mais de 100 outras fontes e consegue abrir pull requests.

O coração da investigação é o agente de triagem de alertas, rodando um modelo do porte do Claude Opus. Nas palavras dos autores, Matthew Sullivan (ex-Figma, hoje na Nition) e Brad Girardeau (gerente de engenharia de segurança do Figma):

O agente de triagem de alertas (usando um modelo como o Claude Opus) é onde a maior parte da investigação acontece. Ele recebe o histórico completo da thread do Slack como contexto, sua própria memória de orientação e um conjunto de ferramentas com escopo do que um engenheiro de plantão de segurança normalmente precisa durante a triagem.

Matthew Sullivan e Brad Girardeau

O agente recebe a thread inteira do Slack como contexto, mais sua memória de orientação, e opera com ferramentas de escopo restrito ao que um engenheiro de plantão realmente usa. Por baixo, o sistema agêntico usa AWS Bedrock Knowledge Bases, Amazon Kendra, Tines e uma ferramenta sobre Snowflake para buscar alertas históricos e investigar dados do Panther.

A memória é o que faz o sistema melhorar

O detalhe mais transferível para quem constrói produtos com IA está aqui. Os autores dizem que a memória foi o fator de maior impacto na utilidade do sistema ao longo do tempo, e que manter tipos de memória separados foi decisivo:

A memória acabou sendo a coisa que teve mais impacto em quão útil o sistema se tornou ao longo do tempo. Temos vários tipos, e mantê-los separados acabou sendo importante.

Matthew Sullivan e Brad Girardeau

São três tipos que ajudam o agente a melhorar as investigações:

• Alertas passados, para reconhecer padrões já vistos;
• Orientação comportamental, o que o time aprendeu sobre como conduzir a triagem;
• Estruturas de banco aprendidas, para não redescobrir esquemas de dados a cada investigação.

Para quem pensa produto de IA, a lição é que "memória" não é um balde único: segmentar o que o agente lembra por finalidade muda a qualidade da resposta. É uma decisão de arquitetura de experiência, não só de prompt.

Onde os freios estão

Os controles de segurança foram embutidos nas próprias ferramentas, não deixados a cargo do bom senso do modelo. Dois exemplos concretos citados:

• PRs criados pelo agente entram como rascunho por padrão, exigindo revisão antes de qualquer merge;
• Prompts são desenhados para impedir vazamento de dados sensíveis em canais públicos do Slack.

Esse é o tipo de guarda que separa uma demo de um sistema em produção. O agente pode agir, mas o raio de ação perigoso está travado por design.

O outro relato: caça a vulnerabilidades

Num texto separado, "How Figma stays ahead of vulnerabilities with agents", o time reportou que os agentes encontraram mais de 100 vulnerabilidades desconhecidas, incluindo duas falhas críticas que ferramentas tradicionais deixaram passar. O revisor de código chegou a 80% de precisão em um mês, a detecção de bugs conhecidos melhorou cerca de 30% com uma segunda etapa de revisão, e houve queda de aproximadamente 50% em alguns erros de código após adicionar orientação automatizada.

A recomendação prática dos autores é contraintuitiva e vale para qualquer time que monte avaliação de IA:

Não podemos dizer exatamente o que fazer: os detalhes dependem do tamanho da sua empresa, dos riscos que você enfrenta e dos ciclos de feedback que você já roda. Mas uma lição principal é melhorar a precisão antes do recall.

Time de engenharia do Figma

O argumento: os bugs históricos que você já tem só medem recall, quase não ajudam na precisão, que é o problema que precisa ser resolvido primeiro.

O que fica em aberto

À medida que times dão mais responsabilidade a agentes, o papel da aprovação humana segue sendo pergunta em aberto, algo que o próprio Figma reconhece. O contexto de risco não é teórico: a Wiz reportou em "GhostApproval: A Trust Boundary Gap in AI Coding Assistants" que seis assistentes de código de IA podiam ser enganados por repositórios maliciosos enquanto mostravam ao usuário um prompt de aprovação de aparência inofensiva. A InfoQ também cobriu recentemente a divulgação da OpenAI sobre fugas de sandbox.

O Figma admite que seus agentes não são perfeitos, mas argumenta que humanos também não, e que a escolha não é entre um e outro, o equilíbrio entre automação e supervisão humana ainda está evoluindo.

O que isso muda para quem roda Figma no Brasil

Para times de produto e design que usam Figma em produção, dois pontos práticos. Primeiro, é a própria fabricante da ferramenta expondo como opera segurança com agentes, o que dá um mapa concreto de referência para quem quer montar algo parecido internamente, sem depender de material de fornecedor genérico. Segundo, o desenho é replicável em escala menor: separar tipos de memória, travar controles nas ferramentas em vez de confiar no modelo, e manter PRs como rascunho são decisões que cabem num time pequeno de segurança ou de plataforma, não só numa empresa do porte do Figma. O número de 70% depende do contexto de cada operação, mas o esqueleto da decisão, o que o agente pode fazer sozinho e onde o humano continua obrigatório, é o que vale levar para casa.

Fonte: InfoQ