AWS Lambda ganha suporte a GPU com um modelo compartilhado entre 48 invocações simultâneas

- Leitura
- 8 min
- Código
- 2
- Fontes
- 1
A AWS integrou instâncias GPU da série G aos Lambda Managed Instances, deixando até 48 invocações dividirem a mesma cópia de um modelo na memória da placa. Os primeiros testes independentes mostram ganho real de desempenho, mas também atrito em cota de vCPU e suporte a Terraform.
O que a AWS lançou
A AWS↳AWS20 conteúdosE-mails de verificação com AWS SES + Lambda (Node.js) e Terraform: do zero ao envioDevSecOps · out 2025Codex na AWS: chegada do agente da OpenAI à nuvem da AmazonDevSecOps · abr 2026Salesforce e AWS ampliam colaboração em IA, CRM e marketplaceDevSecOps · nov 2023Ver tudo em DevSecOps → adicionou suporte a GPU ao AWS Lambda através dos Managed Instances, o modelo de execução que deixa a função rodar em capacidade EC2 escolhida e paga pelo cliente, enquanto o Lambda cuida do provisionamento, do patch e do escalonamento. O recurso está disponível em caráter geral (GA) nas regiões comerciais em que tanto Managed Instances quanto as instâncias EC2 da série G já existem, segundo o InfoQ.
Managed Instances existe desde dezembro de 2025, mas até aqui não incluía GPU, e essa era a lacuna que mais pesava contra o modelo pra quem queria rodar inferência de IA↳Inteligência artificial440 conteúdosUX e IA: Transformando Experiências Digitais com Inteligência ArtificialProduto & UX · jan 2025MCP: O que é e por que você vai ouvir falar disso em breve?AI · jul 2025IA generativa e a urgência de reconstruir nossa relação com a verdadeAI · jun 2025Ver tudo em AI → sem gerenciar servidor. Agora as Event Functions podem rodar em instâncias G4dn, G5, G6, G6f, Gr6, Gr6f e G6e, publicadas como imagens de contêiner e disparadas pelos mesmos gatilhos de evento de qualquer outra função Lambda.
O preço segue a tarifa On-Demand da instância EC2 escolhida, mais uma taxa de gestão de 9,75% e os US$ 0,20 por milhão de requisições que já valem pro Lambda tradicional. É uma taxa menor que os 15% cobrados nas instâncias CPU do mesmo modelo Managed Instances.
Uma cópia do modelo, 48 chamadas ao mesmo tempo
A mudança central pra quem roda IA em produção é o compartilhamento de memória de GPU entre invocações simultâneas. Um único ambiente de execução carrega uma cópia do modelo na GPU e atende até 48 invocações concorrentes dividindo essa mesma cópia, sem recarregar pesos a cada chamada. O escalonamento segue utilização de GPU, utilização de CPU e concorrência.
Na configuração da função, o bloco AcceleratorConfig entra ao lado de memória, timeout e armazenamento:
"MemorySize": 16384,
"Timeout": 900,
"EphemeralStorage": { "Size": 32768 },
"Environment": { "Variables": { "MODEL_ID": "Qwen/Qwen2.5-1.5B-Instruct" } },
"CapacityProviderConfig": {
"LambdaManagedInstancesCapacityProviderConfig": {
"CapacityProviderArn": "arn:aws:lambda:us-east-2:111122223333:capacity-provider:lmi-gpu-cp",
"ExecutionEnvironmentMemoryGiBPerVCpu": 4,
"PerExecutionEnvironmentMaxConcurrency": 4
},
"AcceleratorConfig": { "AcceleratorMemorySize": 16 }
}A AWS distribui cinco imagens-base de GPU: uma só com CUDA, outra com CuPy, e três específicas pra inferência, PyTorch, vLLM e SGLang. As duas últimas dispensam código de handler: basta apontar a variável MODEL_ID pra um repositório no Hugging Face, no ModelScope, um prefixo no S3 ou um caminho local. Trocar de modelo em produção vira uma troca de configuração seguida de nova versão:
aws lambda update-function-configuration \
--function-name my-gpu-function \
--environment 'Variables={MODEL_ID=s3://amzn-s3-demo-bucket/models/Qwen2.5-1.5B-Instruct/,VLLM_LOAD_FORMAT=runai_streamer}'Publicar uma versão já provisiona os ambientes, baixa os pesos e aquece o motor de inferência antes do primeiro evento chegar. O carregamento lazy via Seekable OCI, segundo a AWS, pode cortar em até 70% o tempo de start do ambiente.
Daniel Abib, arquiteto de soluções sênior da AWS, resume o que desaparece da lista de tarefas do time de infraestrutura:
Você constrói uma imagem OCI, aponta a função pra ela e deixa o Lambda cuidar do provisionamento, do escalonamento e da integração com eventos. Não há drivers de GPU, versões de CUDA ou AMIs pra conciliar, nem clusters ou device plugins pra operar.
Daniel Abib, senior specialist solutions architect na AWSYou build an OCI image, point the function at it, and let Lambda handle provisioning, scaling, and event integration. There are no GPU drivers, CUDA versions, or AMIs to reconcile, and no clusters or device plugins to operate.
Os limites do lançamento: imagens de contêiner de até 32 GB, 32 GB de armazenamento efêmero, de 2 a 32 GB de memória, de 3 a 48 GB de memória de acelerador, 15.000 vCPUs por provedor de capacidade e timeout de até 90 minutos pras invocações assíncronas e por mapeamento de fonte de evento.
Você constrói uma imagem OCI, aponta a função pra ela e deixa o Lambda cuidar do provisionamento, do escalonamento e da integração com eventos. Não há drivers de GPU, versões de CUDA ou AMIs pra conciliar, nem clusters ou device plugins pra operar.
No original: You build an OCI image, point the function at it, and let Lambda handle provisioning, scaling, and event integration. There are no GPU drivers, CUDA versions, or AMIs to reconcile, and no clusters or device plugins to operate.
Fonte: InfoQOs primeiros testes acharam atrito antes de achar velocidade
A comunidade técnica testou o recurso no mesmo dia do lançamento. Akaike, da consultoria japonesa Classmethod, testou todos os tipos de instância acelerada disponíveis em us-east-1: de 81 tipos, 37 foram aceitos, todos da família G. Instâncias P, G7, Inferentia, Trainium e a g5g baseada em Graviton foram recusadas, assim como pacotes zip: só imagem de contêiner funciona.
Um benchmark com PyTorch rodou cerca de 66 vezes mais rápido na instância L4 do que na CPU da mesma instância, segundo o teste de Akaike. Mas a ferramenta encontrou dois obstáculos de maturidade: nem o Terraform nem o provedor Cloud Control ainda reconhecem o campo AcceleratorConfig, e a cota de vCPU pra GPU vem zerada por padrão em conta nova.
Se você usar g6.xlarge (4 vCPU) com as três instâncias padrão, precisa de uma cota de 12 vCPUs.
Akaike, Classmethodif you use g6.xlarge (4 vCPU) with the default three instances, you need a quota of 12 vCPUs.
Uma issue e um pull request no provedor Terraform, abertos em 16 de novembro por um usuário identificado como sasidhar-aws, seguem em aberto, sinal de que o suporte via infraestrutura como código ainda não chegou.
Um modelo pequeno, 417 chamadas, zero falhas
O segundo teste, feito por um AWS Community Builder que assina como xbill, colocou o modelo Gemma 4 E2B rodando numa única g6.2xlarge através da imagem vLLM, com os pesos de 4 bits (QAT) do Google e um drafter de decodificação especulativa embutidos numa imagem de 9 GB.
Um único ambiente atendeu as 48 requisições simultâneas, e as 417 chamadas do teste tiveram sucesso. A vazão foi de cerca de 130 tokens por segundo numa única requisição e entre 3.400 e 3.600 tokens por segundo com as 48 em paralelo.
O atrito não esteve na GPU, e sim no pipeline de publicação: 484 segundos entre publicar a função e ela ficar com uma versão ativa, um índice de imagem Docker que o Lambda rejeitou até ser enviado como manifesto de plataforma única, e um handler que só devolve respostas completas, o que impediu medir o tempo até o primeiro token.
O veredito de xbill fica restrito ao que ele testou:
se você usar g6.xlarge (4 vCPU) com as três instâncias padrão, precisa de uma cota de 12 vCPUs.
No original: if you use g6.xlarge (4 vCPU) with the default three instances, you need a quota of 12 vCPUs.
Pra um modelo atrás de eventos, filas ou outros serviços da AWS, a função GPU do Lambda é o caminho mais simples: uma imagem, uma função, e o Lambda mantém o servidor vivo e roteia as requisições. Mantenha o drafter ligado pra um chat com poucos usuários simultâneos, e publique sem ele pra carga pesada em lote.
xbill, AWS Community BuilderFor a model behind events, queues or other AWS services, the Lambda GPU function is the simpler road: one image, one function, and Lambda keeps the server alive and routes the requests. Keep the drafter on for a chat with a few users at a time, and publish without it for heavy batch load.
Quando a resposta precisa ser transmitida em streaming ou o time quer controle total do servidor, ele recomenda rodar o vLLM diretamente numa EC2 G6, por conta própria, sem passar pelo Lambda.
O que ainda não resolve
Managed Instances continua restrito a Event Functions. O modelo não chega às Web Functions, o formato de servidor HTTP que o Lambda ganhou neste ano, e a AWS não disse se vai estender o suporte a GPU pra lá.
A análise de Yan Cui sobre o modelo Managed Instances, escrita em dezembro de 2025, quando ele ainda não suportava GPU, segue válida pro caso de GPU sem alteração:
Funções Lambda comuns conseguem escalar rápido porque usam um pool grande e compartilhado de instâncias EC2. Com Managed Instances, leva dezenas de segundos pra subir uma instância EC2 nova. Por isso, não é um bom encaixe quando há picos de tráfego grandes e imprevisíveis.
Yan CuiRegular Lambda functions can scale rapidly by tapping into a large, shared pool of EC2 instances. With managed instances, it takes tens of seconds to launch new EC2 instances. As such, it's not a good fit when you have large, unpredictable spikes in traffic.
Pra quem roda inferência de IA, o que muda na prática
Antes dessa mudança, rodar inferência com GPU em produção significava escolher entre gerenciar um cluster (driver de GPU, versão de CUDA, autoscaling próprio) ou usar um serviço serverless de GPU fora do perímetro da AWS, sem os mesmos gatilhos de evento, identidade (IAM) e rede nativos da conta, como aponta Abib ao comparar com a concorrência.
Para um modelo atrás de eventos, filas ou outros serviços da AWS, a função GPU do Lambda é o caminho mais simples: uma imagem, uma função, e o Lambda mantém o servidor vivo e roteia as requisições.
No original: For a model behind events, queues or other AWS services, the Lambda GPU function is the simpler road: one image, one function, and Lambda keeps the server alive and routes the requests.
Fonte: InfoQCom GPU em Managed Instances, o caminho fica mais parecido com o resto do Lambda: publicar uma imagem, declarar AcceleratorConfig e deixar o serviço escalar por utilização de GPU dentro da mesma conta, com os mesmos gatilhos (S3, SQS, EventBridge) que já disparam qualquer função hoje.
Isso importa principalmente pra cargas orientadas a evento: processar um upload de imagem, responder a uma mensagem de fila, gerar um resumo quando um documento chega no S3. Pra serviço de chat com tráfego imprevisível e necessidade de resposta em streaming, os dois testes de primeira mão e a análise de Yan Cui concordam num ponto: o modelo ainda tem atrito de cold start e de escalonamento que uma EC2 dedicada não tem.
Antes de colocar em produção, vale checar três coisas: a cota de vCPU de GPU da conta, que vem zerada; se o pipeline de CI/CD aceita manifesto de imagem single-platform; e o tempo de publish-to-active pro SLA que a aplicação já promete, já que os 484 segundos do teste de xbill não são instantâneos.
Fonte: InfoQ
Highlights
- AWS Lambda GPU em Managed Instances com até 48 invocações compartilhando um modelo por GPU
- PyTorch foi cerca de 66 vezes mais rápido em GPU L4 que em CPU, segundo testes independentes
- Terraform ainda não reconhece AcceleratorConfig; cota de vCPU vem zerada em conta nova
- Atendo 417 chamadas em um único modelo Gemma 4 E2B: 3.400 a 3.600 tokens por segundo com 48 requisições paralelas
- Suporte apenas a Event Functions; Web Functions ainda não recebem GPU, sem cronograma da AWS
Este artigo foi escrito por Redação iMasters. Conteúdo produzido por agente de IA da redação iMasters, sob revisão editorial humana. Saiba como produzimos no expediente.
Canva adiciona interruptor para desligar a IA generativa nas ferramentas
A plataforma australiana de design criou dois controles separados: um esconde os recursos de IA generativa das ferramentas, outro reduz o conteúdo gerado por IA que aparece nas buscas da biblioteca. Nenhum dos dois apaga tudo.













