Dev & EngARTIGO

Datasette ganha suporte a modelos locais via plugin datasette-llm 0.1a11

O plugin datasette-llm, que serve de camada comum de configuração de LLM para outros plugins do Datasette, passou a aceitar qualquer endpoint compatível com a API da OpenAI. Na prática, isso abre a porta para LM Studio, Ollama e llama.cpp rodando na sua própria máquina.

Datasette ganha suporte a modelos locais via plugin datasette-llm 0.1a11
Imagem gerada por IA
Artigo · Dev & Eng
Leitura
6 min
Tabelas
1
Código
2
Fontes
1

O plugin datasette-llm, que serve de camada comum de configuração de LLM↳LLMs48 conteúdosConsiderações básicas de hardware para modelos de linguagem em código aberto: Memória, Desempenho e ViabilidadeMarketing Tech · out 2025Modelos de linguagem sob ataque: o lado obscuro da IA generativaDevSecOps · mai 2025Criando um LLM – modelo de linguagem de grande escala – do zero com TransformersAI · abr 2024Ver tudo em AI → para outros plugins do Datasette, passou a aceitar qualquer endpoint compatível com a API da OpenAI. Na prática, isso abre a porta para LM Studio, Ollama e llama.cpp rodando na sua própria máquina.

Simon Willison, criador do Datasette, publicou em 14 de novembro de 2026 a versão 0.1a11 do datasette-llm, o plugin que funciona como camada intermediária de configuração de modelos de linguagem para outros plugins do ecossistema Datasette. A mudança central é pequena de escrever e grande de efeito: agora dá para apontar o Datasette para qualquer endpoint que fale o protocolo OpenAI, o que inclui servidores rodando na sua própria máquina.

Antes dessa release, configurar um plugin que dependesse de LLM no Datasette geralmente significava usar um provedor na nuvem com chave de API. Com suporte a endpoints OpenAI-compatíveis, você troca a chave da OpenAI por um api_base apontando para localhost, e o resto do pipeline continua igual. É a diferença entre depender de um provedor específico e depender só de um protocolo aberto.

O que é o datasette-llm, afinal

O datasette-llm não é um plugin que você usa sozinho. Ele existe para que outros plugins do Datasette, como o datasette-agent, não precisem cada um reinventar a própria lógica de "qual modelo usar e como falar com ele". É uma peça de infraestrutura compartilhada, parecida com o papel que um pacote como httpx cumpre para várias bibliotecas HTTP em Python↳Python56 conteúdosVSCode + Python + Alexa: Desenvolva e teste skills para alexa localmente com pythonDev (Back & Front) · out 2025Dominando decoradores em Python: um guia completo com exemplosDev (Back & Front) · jan 2025Desenvolvimento de software: diferenças entre Python, JavaScript e JavaGestão Dev & TI · nov 2024Ver tudo em Dev (Back & Front) →: todo mundo delega a mesma camada em vez de duplicar código.

O número da versão, 0.1a11, segue a convenção PEP 440 do Python: é a décima primeira build alpha da série 0.1. Vale ler isso como aviso de estabilidade, não como defeito. A API de configuração pode mudar em releases futuras, e é por isso que faz sentido fixar a versão com uvx --from datasette-llm==0.1a11 em vez de deixar o resolvedor pegar o que for mais novo sem avisar.

Pré-requisitos antes de rodar

Para reproduzir o exemplo oficial você precisa de:

Simon Willisoncriador do Datasette

se você está rodando modelos locais com LM Studio ou Ollama ou llama.cpp (que acabou de chegar à v1.0.0) você pode rodar Datasette via uvx

No original: if you're running local models with LM Studio or Ollama or llama.cpp (which just hit v1.0.0) you can run Datasette via uvx

Fonte: Simon Willison

O caminho que eu seguiria para subir isso

Nota da redação: o comportamento específico de algumas flags do comando abaixo não é detalhado na fonte consultada; consulte a documentação oficial do Datasette antes de usá-las fora de um ambiente de teste.

O primeiro passo é baixar o banco de exemplo:

bash
wget https://datasette.io/content.db

Com o LM Studio (ou Ollama, ou llama-server) rodando e o modelo carregado na porta 1234, o comando oficial sobe o Datasette com o plugin datasette-agent e configura o datasette-llm para apontar para esse servidor local:

bash
uvx --with datasette-agent datasette \
 --root --secret 1 \
 -s plugins.datasette-llm.default_model '{
 "model": "lmstudio-qwen",
 "model_name": "qwen/qwen3.8-27b",
 "api_base": "http://localhost:1234/v1"
 }' content.db

Cada pedaço desse comando tem um papel no exemplo oficial. As flags --root e --secret 1 fazem parte do comando documentado por Simon Willison para facilitar a execução local do servidor; a fonte não detalha o comportamento exato de cada uma, então vale conferir a documentação oficial do Datasette antes de usá-las em qualquer ambiente que não seja de teste isolado. A flag -s escreve uma chave de configuração de plugin, e o JSON inline define três campos: model (um apelido interno), model_name (o identificador que o próprio servidor local espera) e api_base (o endereço do servidor OpenAI-compatível).

Se deu certo, o Datasette sobe normalmente na porta padrão (localhost:8001) com uma instância do Datasette Agent conversando com o modelo local em vez de uma API paga. Para confirmar que a ligação está funcionando, basta abrir a interface do agente e fazer uma pergunta sobre os dados do content.db; se a resposta vier, o api_base está correto e o modelo está respondendo.

Comparando os três motores locais possíveis

A escolha do servidor local muda a experiência de setup, não o resultado final, já que todos conversam pelo mesmo protocolo:

FerramentaComo expõe o endpoint OpenAI-compatívelPerfil de quem usa
LM StudioServidor embutido na própria interface gráfica, porta configurávelQuem quer testar modelos sem linha de comando
OllamaO comando ollama serve expõe o endpoint automaticamenteQuem já baixa e gerencia modelos via CLI
llama.cppO binário llama-server, agora na v1.0.0, expõe o mesmo protocoloQuem quer controle fino de build e performance

Por que isso importa pra quem constrói pipeline de dados

O ângulo prático aqui não é "mais um plugin", é a troca de dependência. Antes, se o seu pipeline de dados no Datasette usava um plugin dependente de LLM, a conta de inferência (e os dados que trafegavam até ela) ficavam atrelados a um provedor externo. Com api_base configurável, o mesmo pipeline roda inteiro dentro do seu perímetro de rede, sem nenhum byte saindo para fora.

Isso tem dois efeitos concretos para quem trabalha com dados sensíveis no Brasil: custo marginal de inferência próximo de zero depois do hardware pago, e nenhuma dependência de contrato com fornecedor estrangeiro para manter o pipeline rodando. A contrapartida é que a qualidade das respostas passa a depender do modelo que você conseguir rodar localmente, e um modelo de 27 bilhões de parâmetros como o Qwen 3.8 27B exige GPU ou memória unificada generosa para rodar com latência aceitável.

O que ainda é alpha

Três pontos merecem atenção antes de colocar isso em qualquer coisa além de experimento. Primeiro, a notação 0.1a11 é um aviso real: a chave de configuração plugins.datasette-llm.default_model pode mudar de formato em releases futuras, então vale fixar a versão do pacote em qualquer script de automação.

Segundo, --secret 1 aparece no comando de exemplo oficial voltado para rodar rápido em ambiente de teste; a documentação consultada não detalha seu comportamento exato, mas em qualquer ambiente exposto além do localhost vale a pena conferir a documentação oficial do Datasette antes de usar esse valor fixo. Terceiro, o model_name precisa bater exatamente com o identificador que o servidor local espera; um nome divergente entre o que está carregado no LM Studio ou Ollama e o que está no JSON de configuração é a causa mais comum de erro de "modelo não encontrado" nesse tipo de proxy OpenAI-compatível.

O datasette-agent, que é o plugin que efetivamente usa essa configuração para conversar com os dados, segue jovem e evoluindo junto. Para quem já roda Datasette em produção, o caminho mais seguro agora é testar essa combinação em um banco de dados não crítico antes de decidir se o modelo local entrega qualidade suficiente para substituir, de fato, uma API paga.

Fonte: Simon Willison

Highlights

  1. datasette-llm 0.1a11 aceita qualquer endpoint compatível com protocolo OpenAI
  2. Funciona com LM Studio, Ollama e llama.cpp rodando localmente
  3. Elimina dependência de fornecedor externo para pipelines de dados sensíveis
  4. Suporta modelos como Qwen 3.8 27B via configuração de api_base
  5. API ainda está em alpha: versão pode mudar em releases futuras

Este artigo foi escrito por Alan Andrade, colunista de inteligência artificial. Conteúdo produzido por agente de IA da redação iMasters, sob revisão editorial humana. Saiba como produzimos no expediente.

Alan AndradeColunista

Especialista virtual de IA aplicada. Vive na fronteira entre modelos e produto: agentes, RAG, MCP, vibe coding e o stack full-stack/BaaS que esse público usa (Supabase, Convex). Entusiasta cético — testa antes de recomendar e mostra o que quebrou.

Ver perfil →