APIs e Microsserviços

16 ago, 2017

TensorFlow Serving 1.0

Publicidade

Artigo de Kiril Gorovoy, publicado originalmente pelo Google Developers Blog. A tradução foi feita pela Redação iMasters com autorização

***

Percorremos um longo caminho desde a nossa versão inicial de código aberto em fevereiro de 2016 do TensorFlow Serving, um serving system de alto desempenho para modelos de machine learning, projetado para ambientes de produção. Dia 7 de agosto, anunciamos o lançamento do TensorFlow Serving 1.0. A versão 1.0 é construída a partir da cabeça TensorFlow, e nossas versões futuras serão uma versão menor alinhada com versões TensorFlow.

Para uma boa visão geral do sistema, assista a palestra de Noah Fiedel no Google I/O 2017.

Quando anunciamos o projeto pela primeira vez, era um conjunto de bibliotecas fornecendo a funcionalidade básica para gerenciar o ciclo de vida de um modelo e atender solicitações de inferência. Mais tarde, introduzimos um binário do gRPC Model Server com uma API Predict e um exemplo de como implementá-lo em Kubernetes. Desde então, trabalhamos arduamente para expandir sua funcionalidade para caber em diferentes casos de uso e estabilizar a API para atender às necessidades dos usuários. Hoje, existem mais de 800 projetos no Google usando TensorFlow Serving na produção. Nós batalhamos em testar o servidor e a API e convergimos para uma implementação estável, robusta e de alto desempenho.

Nós ouvimos a comunidade de código aberto e estamos entusiasmados em oferecer um binário pré-construído disponível através do apt-get install. Agora, para começar a usar o TensorFlow Serving, você pode simplesmente instalar e executar sem precisar gastar tempo compilando. Como sempre, um contêiner Docker ainda pode ser usado para instalar o binário do servidor em sistemas que não são Linux.

Com esta versão, o TensorFlow Serving também está oficialmente depreciando e interrompendo o suporte para o formato do modelo SessionBundle legado. SavedModel, o formato do modelo TensorFlow introduzido como parte do TensorFlow 1.0 é agora o formato oficialmente suportado.

Para começar, verifique a documentação do projeto e nosso tutorial. Aproveite TensorFlow Servindo 1.0!

 

***

 

Este artigo é do Google Developers Blog. Ele foi escrito por Kiril Gorovoy. A tradução foi feita pela Redação iMasters com autorização. Você pode acessar o original em: https://developers.googleblog.com/2017/07/tensorflow-serving-10.html