Llegamos a ustedes gracias a:



Noticias

Google lanza biblioteca TensorFlow Serving

[10/08/2017] Google acaba de pasar a una versión de producción de TensorFlow Serving, su biblioteca de código abierto para servir a los modelos creados con aprendizaje de máquina en ambientes de producción. En febrero se lanzó una versión beta de la tecnología.

La biblioteca TensorFlow Serving 1.0, que es parte del proyecto de inteligencia de máquina TensorFlow de Google, está destinada a facilitar el despliegue de algoritmos y experimentos manteniendo al mismo tiempo la misma arquitectura de servidores y APIs. TensorFlow Serving le permite enviar varias versiones de modelos, así como retrotraerlas nuevamente.

La biblioteca se integra por supuesto con los modelos de aprendizaje de TensorFlow, pero también se puede ampliar para servir a otros tipos de modelos.

Un binario precreado se encuentra disponible para el software. Se puede utilizar un contenedor Docker para instalar el binario del servidor en sistemas que no sean Linux.

Los tres aspectos más importantes de TensorFlow Serving 1.0 son:

  • Un conjunto de bibliotecas C++ que ofrece soporte de estándares para servir y aprender los modelos de TensorFlow, así como una plataforma principal genérica no ligada a TensorFlow.
  • Los binarios incorporan las mejores prácticas y ofrecen contenedores y tutoriales Docker de referencia.
  • Un servicio alojado con la plataforma Google Cloud ML, y una instancia interna utilizada por muchos productos de Google.

Los conceptos principales de TensorFlow Serving son:

  • Servables, que son objetos subyacentes utilizados por los clientes para el cómputo y la abstracción central en TensorFlow Serving.
  • Loaders, para administrar el ciclo de vida de un servable. Las API están estandarizadas para cargar y descargar un servable.
  • Sources, que son módulos de complemento que originan servables.
  • Managers, para manejar el ciclo de vida del servable.

La versión 1.0 de TensorFlow Serving deja de lado el formato de modelo legado SessionBundle. Se sustituye por el formato SavedModel con TensorFlow 1.0.

Google afirma que ella misma tiene más de 800 proyectos que usan TensorFlow Serving en producción.