tensorflow :: servicio:: ResourceUnsafeLoader

#include <loader.h>

Un cargador que es ajeno a los recursos.

Resumen

Sus EstimateResources () método devuelve 0, por lo tanto deshabilitar eficazmente controles de seguridad basados en los recursos en el sistema de servir.

Cargadoras que son experimentales, o ejecutar en entornos que no necesitan los controles de seguridad de recursos, puede subclase ResourceUnsafeLoader en lugar de cargador .

Herencia

Hereda de: tensorflow :: :: servir cargador

Funciones publicas

EstimateResources (ResourceAllocation *estimate) const final
virtual Status
Calcula los recursos que utilizará un servidor.

Funciones publicas

EstimateResources

virtual Status EstimateResources(
  ResourceAllocation *estimate
) const final

Calcula los recursos que utilizará un servidor.

IMPORTANTE: La implementación de este método debe obedecer los siguientes requisitos, que permiten al sistema de servicio razonar correctamente sobre qué servidores se pueden cargar de forma segura:

  1. La estimación debe representar un límite superior del valor real.
  2. Antes de la carga, la estimación puede incluir recursos que no están vinculados a ninguna instancia de dispositivo específica, por ejemplo, RAM en una de las dos GPU.
  3. Mientras está cargado, para cualquier dispositivo con múltiples instancias (por ejemplo, dos GPU), la estimación debe especificar la instancia a la que está vinculado cada recurso.
  4. La estimación debe ser monótonamente no creciente, es decir, no puede aumentar con el tiempo. Razones para que disminuya potencialmente con el tiempo Devoluciones
    una estimación de los recursos que consumirá el servidor una vez cargado. Si el servidor ya se ha cargado, devuelve una estimación del uso real de los recursos.