tensorflow :: servicio:: ResourceUnsafeLoader
#include <loader.h>
Un cargador que es ajeno a los recursos.
Resumen
Sus EstimateResources () método devuelve 0, por lo tanto deshabilitar eficazmente controles de seguridad basados en los recursos en el sistema de servir.
Cargadoras que son experimentales, o ejecutar en entornos que no necesitan los controles de seguridad de recursos, puede subclase ResourceUnsafeLoader en lugar de cargador .
Herencia
Hereda de: tensorflow :: :: servir cargadorFunciones publicas | |
---|---|
EstimateResources (ResourceAllocation *estimate) const final | virtual Status Calcula los recursos que utilizará un servidor. |
Funciones publicas
EstimateResources
virtual Status EstimateResources( ResourceAllocation *estimate ) const final
Calcula los recursos que utilizará un servidor.
IMPORTANTE: La implementación de este método debe obedecer los siguientes requisitos, que permiten al sistema de servicio razonar correctamente sobre qué servidores se pueden cargar de forma segura:
- La estimación debe representar un límite superior del valor real.
- Antes de la carga, la estimación puede incluir recursos que no están vinculados a ninguna instancia de dispositivo específica, por ejemplo, RAM en una de las dos GPU.
- Mientras está cargado, para cualquier dispositivo con múltiples instancias (por ejemplo, dos GPU), la estimación debe especificar la instancia a la que está vinculado cada recurso.
- La estimación debe ser monótonamente no creciente, es decir, no puede aumentar con el tiempo. Razones para que disminuya potencialmente con el tiempo
Devoluciones una estimación de los recursos que consumirá el servidor una vez cargado. Si el servidor ya se ha cargado, devuelve una estimación del uso real de los recursos.