tensorflow:: servindo:: ResourceUnsafeLoader

#include <loader.h>

Um carregador que é alheio aos recursos.

Resumo

Seus EstimateResources () método retorna 0, assim, efetivamente desabilitar as verificações de segurança baseadas em recursos no sistema de servir.

Carregadores que são experimental, ou correr em ambientes que não precisam as verificações de segurança de recursos, pode subclasse ResourceUnsafeLoader vez de carregador .

Herança

Herda: tensorflow :: servindo :: Carregador

Funções públicas

EstimateResources (ResourceAllocation *estimate) const final
virtual Status
Estima os recursos que um serviço usará.

Funções públicas

Estimativa de recursos

virtual Status EstimateResources(
  ResourceAllocation *estimate
) const final

Estima os recursos que um serviço usará.

IMPORTANTE: A implementação deste método deve obedecer aos seguintes requisitos, que permitem ao sistema servidor raciocinar corretamente sobre quais servíveis podem ser carregados com segurança:

  1. A estimativa deve representar um limite superior no valor real.
  2. Antes do carregamento, a estimativa pode incluir recursos que não estão vinculados a nenhuma instância de dispositivo específica, por exemplo, RAM em uma das duas GPUs.
  3. Enquanto carregado, para qualquer dispositivo com várias instâncias (por exemplo, duas GPUs), a estimativa deve especificar a instância à qual cada recurso está vinculado.
  4. A estimativa deve ser monotonicamente não crescente, ou seja, não pode aumentar ao longo do tempo. Razões para diminuir potencialmente ao longo do tempo Devoluções
    uma estimativa dos recursos que o serviço consumirá uma vez carregado. Se o servível já tiver sido carregado, retornará uma estimativa do uso real do recurso.