d4rl_adroit_pen

  • Descrição :

D4RL é um benchmark de código aberto para aprendizado por reforço offline. Ele fornece ambientes e conjuntos de dados padronizados para algoritmos de treinamento e benchmarking.

Os conjuntos de dados seguem o formato RLDS para representar etapas e episódios.

@misc{fu2020d4rl,
    title={D4RL: Datasets for Deep Data-Driven Reinforcement Learning},
    author={Justin Fu and Aviral Kumar and Ofir Nachum and George Tucker and Sergey Levine},
    year={2020},
    eprint={2004.07219},
    archivePrefix={arXiv},
    primaryClass={cs.LG}
}

d4rl_adroit_pen/v0-human (configuração padrão)

Dividir Exemplos
'train' 50
  • Estrutura de recursos :
FeaturesDict({
    'steps': Dataset({
        'action': Tensor(shape=(24,), dtype=float32),
        'discount': float32,
        'infos': FeaturesDict({
            'qpos': Tensor(shape=(30,), dtype=float32),
            'qvel': Tensor(shape=(30,), dtype=float32),
        }),
        'is_first': bool,
        'is_last': bool,
        'is_terminal': bool,
        'observation': Tensor(shape=(45,), dtype=float32),
        'reward': float32,
    }),
})
  • Documentação do recurso:
Característica Classe Forma Tipo D Descrição
RecursosDict
degraus conjunto de dados
passos/ação tensor (24,) float32
passos/desconto tensor float32
passos/informações RecursosDict
passos/informações/qpos tensor (30,) float32
passos/informações/qvel tensor (30,) float32
passos/é_primeiro tensor bool
passos/é_último tensor bool
passos/is_terminal tensor bool
passos/observação tensor (45,) float32
passos/recompensa tensor float32

d4rl_adroit_pen/v0-clonado

Dividir Exemplos
'train' 5.023
  • Estrutura de recursos :
FeaturesDict({
    'steps': Dataset({
        'action': Tensor(shape=(24,), dtype=float32),
        'discount': float64,
        'infos': FeaturesDict({
            'qpos': Tensor(shape=(30,), dtype=float64),
            'qvel': Tensor(shape=(30,), dtype=float64),
        }),
        'is_first': bool,
        'is_last': bool,
        'is_terminal': bool,
        'observation': Tensor(shape=(45,), dtype=float64),
        'reward': float64,
    }),
})
  • Documentação do recurso:
Característica Classe Forma Tipo D Descrição
RecursosDict
degraus conjunto de dados
passos/ação tensor (24,) float32
passos/desconto tensor float64
passos/informações RecursosDict
passos/informações/qpos tensor (30,) float64
passos/informações/qvel tensor (30,) float64
passos/é_primeiro tensor bool
passos/é_último tensor bool
passos/is_terminal tensor bool
passos/observação tensor (45,) float64
passos/recompensa tensor float64

d4rl_adroit_pen/v0-expert

Dividir Exemplos
'train' 5.000
  • Estrutura de recursos :
FeaturesDict({
    'steps': Dataset({
        'action': Tensor(shape=(24,), dtype=float32),
        'discount': float32,
        'infos': FeaturesDict({
            'action_logstd': Tensor(shape=(24,), dtype=float32),
            'action_mean': Tensor(shape=(24,), dtype=float32),
            'qpos': Tensor(shape=(30,), dtype=float32),
            'qvel': Tensor(shape=(30,), dtype=float32),
        }),
        'is_first': bool,
        'is_last': bool,
        'is_terminal': bool,
        'observation': Tensor(shape=(45,), dtype=float32),
        'reward': float32,
    }),
})
  • Documentação do recurso:
Característica Classe Forma Tipo D Descrição
RecursosDict
degraus conjunto de dados
passos/ação tensor (24,) float32
passos/desconto tensor float32
passos/informações RecursosDict
passos/infos/action_logstd tensor (24,) float32
passos/infos/action_mean tensor (24,) float32
passos/informações/qpos tensor (30,) float32
passos/informações/qvel tensor (30,) float32
passos/é_primeiro tensor bool
passos/é_último tensor bool
passos/is_terminal tensor bool
passos/observação tensor (45,) float32
passos/recompensa tensor float32

d4rl_adroit_pen/v1-humano

Dividir Exemplos
'train' 25
  • Estrutura de recursos :
FeaturesDict({
    'steps': Dataset({
        'action': Tensor(shape=(24,), dtype=float32),
        'discount': float32,
        'infos': FeaturesDict({
            'desired_orien': Tensor(shape=(4,), dtype=float32),
            'qpos': Tensor(shape=(30,), dtype=float32),
            'qvel': Tensor(shape=(30,), dtype=float32),
        }),
        'is_first': bool,
        'is_last': bool,
        'is_terminal': bool,
        'observation': Tensor(shape=(45,), dtype=float32),
        'reward': float32,
    }),
})
  • Documentação do recurso:
Característica Classe Forma Tipo D Descrição
RecursosDict
degraus conjunto de dados
passos/ação tensor (24,) float32
passos/desconto tensor float32
passos/informações RecursosDict
passos/infos/desired_orien tensor (4,) float32
passos/informações/qpos tensor (30,) float32
passos/informações/qvel tensor (30,) float32
passos/é_primeiro tensor bool
passos/é_último tensor bool
passos/is_terminal tensor bool
passos/observação tensor (45,) float32
passos/recompensa tensor float32

d4rl_adroit_pen/v1-clonado

Dividir Exemplos
'train' 3.755
  • Estrutura de recursos :
FeaturesDict({
    'algorithm': string,
    'policy': FeaturesDict({
        'fc0': FeaturesDict({
            'bias': Tensor(shape=(256,), dtype=float32),
            'weight': Tensor(shape=(45, 256), dtype=float32),
        }),
        'fc1': FeaturesDict({
            'bias': Tensor(shape=(256,), dtype=float32),
            'weight': Tensor(shape=(256, 256), dtype=float32),
        }),
        'last_fc': FeaturesDict({
            'bias': Tensor(shape=(24,), dtype=float32),
            'weight': Tensor(shape=(256, 24), dtype=float32),
        }),
        'nonlinearity': string,
        'output_distribution': string,
    }),
    'steps': Dataset({
        'action': Tensor(shape=(24,), dtype=float32),
        'discount': float32,
        'infos': FeaturesDict({
            'desired_orien': Tensor(shape=(4,), dtype=float32),
            'qpos': Tensor(shape=(30,), dtype=float32),
            'qvel': Tensor(shape=(30,), dtype=float32),
        }),
        'is_first': bool,
        'is_last': bool,
        'is_terminal': bool,
        'observation': Tensor(shape=(45,), dtype=float32),
        'reward': float32,
    }),
})
  • Documentação do recurso:
Característica Classe Forma Tipo D Descrição
RecursosDict
algoritmo tensor corda
política RecursosDict
política/fc0 RecursosDict
política/fc0/bias tensor (256,) float32
política/fc0/peso tensor (45, 256) float32
política/fc1 RecursosDict
política/fc1/viés tensor (256,) float32
política/fc1/peso tensor (256, 256) float32
política/last_fc RecursosDict
policy/last_fc/bias tensor (24,) float32
política/last_fc/peso tensor (256, 24) float32
política/não linearidade tensor corda
política/output_distribution tensor corda
degraus conjunto de dados
passos/ação tensor (24,) float32
passos/desconto tensor float32
passos/informações RecursosDict
passos/infos/desired_orien tensor (4,) float32
passos/informações/qpos tensor (30,) float32
passos/informações/qvel tensor (30,) float32
passos/é_primeiro tensor bool
passos/é_último tensor bool
passos/is_terminal tensor bool
passos/observação tensor (45,) float32
passos/recompensa tensor float32

d4rl_adroit_pen/v1-expert

  • Tamanho do download : 249.90 MiB

  • Tamanho do conjunto de dados : 548.47 MiB

  • Armazenado em cache automaticamente ( documentação ): Não

  • Divisões :

Dividir Exemplos
'train' 5.000
  • Estrutura de recursos :
FeaturesDict({
    'algorithm': string,
    'policy': FeaturesDict({
        'fc0': FeaturesDict({
            'bias': Tensor(shape=(64,), dtype=float32),
            'weight': Tensor(shape=(64, 45), dtype=float32),
        }),
        'fc1': FeaturesDict({
            'bias': Tensor(shape=(64,), dtype=float32),
            'weight': Tensor(shape=(64, 64), dtype=float32),
        }),
        'last_fc': FeaturesDict({
            'bias': Tensor(shape=(24,), dtype=float32),
            'weight': Tensor(shape=(24, 64), dtype=float32),
        }),
        'last_fc_log_std': FeaturesDict({
            'bias': Tensor(shape=(24,), dtype=float32),
            'weight': Tensor(shape=(24, 64), dtype=float32),
        }),
        'nonlinearity': string,
        'output_distribution': string,
    }),
    'steps': Dataset({
        'action': Tensor(shape=(24,), dtype=float32),
        'discount': float32,
        'infos': FeaturesDict({
            'action_log_std': Tensor(shape=(24,), dtype=float32),
            'action_mean': Tensor(shape=(24,), dtype=float32),
            'desired_orien': Tensor(shape=(4,), dtype=float32),
            'qpos': Tensor(shape=(30,), dtype=float32),
            'qvel': Tensor(shape=(30,), dtype=float32),
        }),
        'is_first': bool,
        'is_last': bool,
        'is_terminal': bool,
        'observation': Tensor(shape=(45,), dtype=float32),
        'reward': float32,
    }),
})
  • Documentação do recurso:
Característica Classe Forma Tipo D Descrição
RecursosDict
algoritmo tensor corda
política RecursosDict
política/fc0 RecursosDict
política/fc0/bias tensor (64,) float32
política/fc0/peso tensor (64, 45) float32
política/fc1 RecursosDict
política/fc1/viés tensor (64,) float32
política/fc1/peso tensor (64, 64) float32
política/last_fc RecursosDict
policy/last_fc/bias tensor (24,) float32
política/last_fc/peso tensor (24, 64) float32
policy/last_fc_log_std RecursosDict
policy/last_fc_log_std/bias tensor (24,) float32
policy/last_fc_log_std/weight tensor (24, 64) float32
política/não linearidade tensor corda
política/output_distribution tensor corda
degraus conjunto de dados
passos/ação tensor (24,) float32
passos/desconto tensor float32
passos/informações RecursosDict
passos/infos/action_log_std tensor (24,) float32
passos/infos/action_mean tensor (24,) float32
passos/infos/desired_orien tensor (4,) float32
passos/informações/qpos tensor (30,) float32
passos/informações/qvel tensor (30,) float32
passos/é_primeiro tensor bool
passos/é_último tensor bool
passos/is_terminal tensor bool
passos/observação tensor (45,) float32
passos/recompensa tensor float32