d4rl_adroit_pen

  • Descrizione :

D4RL è un benchmark open source per l'apprendimento per rinforzo offline. Fornisce ambienti e set di dati standardizzati per algoritmi di addestramento e benchmarking.

I set di dati seguono il formato RLDS per rappresentare passaggi ed episodi.

@misc{fu2020d4rl,
    title={D4RL: Datasets for Deep Data-Driven Reinforcement Learning},
    author={Justin Fu and Aviral Kumar and Ofir Nachum and George Tucker and Sergey Levine},
    year={2020},
    eprint={2004.07219},
    archivePrefix={arXiv},
    primaryClass={cs.LG}
}

d4rl_adroit_pen/v0-human (configurazione predefinita)

Diviso Esempi
'train' 50
  • Struttura delle caratteristiche :
FeaturesDict({
    'steps': Dataset({
        'action': Tensor(shape=(24,), dtype=float32),
        'discount': float32,
        'infos': FeaturesDict({
            'qpos': Tensor(shape=(30,), dtype=float32),
            'qvel': Tensor(shape=(30,), dtype=float32),
        }),
        'is_first': bool,
        'is_last': bool,
        'is_terminal': bool,
        'observation': Tensor(shape=(45,), dtype=float32),
        'reward': float32,
    }),
})
  • Documentazione delle funzionalità :
Caratteristica Classe Forma Tipo D Descrizione
CaratteristicheDict
passi Set di dati
passi/azione Tensore (24,) galleggiante32
passi/sconto Tensore galleggiante32
passaggi/informazioni CaratteristicheDict
passi/informazioni/qpos Tensore (30,) galleggiante32
passaggi/informazioni/qvel Tensore (30,) galleggiante32
passi/è_primo Tensore bool
passi/è_ultimo Tensore bool
passi/è_terminale Tensore bool
passi/osservazione Tensore (45,) galleggiante32
passi/ricompensa Tensore galleggiante32

d4rl_adroit_pen/v0-clonato

Diviso Esempi
'train' 5.023
  • Struttura delle caratteristiche :
FeaturesDict({
    'steps': Dataset({
        'action': Tensor(shape=(24,), dtype=float32),
        'discount': float64,
        'infos': FeaturesDict({
            'qpos': Tensor(shape=(30,), dtype=float64),
            'qvel': Tensor(shape=(30,), dtype=float64),
        }),
        'is_first': bool,
        'is_last': bool,
        'is_terminal': bool,
        'observation': Tensor(shape=(45,), dtype=float64),
        'reward': float64,
    }),
})
  • Documentazione delle funzionalità :
Caratteristica Classe Forma Tipo D Descrizione
CaratteristicheDict
passi Set di dati
passi/azione Tensore (24,) galleggiante32
passi/sconto Tensore galleggiante64
passaggi/informazioni CaratteristicheDict
passi/informazioni/qpos Tensore (30,) galleggiante64
passaggi/informazioni/qvel Tensore (30,) galleggiante64
passi/è_primo Tensore bool
passi/è_ultimo Tensore bool
passi/è_terminale Tensore bool
passi/osservazione Tensore (45,) galleggiante64
passi/ricompensa Tensore galleggiante64

d4rl_adroit_pen/v0-expert

Diviso Esempi
'train' 5.000
  • Struttura delle caratteristiche :
FeaturesDict({
    'steps': Dataset({
        'action': Tensor(shape=(24,), dtype=float32),
        'discount': float32,
        'infos': FeaturesDict({
            'action_logstd': Tensor(shape=(24,), dtype=float32),
            'action_mean': Tensor(shape=(24,), dtype=float32),
            'qpos': Tensor(shape=(30,), dtype=float32),
            'qvel': Tensor(shape=(30,), dtype=float32),
        }),
        'is_first': bool,
        'is_last': bool,
        'is_terminal': bool,
        'observation': Tensor(shape=(45,), dtype=float32),
        'reward': float32,
    }),
})
  • Documentazione delle funzionalità :
Caratteristica Classe Forma Tipo D Descrizione
CaratteristicheDict
passi Set di dati
passi/azione Tensore (24,) galleggiante32
passi/sconto Tensore galleggiante32
passaggi/informazioni CaratteristicheDict
steps/infos/action_logstd Tensore (24,) galleggiante32
passaggi/informazioni/action_mean Tensore (24,) galleggiante32
passi/informazioni/qpos Tensore (30,) galleggiante32
passaggi/informazioni/qvel Tensore (30,) galleggiante32
passi/è_primo Tensore bool
passi/è_ultimo Tensore bool
passi/è_terminale Tensore bool
passi/osservazione Tensore (45,) galleggiante32
passi/ricompensa Tensore galleggiante32

d4rl_adroit_pen/v1-umano

Diviso Esempi
'train' 25
  • Struttura delle caratteristiche :
FeaturesDict({
    'steps': Dataset({
        'action': Tensor(shape=(24,), dtype=float32),
        'discount': float32,
        'infos': FeaturesDict({
            'desired_orien': Tensor(shape=(4,), dtype=float32),
            'qpos': Tensor(shape=(30,), dtype=float32),
            'qvel': Tensor(shape=(30,), dtype=float32),
        }),
        'is_first': bool,
        'is_last': bool,
        'is_terminal': bool,
        'observation': Tensor(shape=(45,), dtype=float32),
        'reward': float32,
    }),
})
  • Documentazione delle funzionalità :
Caratteristica Classe Forma Tipo D Descrizione
CaratteristicheDict
passi Set di dati
passi/azione Tensore (24,) galleggiante32
passi/sconto Tensore galleggiante32
passaggi/informazioni CaratteristicheDict
steps/infos/desired_orien Tensore (4,) galleggiante32
passi/informazioni/qpos Tensore (30,) galleggiante32
passaggi/informazioni/qvel Tensore (30,) galleggiante32
passi/è_primo Tensore bool
passi/è_ultimo Tensore bool
passi/è_terminale Tensore bool
passi/osservazione Tensore (45,) galleggiante32
passi/ricompensa Tensore galleggiante32

d4rl_adroit_pen/v1-clonato

Diviso Esempi
'train' 3.755
  • Struttura delle caratteristiche :
FeaturesDict({
    'algorithm': string,
    'policy': FeaturesDict({
        'fc0': FeaturesDict({
            'bias': Tensor(shape=(256,), dtype=float32),
            'weight': Tensor(shape=(45, 256), dtype=float32),
        }),
        'fc1': FeaturesDict({
            'bias': Tensor(shape=(256,), dtype=float32),
            'weight': Tensor(shape=(256, 256), dtype=float32),
        }),
        'last_fc': FeaturesDict({
            'bias': Tensor(shape=(24,), dtype=float32),
            'weight': Tensor(shape=(256, 24), dtype=float32),
        }),
        'nonlinearity': string,
        'output_distribution': string,
    }),
    'steps': Dataset({
        'action': Tensor(shape=(24,), dtype=float32),
        'discount': float32,
        'infos': FeaturesDict({
            'desired_orien': Tensor(shape=(4,), dtype=float32),
            'qpos': Tensor(shape=(30,), dtype=float32),
            'qvel': Tensor(shape=(30,), dtype=float32),
        }),
        'is_first': bool,
        'is_last': bool,
        'is_terminal': bool,
        'observation': Tensor(shape=(45,), dtype=float32),
        'reward': float32,
    }),
})
  • Documentazione delle funzionalità :
Caratteristica Classe Forma Tipo D Descrizione
CaratteristicheDict
algoritmo Tensore corda
politica CaratteristicheDict
politica/fc0 CaratteristicheDict
politica/fc0/bias Tensore (256,) galleggiante32
politica/fc0/peso Tensore (45, 256) galleggiante32
politica/fc1 CaratteristicheDict
politica/fc1/bias Tensore (256,) galleggiante32
politica/fc1/peso Tensore (256, 256) galleggiante32
politica/ultimo_fc CaratteristicheDict
policy/last_fc/bias Tensore (24,) galleggiante32
policy/last_fc/peso Tensore (256, 24) galleggiante32
politica/non linearità Tensore corda
politica/output_distribution Tensore corda
passi Set di dati
passi/azione Tensore (24,) galleggiante32
passi/sconto Tensore galleggiante32
passaggi/informazioni CaratteristicheDict
steps/infos/desired_orien Tensore (4,) galleggiante32
passi/informazioni/qpos Tensore (30,) galleggiante32
passaggi/informazioni/qvel Tensore (30,) galleggiante32
passi/è_primo Tensore bool
passi/è_ultimo Tensore bool
passi/è_terminale Tensore bool
passi/osservazione Tensore (45,) galleggiante32
passi/ricompensa Tensore galleggiante32

d4rl_adroit_pen/v1-expert

  • Dimensione del download : 249.90 MiB

  • Dimensione del set di dati: 548.47 MiB

  • Cache automatica ( documentazione ): No

  • Divisioni :

Diviso Esempi
'train' 5.000
  • Struttura delle caratteristiche :
FeaturesDict({
    'algorithm': string,
    'policy': FeaturesDict({
        'fc0': FeaturesDict({
            'bias': Tensor(shape=(64,), dtype=float32),
            'weight': Tensor(shape=(64, 45), dtype=float32),
        }),
        'fc1': FeaturesDict({
            'bias': Tensor(shape=(64,), dtype=float32),
            'weight': Tensor(shape=(64, 64), dtype=float32),
        }),
        'last_fc': FeaturesDict({
            'bias': Tensor(shape=(24,), dtype=float32),
            'weight': Tensor(shape=(24, 64), dtype=float32),
        }),
        'last_fc_log_std': FeaturesDict({
            'bias': Tensor(shape=(24,), dtype=float32),
            'weight': Tensor(shape=(24, 64), dtype=float32),
        }),
        'nonlinearity': string,
        'output_distribution': string,
    }),
    'steps': Dataset({
        'action': Tensor(shape=(24,), dtype=float32),
        'discount': float32,
        'infos': FeaturesDict({
            'action_log_std': Tensor(shape=(24,), dtype=float32),
            'action_mean': Tensor(shape=(24,), dtype=float32),
            'desired_orien': Tensor(shape=(4,), dtype=float32),
            'qpos': Tensor(shape=(30,), dtype=float32),
            'qvel': Tensor(shape=(30,), dtype=float32),
        }),
        'is_first': bool,
        'is_last': bool,
        'is_terminal': bool,
        'observation': Tensor(shape=(45,), dtype=float32),
        'reward': float32,
    }),
})
  • Documentazione delle funzionalità :
Caratteristica Classe Forma Tipo D Descrizione
CaratteristicheDict
algoritmo Tensore corda
politica CaratteristicheDict
politica/fc0 CaratteristicheDict
politica/fc0/bias Tensore (64,) galleggiante32
politica/fc0/peso Tensore (64, 45) galleggiante32
politica/fc1 CaratteristicheDict
politica/fc1/bias Tensore (64,) galleggiante32
politica/fc1/peso Tensore (64, 64) galleggiante32
politica/ultimo_fc CaratteristicheDict
policy/last_fc/bias Tensore (24,) galleggiante32
policy/last_fc/peso Tensore (24, 64) galleggiante32
policy/last_fc_log_std CaratteristicheDict
politica/last_fc_log_std/bias Tensore (24,) galleggiante32
politica/last_fc_log_std/peso Tensore (24, 64) galleggiante32
politica/non linearità Tensore corda
politica/output_distribution Tensore corda
passi Set di dati
passi/azione Tensore (24,) galleggiante32
passi/sconto Tensore galleggiante32
passaggi/informazioni CaratteristicheDict
steps/infos/action_log_std Tensore (24,) galleggiante32
passaggi/informazioni/action_mean Tensore (24,) galleggiante32
steps/infos/desired_orien Tensore (4,) galleggiante32
passi/informazioni/qpos Tensore (30,) galleggiante32
passaggi/informazioni/qvel Tensore (30,) galleggiante32
passi/è_primo Tensore bool
passi/è_ultimo Tensore bool
passi/è_terminale Tensore bool
passi/osservazione Tensore (45,) galleggiante32
passi/ricompensa Tensore galleggiante32