d4rl_adroit_pen

  • Opis :

D4RL to punkt odniesienia typu open source do uczenia się przez wzmacnianie w trybie offline. Zapewnia standaryzowane środowiska i zbiory danych do algorytmów szkoleniowych i porównawczych.

Zbiory danych są zgodne z formatem RLDS i reprezentują kroki i odcinki.

@misc{fu2020d4rl,
    title={D4RL: Datasets for Deep Data-Driven Reinforcement Learning},
    author={Justin Fu and Aviral Kumar and Ofir Nachum and George Tucker and Sergey Levine},
    year={2020},
    eprint={2004.07219},
    archivePrefix={arXiv},
    primaryClass={cs.LG}
}

d4rl_adroit_pen/v0-human (konfiguracja domyślna)

Podział Przykłady
'train' 50
  • Struktura funkcji :
FeaturesDict({
    'steps': Dataset({
        'action': Tensor(shape=(24,), dtype=float32),
        'discount': float32,
        'infos': FeaturesDict({
            'qpos': Tensor(shape=(30,), dtype=float32),
            'qvel': Tensor(shape=(30,), dtype=float32),
        }),
        'is_first': bool,
        'is_last': bool,
        'is_terminal': bool,
        'observation': Tensor(shape=(45,), dtype=float32),
        'reward': float32,
    }),
})
  • Dokumentacja funkcji :
Funkcja Klasa Kształt Typ D Opis
FunkcjeDykt
kroki Zbiór danych
kroki/akcja Napinacz (24,) pływak32
kroki/rabat Napinacz pływak32
kroki/informacje FunkcjeDykt
kroki/informacje/qpos Napinacz (30,) pływak32
kroki/informacje/kw Napinacz (30,) pływak32
kroki/jest_pierwszy Napinacz bool
kroki/jest_ostatni Napinacz bool
kroki/is_terminal Napinacz bool
kroki/obserwacje Napinacz (45,) pływak32
kroki/nagroda Napinacz pływak32

d4rl_adroit_pen/v0-cloned

Podział Przykłady
'train' 5023
  • Struktura funkcji :
FeaturesDict({
    'steps': Dataset({
        'action': Tensor(shape=(24,), dtype=float32),
        'discount': float64,
        'infos': FeaturesDict({
            'qpos': Tensor(shape=(30,), dtype=float64),
            'qvel': Tensor(shape=(30,), dtype=float64),
        }),
        'is_first': bool,
        'is_last': bool,
        'is_terminal': bool,
        'observation': Tensor(shape=(45,), dtype=float64),
        'reward': float64,
    }),
})
  • Dokumentacja funkcji :
Funkcja Klasa Kształt Typ D Opis
FunkcjeDykt
kroki Zbiór danych
kroki/akcja Napinacz (24,) pływak32
kroki/rabat Napinacz pływak64
kroki/informacje FunkcjeDykt
kroki/informacje/qpos Napinacz (30,) pływak64
kroki/informacje/kw Napinacz (30,) pływak64
kroki/jest_pierwszy Napinacz bool
kroki/jest_ostatni Napinacz bool
kroki/is_terminal Napinacz bool
kroki/obserwacje Napinacz (45,) pływak64
kroki/nagroda Napinacz pływak64

d4rl_adroit_pen/v0-expert

Podział Przykłady
'train' 5000
  • Struktura funkcji :
FeaturesDict({
    'steps': Dataset({
        'action': Tensor(shape=(24,), dtype=float32),
        'discount': float32,
        'infos': FeaturesDict({
            'action_logstd': Tensor(shape=(24,), dtype=float32),
            'action_mean': Tensor(shape=(24,), dtype=float32),
            'qpos': Tensor(shape=(30,), dtype=float32),
            'qvel': Tensor(shape=(30,), dtype=float32),
        }),
        'is_first': bool,
        'is_last': bool,
        'is_terminal': bool,
        'observation': Tensor(shape=(45,), dtype=float32),
        'reward': float32,
    }),
})
  • Dokumentacja funkcji :
Funkcja Klasa Kształt Typ D Opis
FunkcjeDykt
kroki Zbiór danych
kroki/akcja Napinacz (24,) pływak32
kroki/rabat Napinacz pływak32
kroki/informacje FunkcjeDykt
kroki/infos/action_logstd Napinacz (24,) pływak32
kroki/informacje/średnia_akcji Napinacz (24,) pływak32
kroki/informacje/qpos Napinacz (30,) pływak32
kroki/informacje/kw Napinacz (30,) pływak32
kroki/jest_pierwszy Napinacz bool
kroki/jest_ostatni Napinacz bool
kroki/is_terminal Napinacz bool
kroki/obserwacje Napinacz (45,) pływak32
kroki/nagroda Napinacz pływak32

d4rl_adroit_pen/v1-human

Podział Przykłady
'train' 25
  • Struktura funkcji :
FeaturesDict({
    'steps': Dataset({
        'action': Tensor(shape=(24,), dtype=float32),
        'discount': float32,
        'infos': FeaturesDict({
            'desired_orien': Tensor(shape=(4,), dtype=float32),
            'qpos': Tensor(shape=(30,), dtype=float32),
            'qvel': Tensor(shape=(30,), dtype=float32),
        }),
        'is_first': bool,
        'is_last': bool,
        'is_terminal': bool,
        'observation': Tensor(shape=(45,), dtype=float32),
        'reward': float32,
    }),
})
  • Dokumentacja funkcji :
Funkcja Klasa Kształt Typ D Opis
FunkcjeDykt
kroki Zbiór danych
kroki/akcja Napinacz (24,) pływak32
kroki/rabat Napinacz pływak32
kroki/informacje FunkcjeDykt
kroki/infos/pożądany_orient Napinacz (4,) pływak32
kroki/informacje/qpos Napinacz (30,) pływak32
kroki/informacje/kw Napinacz (30,) pływak32
kroki/jest_pierwszy Napinacz bool
kroki/jest_ostatni Napinacz bool
kroki/is_terminal Napinacz bool
kroki/obserwacje Napinacz (45,) pływak32
kroki/nagroda Napinacz pływak32

d4rl_adroit_pen/v1-cloned

Podział Przykłady
'train' 3755
  • Struktura funkcji :
FeaturesDict({
    'algorithm': string,
    'policy': FeaturesDict({
        'fc0': FeaturesDict({
            'bias': Tensor(shape=(256,), dtype=float32),
            'weight': Tensor(shape=(45, 256), dtype=float32),
        }),
        'fc1': FeaturesDict({
            'bias': Tensor(shape=(256,), dtype=float32),
            'weight': Tensor(shape=(256, 256), dtype=float32),
        }),
        'last_fc': FeaturesDict({
            'bias': Tensor(shape=(24,), dtype=float32),
            'weight': Tensor(shape=(256, 24), dtype=float32),
        }),
        'nonlinearity': string,
        'output_distribution': string,
    }),
    'steps': Dataset({
        'action': Tensor(shape=(24,), dtype=float32),
        'discount': float32,
        'infos': FeaturesDict({
            'desired_orien': Tensor(shape=(4,), dtype=float32),
            'qpos': Tensor(shape=(30,), dtype=float32),
            'qvel': Tensor(shape=(30,), dtype=float32),
        }),
        'is_first': bool,
        'is_last': bool,
        'is_terminal': bool,
        'observation': Tensor(shape=(45,), dtype=float32),
        'reward': float32,
    }),
})
  • Dokumentacja funkcji :
Funkcja Klasa Kształt Typ D Opis
FunkcjeDykt
algorytm Napinacz strunowy
polityka FunkcjeDykt
polityka/fc0 FunkcjeDykt
polityka/fc0/stronniczość Napinacz (256,) pływak32
polityka/fc0/waga Napinacz (45, 256) pływak32
polityka/fc1 FunkcjeDykt
polityka/fc1/stronniczość Napinacz (256,) pływak32
polisa/fc1/waga Napinacz (256, 256) pływak32
polityka/last_fc FunkcjeDykt
policy/last_fc/bias Napinacz (24,) pływak32
policy/last_fc/waga Napinacz (256, 24) pływak32
polityka/nieliniowość Napinacz strunowy
polityka/dystrybucja_wyjściowa Napinacz strunowy
kroki Zbiór danych
kroki/akcja Napinacz (24,) pływak32
kroki/rabat Napinacz pływak32
kroki/informacje FunkcjeDykt
kroki/infos/pożądany_orient Napinacz (4,) pływak32
kroki/informacje/qpos Napinacz (30,) pływak32
kroki/informacje/kw Napinacz (30,) pływak32
kroki/jest_pierwszy Napinacz bool
kroki/jest_ostatni Napinacz bool
kroki/is_terminal Napinacz bool
kroki/obserwacje Napinacz (45,) pływak32
kroki/nagroda Napinacz pływak32

d4rl_adroit_pen/v1-expert

  • Rozmiar pobierania : 249.90 MiB

  • Rozmiar zbioru danych : 548.47 MiB

  • Automatyczne buforowanie ( dokumentacja ): Nie

  • Podziały :

Podział Przykłady
'train' 5000
  • Struktura funkcji :
FeaturesDict({
    'algorithm': string,
    'policy': FeaturesDict({
        'fc0': FeaturesDict({
            'bias': Tensor(shape=(64,), dtype=float32),
            'weight': Tensor(shape=(64, 45), dtype=float32),
        }),
        'fc1': FeaturesDict({
            'bias': Tensor(shape=(64,), dtype=float32),
            'weight': Tensor(shape=(64, 64), dtype=float32),
        }),
        'last_fc': FeaturesDict({
            'bias': Tensor(shape=(24,), dtype=float32),
            'weight': Tensor(shape=(24, 64), dtype=float32),
        }),
        'last_fc_log_std': FeaturesDict({
            'bias': Tensor(shape=(24,), dtype=float32),
            'weight': Tensor(shape=(24, 64), dtype=float32),
        }),
        'nonlinearity': string,
        'output_distribution': string,
    }),
    'steps': Dataset({
        'action': Tensor(shape=(24,), dtype=float32),
        'discount': float32,
        'infos': FeaturesDict({
            'action_log_std': Tensor(shape=(24,), dtype=float32),
            'action_mean': Tensor(shape=(24,), dtype=float32),
            'desired_orien': Tensor(shape=(4,), dtype=float32),
            'qpos': Tensor(shape=(30,), dtype=float32),
            'qvel': Tensor(shape=(30,), dtype=float32),
        }),
        'is_first': bool,
        'is_last': bool,
        'is_terminal': bool,
        'observation': Tensor(shape=(45,), dtype=float32),
        'reward': float32,
    }),
})
  • Dokumentacja funkcji :
Funkcja Klasa Kształt Typ D Opis
FunkcjeDykt
algorytm Napinacz strunowy
polityka FunkcjeDykt
polityka/fc0 FunkcjeDykt
polityka/fc0/stronniczość Napinacz (64,) pływak32
polityka/fc0/waga Napinacz (64, 45) pływak32
polityka/fc1 FunkcjeDykt
polityka/fc1/stronniczość Napinacz (64,) pływak32
polisa/fc1/waga Napinacz (64, 64) pływak32
polityka/last_fc FunkcjeDykt
policy/last_fc/bias Napinacz (24,) pływak32
policy/last_fc/waga Napinacz (24, 64) pływak32
polityka/last_fc_log_std FunkcjeDykt
policy/last_fc_log_std/bias Napinacz (24,) pływak32
policy/last_fc_log_std/waga Napinacz (24, 64) pływak32
polityka/nieliniowość Napinacz strunowy
polityka/dystrybucja_wyjściowa Napinacz strunowy
kroki Zbiór danych
kroki/akcja Napinacz (24,) pływak32
kroki/rabat Napinacz pływak32
kroki/informacje FunkcjeDykt
kroki/infos/action_log_std Napinacz (24,) pływak32
kroki/informacje/średnia_akcji Napinacz (24,) pływak32
kroki/infos/pożądany_orient Napinacz (4,) pływak32
kroki/informacje/qpos Napinacz (30,) pływak32
kroki/informacje/kw Napinacz (30,) pływak32
kroki/jest_pierwszy Napinacz bool
kroki/jest_ostatni Napinacz bool
kroki/is_terminal Napinacz bool
kroki/obserwacje Napinacz (45,) pływak32
kroki/nagroda Napinacz pływak32