d4rl_adroit_pen

  • 説明

D4RL は、オフライン強化学習用のオープンソース ベンチマークです。トレーニングおよびベンチマーク アルゴリズム用の標準化された環境とデータセットを提供します。

データセットはRLDS 形式に従って、ステップとエピソードを表します。

@misc{fu2020d4rl,
    title={D4RL: Datasets for Deep Data-Driven Reinforcement Learning},
    author={Justin Fu and Aviral Kumar and Ofir Nachum and George Tucker and Sergey Levine},
    year={2020},
    eprint={2004.07219},
    archivePrefix={arXiv},
    primaryClass={cs.LG}
}

d4rl_adroit_pen/v0-human (デフォルト設定)

スプリット
'train' 50
  • 機能の構造:
FeaturesDict({
    'steps': Dataset({
        'action': Tensor(shape=(24,), dtype=float32),
        'discount': float32,
        'infos': FeaturesDict({
            'qpos': Tensor(shape=(30,), dtype=float32),
            'qvel': Tensor(shape=(30,), dtype=float32),
        }),
        'is_first': bool,
        'is_last': bool,
        'is_terminal': bool,
        'observation': Tensor(shape=(45,), dtype=float32),
        'reward': float32,
    }),
})
  • 機能ドキュメント:
特徴クラスDタイプ説明
特徴辞書
ステップデータセット
ステップ/アクションテンソル(24,) float32
歩数/割引テンソルfloat32
手順/情報特徴辞書
ステップ/情報/qposテンソル(30,) float32
ステップ/情報/qvelテンソル(30,) float32
ステップ/is_firstテンソルブール
ステップ/is_lastテンソルブール
ステップ/is_terminalテンソルブール
ステップ/観察テンソル(45,) float32
歩数/報酬テンソルfloat32

d4rl_adroit_pen/v0-クローン化

スプリット
'train' 5,023
  • 機能の構造:
FeaturesDict({
    'steps': Dataset({
        'action': Tensor(shape=(24,), dtype=float32),
        'discount': float64,
        'infos': FeaturesDict({
            'qpos': Tensor(shape=(30,), dtype=float64),
            'qvel': Tensor(shape=(30,), dtype=float64),
        }),
        'is_first': bool,
        'is_last': bool,
        'is_terminal': bool,
        'observation': Tensor(shape=(45,), dtype=float64),
        'reward': float64,
    }),
})
  • 機能ドキュメント:
特徴クラスDタイプ説明
特徴辞書
ステップデータセット
ステップ/アクションテンソル(24,) float32
歩数/割引テンソルfloat64
手順/情報特徴辞書
ステップ/情報/qposテンソル(30,) float64
ステップ/情報/qvelテンソル(30,) float64
ステップ/is_firstテンソルブール
ステップ/is_lastテンソルブール
ステップ/is_terminalテンソルブール
ステップ/観察テンソル(45,) float64
歩数/報酬テンソルfloat64

d4rl_adroit_pen/v0-expert

スプリット
'train' 5,000
  • 機能の構造:
FeaturesDict({
    'steps': Dataset({
        'action': Tensor(shape=(24,), dtype=float32),
        'discount': float32,
        'infos': FeaturesDict({
            'action_logstd': Tensor(shape=(24,), dtype=float32),
            'action_mean': Tensor(shape=(24,), dtype=float32),
            'qpos': Tensor(shape=(30,), dtype=float32),
            'qvel': Tensor(shape=(30,), dtype=float32),
        }),
        'is_first': bool,
        'is_last': bool,
        'is_terminal': bool,
        'observation': Tensor(shape=(45,), dtype=float32),
        'reward': float32,
    }),
})
  • 機能ドキュメント:
特徴クラスDタイプ説明
特徴辞書
ステップデータセット
ステップ/アクションテンソル(24,) float32
歩数/割引テンソルfloat32
手順/情報特徴辞書
ステップ/infos/action_logstdテンソル(24,) float32
ステップ/情報/アクション_平均テンソル(24,) float32
ステップ/情報/qposテンソル(30,) float32
ステップ/情報/qvelテンソル(30,) float32
ステップ/is_firstテンソルブール
ステップ/is_lastテンソルブール
ステップ/is_terminalテンソルブール
ステップ/観察テンソル(45,) float32
歩数/報酬テンソルfloat32

d4rl_adroit_pen/v1-human

スプリット
'train' 25
  • 機能の構造:
FeaturesDict({
    'steps': Dataset({
        'action': Tensor(shape=(24,), dtype=float32),
        'discount': float32,
        'infos': FeaturesDict({
            'desired_orien': Tensor(shape=(4,), dtype=float32),
            'qpos': Tensor(shape=(30,), dtype=float32),
            'qvel': Tensor(shape=(30,), dtype=float32),
        }),
        'is_first': bool,
        'is_last': bool,
        'is_terminal': bool,
        'observation': Tensor(shape=(45,), dtype=float32),
        'reward': float32,
    }),
})
  • 機能ドキュメント:
特徴クラスDタイプ説明
特徴辞書
ステップデータセット
ステップ/アクションテンソル(24,) float32
歩数/割引テンソルfloat32
手順/情報特徴辞書
ステップ/情報/desired_orienテンソル(4,) float32
ステップ/情報/qposテンソル(30,) float32
ステップ/情報/qvelテンソル(30,) float32
ステップ/is_firstテンソルブール
ステップ/is_lastテンソルブール
ステップ/is_terminalテンソルブール
ステップ/観察テンソル(45,) float32
歩数/報酬テンソルfloat32

d4rl_adroit_pen/v1-cloned

スプリット
'train' 3,755
  • 機能の構造:
FeaturesDict({
    'algorithm': string,
    'policy': FeaturesDict({
        'fc0': FeaturesDict({
            'bias': Tensor(shape=(256,), dtype=float32),
            'weight': Tensor(shape=(45, 256), dtype=float32),
        }),
        'fc1': FeaturesDict({
            'bias': Tensor(shape=(256,), dtype=float32),
            'weight': Tensor(shape=(256, 256), dtype=float32),
        }),
        'last_fc': FeaturesDict({
            'bias': Tensor(shape=(24,), dtype=float32),
            'weight': Tensor(shape=(256, 24), dtype=float32),
        }),
        'nonlinearity': string,
        'output_distribution': string,
    }),
    'steps': Dataset({
        'action': Tensor(shape=(24,), dtype=float32),
        'discount': float32,
        'infos': FeaturesDict({
            'desired_orien': Tensor(shape=(4,), dtype=float32),
            'qpos': Tensor(shape=(30,), dtype=float32),
            'qvel': Tensor(shape=(30,), dtype=float32),
        }),
        'is_first': bool,
        'is_last': bool,
        'is_terminal': bool,
        'observation': Tensor(shape=(45,), dtype=float32),
        'reward': float32,
    }),
})
  • 機能ドキュメント:
特徴クラスDタイプ説明
特徴辞書
アルゴリズムテンソル
ポリシー特徴辞書
ポリシー/fc0特徴辞書
ポリシー/fc0/バイアステンソル(256,) float32
ポリシー/fc0/重みテンソル(45,256) float32
ポリシー/fc1特徴辞書
ポリシー/FC1/バイアステンソル(256,) float32
ポリシー/fc1/重みテンソル(256、256) float32
ポリシー/last_fc特徴辞書
ポリシー/last_fc/バイアステンソル(24,) float32
ポリシー/last_fc/weightテンソル(256, 24) float32
ポリシー/非線形性テンソル
ポリシー/出力_配布テンソル
ステップデータセット
ステップ/アクションテンソル(24,) float32
歩数/割引テンソルfloat32
手順/情報特徴辞書
ステップ/情報/desired_orienテンソル(4,) float32
ステップ/情報/qposテンソル(30,) float32
ステップ/情報/qvelテンソル(30,) float32
ステップ/is_firstテンソルブール
ステップ/is_lastテンソルブール
ステップ/is_terminalテンソルブール
ステップ/観察テンソル(45,) float32
歩数/報酬テンソルfloat32

d4rl_adroit_pen/v1-expert

  • ダウンロードサイズ: 249.90 MiB

  • データセットのサイズ: 548.47 MiB

  • 自動キャッシュ(ドキュメント): いいえ

  • 分割:

スプリット
'train' 5,000
  • 機能の構造:
FeaturesDict({
    'algorithm': string,
    'policy': FeaturesDict({
        'fc0': FeaturesDict({
            'bias': Tensor(shape=(64,), dtype=float32),
            'weight': Tensor(shape=(64, 45), dtype=float32),
        }),
        'fc1': FeaturesDict({
            'bias': Tensor(shape=(64,), dtype=float32),
            'weight': Tensor(shape=(64, 64), dtype=float32),
        }),
        'last_fc': FeaturesDict({
            'bias': Tensor(shape=(24,), dtype=float32),
            'weight': Tensor(shape=(24, 64), dtype=float32),
        }),
        'last_fc_log_std': FeaturesDict({
            'bias': Tensor(shape=(24,), dtype=float32),
            'weight': Tensor(shape=(24, 64), dtype=float32),
        }),
        'nonlinearity': string,
        'output_distribution': string,
    }),
    'steps': Dataset({
        'action': Tensor(shape=(24,), dtype=float32),
        'discount': float32,
        'infos': FeaturesDict({
            'action_log_std': Tensor(shape=(24,), dtype=float32),
            'action_mean': Tensor(shape=(24,), dtype=float32),
            'desired_orien': Tensor(shape=(4,), dtype=float32),
            'qpos': Tensor(shape=(30,), dtype=float32),
            'qvel': Tensor(shape=(30,), dtype=float32),
        }),
        'is_first': bool,
        'is_last': bool,
        'is_terminal': bool,
        'observation': Tensor(shape=(45,), dtype=float32),
        'reward': float32,
    }),
})
  • 機能ドキュメント:
特徴クラスDタイプ説明
特徴辞書
アルゴリズムテンソル
ポリシー特徴辞書
ポリシー/fc0特徴辞書
ポリシー/fc0/バイアステンソル(64,) float32
ポリシー/fc0/重みテンソル(64、45) float32
ポリシー/fc1特徴辞書
ポリシー/FC1/バイアステンソル(64,) float32
ポリシー/fc1/重みテンソル(64、64) float32
ポリシー/last_fc特徴辞書
ポリシー/last_fc/バイアステンソル(24,) float32
ポリシー/last_fc/weightテンソル(24、64) float32
ポリシー/last_fc_log_std特徴辞書
ポリシー/last_fc_log_std/biasテンソル(24,) float32
ポリシー/last_fc_log_std/weightテンソル(24、64) float32
ポリシー/非線形性テンソル
ポリシー/出力_配布テンソル
ステップデータセット
ステップ/アクションテンソル(24,) float32
歩数/割引テンソルfloat32
手順/情報特徴辞書
ステップ/infos/action_log_stdテンソル(24,) float32
ステップ/情報/アクション_平均テンソル(24,) float32
ステップ/情報/desired_orienテンソル(4,) float32
ステップ/情報/qposテンソル(30,) float32
ステップ/情報/qvelテンソル(30,) float32
ステップ/is_firstテンソルブール
ステップ/is_lastテンソルブール
ステップ/is_terminalテンソルブール
ステップ/観察テンソル(45,) float32
歩数/報酬テンソルfloat32