stanford_kuka_multimodal_dataset_converted_externally_to_rlds

  • Descrição :

Inserção de pino Kuka iiwa com feedback de força

Dividir Exemplos
'train' 3.000
  • Estrutura de recursos :
FeaturesDict({
    'episode_metadata': FeaturesDict({
    }),
    'steps': Dataset({
        'action': Tensor(shape=(4,), dtype=float32),
        'discount': Scalar(shape=(), dtype=float32),
        'is_first': bool,
        'is_last': bool,
        'is_terminal': bool,
        'language_embedding': Tensor(shape=(512,), dtype=float32),
        'language_instruction': Text(shape=(), dtype=string),
        'observation': FeaturesDict({
            'contact': Tensor(shape=(50,), dtype=float32),
            'depth_image': Tensor(shape=(128, 128, 1), dtype=float32),
            'ee_forces_continuous': Tensor(shape=(50, 6), dtype=float32),
            'ee_orientation': Tensor(shape=(4,), dtype=float32),
            'ee_orientation_vel': Tensor(shape=(3,), dtype=float32),
            'ee_position': Tensor(shape=(3,), dtype=float32),
            'ee_vel': Tensor(shape=(3,), dtype=float32),
            'ee_yaw': Tensor(shape=(4,), dtype=float32),
            'ee_yaw_delta': Tensor(shape=(4,), dtype=float32),
            'image': Image(shape=(128, 128, 3), dtype=uint8),
            'joint_pos': Tensor(shape=(7,), dtype=float32),
            'joint_vel': Tensor(shape=(7,), dtype=float32),
            'optical_flow': Tensor(shape=(128, 128, 2), dtype=float32),
            'state': Tensor(shape=(8,), dtype=float32),
        }),
        'reward': Scalar(shape=(), dtype=float32),
    }),
})
  • Documentação de recursos :
Recurso Aula Forma Tipo D Descrição
RecursosDict
episódio_metadados RecursosDict
passos Conjunto de dados
etapas/ação Tensor (4,) float32 A ação do robô consiste em [3x posição EEF, 1x pinça aberta/fechada].
passos/desconto Escalar float32 Desconto, se fornecido, o padrão é 1.
passos/é_primeiro Tensor bool
passos/é_último Tensor bool
etapas/is_terminal Tensor bool
etapas/idioma_incorporação Tensor (512,) float32 Incorporação da linguagem Kona. Consulte https://tfhub.dev/google/universal-sentence-encoder-large/5
etapas/instrução_idioma Texto corda Instrução de Idiomas.
etapas/observação RecursosDict
etapas/observação/contato Tensor (50,) float32 Informações de contato do robô.
etapas/observação/profundidade_imagem Tensor (128, 128, 1) float32 Observação principal da câmera de profundidade.
etapas/observação/ee_forces_continuous Tensor (50, 6) float32 Forças efetoras finais do robô.
etapas/observação/ee_orientação Tensor (4,) float32 Quaternion de orientação do efetor final do robô.
etapas/observação/ee_orientation_vel Tensor (3,) float32 Velocidade de orientação do efetor final do robô.
passos/observação/ee_position Tensor (3,) float32 Posição do efetor final do robô.
etapas/observação/ee_vel Tensor (3,) float32 Velocidade do efetor final do robô.
passos/observação/ee_yaw Tensor (4,) float32 Guinada do efetor final do robô.
etapas/observação/ee_yaw_delta Tensor (4,) float32 Delta de guinada do efetor final do robô.
passos/observação/imagem Imagem (128, 128, 3) uint8 Observação RGB da câmera principal.
etapas/observação/joint_pos Tensor (7,) float32 Posições conjuntas do robô.
etapas/observação/joint_vel Tensor (7,) float32 Velocidades articulares do robô.
etapas/observação/optical_flow Tensor (128, 128, 2) float32 Fluxo optico.
etapas/observação/estado Tensor (8,) float32 Informações proprioceptivas do robô, [7x posição da articulação, 1x pinça aberta/fechada].
passos/recompensa Escalar float32 Recompensa, se fornecida, 1 na etapa final para demonstrações.
@inproceedings{lee2019icra,
  title={Making sense of vision and touch: Self-supervised learning of multimodal representations for contact-rich tasks},
  author={Lee, Michelle A and Zhu, Yuke and Srinivasan, Krishnan and Shah, Parth and Savarese, Silvio and Fei-Fei, Li and  Garg, Animesh and Bohg, Jeannette},
  booktitle={2019 IEEE International Conference on Robotics and Automation (ICRA)},
  year={2019},
  url={https://arxiv.org/abs/1810.10191}
}