vima_converted_externally_to_rlds

  • คำอธิบาย :

ชุดข้อมูล SIM ของแขนหุ่นยนต์ตัวเดียวที่ทำงานบนโต๊ะที่สร้างตามขั้นตอนพร้อมการแจ้งเตือนหลายรูปแบบ วิถี 600K+

แยก ตัวอย่าง
  • โครงสร้างคุณสมบัติ :
FeaturesDict({
    'episode_metadata': FeaturesDict({
        'action_bounds': FeaturesDict({
            'high': Tensor(shape=(3,), dtype=float32),
            'low': Tensor(shape=(3,), dtype=float32),
        }),
        'end-effector type': string,
        'failure': Scalar(shape=(), dtype=bool),
        'file_path': string,
        'n_objects': Scalar(shape=(), dtype=int64),
        'num_steps': Scalar(shape=(), dtype=int64),
        'robot_components_seg_ids': Sequence(Scalar(shape=(), dtype=int64)),
        'seed': Scalar(shape=(), dtype=int64),
        'success': Scalar(shape=(), dtype=bool),
        'task': string,
    }),
    'steps': Dataset({
        'action': FeaturesDict({
            'pose0_position': Tensor(shape=(3,), dtype=float32),
            'pose0_rotation': Tensor(shape=(4,), dtype=float32),
            'pose1_position': Tensor(shape=(3,), dtype=float32),
            'pose1_rotation': Tensor(shape=(4,), dtype=float32),
        }),
        'discount': Scalar(shape=(), dtype=float32),
        'is_first': bool,
        'is_last': bool,
        'is_terminal': bool,
        'multimodal_instruction': string,
        'multimodal_instruction_assets': FeaturesDict({
            'asset_type': Sequence(string),
            'frontal_image': Sequence(Tensor(shape=(128, 256, 3), dtype=uint8)),
            'frontal_segmentation': Sequence(Tensor(shape=(128, 256), dtype=uint8)),
            'image': Sequence(Tensor(shape=(128, 256, 3), dtype=uint8)),
            'key_name': Sequence(string),
            'segmentation': Sequence(Tensor(shape=(128, 256), dtype=uint8)),
            'segmentation_obj_info': Sequence({
                'obj_name': Sequence(string),
                'segm_id': Sequence(Scalar(shape=(), dtype=int64)),
                'texture_name': Sequence(string),
            }),
        }),
        'observation': FeaturesDict({
            'ee': int64,
            'frontal_image': Tensor(shape=(128, 256, 3), dtype=uint8),
            'frontal_segmentation': Tensor(shape=(128, 256), dtype=uint8),
            'image': Tensor(shape=(128, 256, 3), dtype=uint8),
            'segmentation': Tensor(shape=(128, 256), dtype=uint8),
            'segmentation_obj_info': FeaturesDict({
                'obj_name': Sequence(string),
                'segm_id': Sequence(Scalar(shape=(), dtype=int64)),
                'texture_name': Sequence(string),
            }),
        }),
        'reward': Scalar(shape=(), dtype=float32),
    }),
})
  • เอกสารคุณสมบัติ :
คุณสมบัติ ระดับ รูปร่าง ประเภทD คำอธิบาย
คุณสมบัติDict
ตอนที่_ข้อมูลเมตา คุณสมบัติDict
ตอนที่_metadata/action_bounds คุณสมบัติDict
ตอนที่_metadata/action_bounds/สูง เทนเซอร์ (3,) ลอย32
ตอนที่_metadata/action_bounds/ต่ำ เทนเซอร์ (3,) ลอย32
ตอนที่_metadata/ประเภทเอฟเฟกต์ปลาย เทนเซอร์ เชือก
ตอนที่_ข้อมูลเมตา/ความล้มเหลว สเกลาร์ บูล
ตอนที่_metadata/file_path เทนเซอร์ เชือก
ตอนที่_metadata/n_objects สเกลาร์ int64
ตอนที่_ข้อมูลเมตา/num_steps สเกลาร์ int64
ตอนที่_metadata/robot_components_seg_ids ลำดับ(สเกลาร์) (ไม่มี,) int64
ตอนที่_ข้อมูลเมตา/seed สเกลาร์ int64
ตอนที่_ข้อมูลเมตา/ความสำเร็จ สเกลาร์ บูล
ตอนที่_ข้อมูลเมตา/งาน เทนเซอร์ เชือก
ขั้นตอน ชุดข้อมูล
ขั้นตอน/การดำเนินการ คุณสมบัติDict
ขั้นตอน/การกระทำ/pose0_position เทนเซอร์ (3,) ลอย32
ขั้นตอน/การกระทำ/pose0_rotation เทนเซอร์ (4,) ลอย32
ขั้นตอน/การกระทำ/pose1_position เทนเซอร์ (3,) ลอย32
ขั้นตอน/การกระทำ/pose1_rotation เทนเซอร์ (4,) ลอย32
ขั้นตอน/ส่วนลด สเกลาร์ ลอย32
ขั้นตอน/is_first เทนเซอร์ บูล
ขั้นตอน/is_last เทนเซอร์ บูล
ขั้นตอน/is_terminal เทนเซอร์ บูล
ขั้นตอน/multimodal_instruction เทนเซอร์ เชือก
ขั้นตอน/multimodal_instruction_assets คุณสมบัติDict
ขั้นตอน/multimodal_instruction_assets/asset_type ลำดับ (เทนเซอร์) (ไม่มี,) เชือก
ขั้นตอน/multimodal_instruction_assets/frontal_image ลำดับ (เทนเซอร์) (ไม่มี, 128, 256, 3) uint8
ขั้นตอน/multimodal_instruction_assets/frontal_segmentation ลำดับ (เทนเซอร์) (ไม่มี, 128, 256) uint8
ขั้นตอน/multimodal_instruction_assets/รูปภาพ ลำดับ (เทนเซอร์) (ไม่มี, 128, 256, 3) uint8
ขั้นตอน/multimodal_instruction_assets/key_name ลำดับ (เทนเซอร์) (ไม่มี,) เชือก
ขั้นตอน/multimodal_instruction_assets/การแบ่งส่วน ลำดับ (เทนเซอร์) (ไม่มี, 128, 256) uint8
ขั้นตอน/multimodal_instruction_assets/segmentation_obj_info ลำดับ
ขั้นตอน/multimodal_instruction_assets/segmentation_obj_info/obj_name ลำดับ (เทนเซอร์) (ไม่มี,) เชือก
ขั้นตอน/multimodal_instruction_assets/segmentation_obj_info/segm_id ลำดับ(สเกลาร์) (ไม่มี,) int64
ขั้นตอน/multimodal_instruction_assets/segmentation_obj_info/texture_name ลำดับ (เทนเซอร์) (ไม่มี,) เชือก
ขั้นตอน/การสังเกต คุณสมบัติDict
ขั้นตอน/การสังเกต/ee เทนเซอร์ int64
ขั้นตอน/การสังเกต/frontal_image เทนเซอร์ (128, 256, 3) uint8
ขั้นตอน/การสังเกต/frontal_segmentation เทนเซอร์ (128, 256) uint8
ขั้นตอน/การสังเกต/ภาพ เทนเซอร์ (128, 256, 3) uint8
ขั้นตอน/การสังเกต/การแบ่งส่วน เทนเซอร์ (128, 256) uint8
ขั้นตอน/การสังเกต/การแบ่งส่วน_obj_info คุณสมบัติDict
ขั้นตอน/การสังเกต/segmentation_obj_info/obj_name ลำดับ (เทนเซอร์) (ไม่มี,) เชือก
ขั้นตอน/การสังเกต/segmentation_obj_info/segm_id ลำดับ(สเกลาร์) (ไม่มี,) int64
ขั้นตอน/การสังเกต/segmentation_obj_info/texture_name ลำดับ (เทนเซอร์) (ไม่มี,) เชือก
ขั้นตอน/รางวัล สเกลาร์ ลอย32
@inproceedings{jiang2023vima,  title     = {VIMA: General Robot Manipulation with Multimodal Prompts},  author    = {Yunfan Jiang and Agrim Gupta and Zichen Zhang and Guanzhi Wang and Yongqiang Dou and Yanjun Chen and Li Fei-Fei and Anima Anandkumar and Yuke Zhu and Linxi Fan}, booktitle = {Fortieth International Conference on Machine Learning},  year      = {2023}. }