- คำอธิบาย :
การใส่หมุด Kuka iiwa พร้อมการตอบสนองแรง
ซอร์สโค้ด :
tfds.robotics.rtx.StanfordKukaMultimodalDatasetConvertedExternallyToRlds
รุ่น :
-
0.1.0
(ค่าเริ่มต้น): การเปิดตัวครั้งแรก
-
ขนาดการดาวน์โหลด :
Unknown size
ขนาดชุดข้อมูล :
31.98 GiB
แคชอัตโนมัติ ( เอกสาร ): No
แยก :
แยก | ตัวอย่าง |
---|---|
'train' | 3,000 |
- โครงสร้างคุณสมบัติ :
FeaturesDict({
'episode_metadata': FeaturesDict({
}),
'steps': Dataset({
'action': Tensor(shape=(4,), dtype=float32, description=Robot action, consists of [3x EEF position, 1x gripper open/close].),
'discount': Scalar(shape=(), dtype=float32, description=Discount if provided, default to 1.),
'is_first': bool,
'is_last': bool,
'is_terminal': bool,
'language_embedding': Tensor(shape=(512,), dtype=float32, description=Kona language embedding. See https://tfhub.dev/google/universal-sentence-encoder-large/5),
'language_instruction': Text(shape=(), dtype=string),
'observation': FeaturesDict({
'contact': Tensor(shape=(50,), dtype=float32, description=Robot contact information.),
'depth_image': Tensor(shape=(128, 128, 1), dtype=float32, description=Main depth camera observation.),
'ee_forces_continuous': Tensor(shape=(50, 6), dtype=float32, description=Robot end-effector forces.),
'ee_orientation': Tensor(shape=(4,), dtype=float32, description=Robot end-effector orientation quaternion.),
'ee_orientation_vel': Tensor(shape=(3,), dtype=float32, description=Robot end-effector orientation velocity.),
'ee_position': Tensor(shape=(3,), dtype=float32, description=Robot end-effector position.),
'ee_vel': Tensor(shape=(3,), dtype=float32, description=Robot end-effector velocity.),
'ee_yaw': Tensor(shape=(4,), dtype=float32, description=Robot end-effector yaw.),
'ee_yaw_delta': Tensor(shape=(4,), dtype=float32, description=Robot end-effector yaw delta.),
'image': Image(shape=(128, 128, 3), dtype=uint8, description=Main camera RGB observation.),
'joint_pos': Tensor(shape=(7,), dtype=float32, description=Robot joint positions.),
'joint_vel': Tensor(shape=(7,), dtype=float32, description=Robot joint velocities.),
'optical_flow': Tensor(shape=(128, 128, 2), dtype=float32, description=Optical flow.),
'state': Tensor(shape=(8,), dtype=float32, description=Robot proprioceptive information, [7x joint pos, 1x gripper open/close].),
}),
'reward': Scalar(shape=(), dtype=float32, description=Reward if provided, 1 on final step for demos.),
}),
})
- เอกสารคุณสมบัติ :
คุณสมบัติ | ระดับ | รูปร่าง | ประเภทD | คำอธิบาย |
---|---|---|---|---|
คุณสมบัติDict | ||||
ตอนที่_ข้อมูลเมตา | คุณสมบัติDict | |||
ขั้นตอน | ชุดข้อมูล | |||
ขั้นตอน/การดำเนินการ | เทนเซอร์ | (4,) | ลอย32 | การทำงานของหุ่นยนต์ ประกอบด้วย [ตำแหน่ง EEF 3x, มือจับเปิด/ปิด 1x] |
ขั้นตอน/ส่วนลด | สเกลาร์ | ลอย32 | ส่วนลดหากมีให้ ค่าเริ่มต้นคือ 1 | |
ขั้นตอน/is_first | เทนเซอร์ | บูล | ||
ขั้นตอน/is_last | เทนเซอร์ | บูล | ||
ขั้นตอน/is_terminal | เทนเซอร์ | บูล | ||
ขั้นตอน/ภาษา_embedding | เทนเซอร์ | (512,) | ลอย32 | การฝังภาษาโคน่า ดู https://tfhub.dev/google/universal-sentence-encoder-large/5 |
ขั้นตอน/Language_instruction | ข้อความ | เชือก | การสอนภาษา. | |
ขั้นตอน/การสังเกต | คุณสมบัติDict | |||
ขั้นตอน/สังเกต/ติดต่อ | เทนเซอร์ | (50,) | ลอย32 | ข้อมูลการติดต่อหุ่นยนต์ |
ขั้นตอน/การสังเกต/deep_image | เทนเซอร์ | (128, 128, 1) | ลอย32 | การสังเกตด้วยกล้องความลึกหลัก |
ขั้นตอน/การสังเกต/ee_forces_continuous | เทนเซอร์ | (50, 6) | ลอย32 | แรงส่งผลกระทบปลายหุ่นยนต์ |
ขั้นตอน/การสังเกต/ee_orientation | เทนเซอร์ | (4,) | ลอย32 | ควอเทอร์เนียนการวางแนวเอฟเฟกต์ปลายหุ่นยนต์ |
ขั้นตอน/การสังเกต/ee_orientation_vel | เทนเซอร์ | (3,) | ลอย32 | ความเร็วการวางแนวของหุ่นยนต์ส่วนปลายเอฟเฟกต์ |
ขั้นตอน/การสังเกต/ee_position | เทนเซอร์ | (3,) | ลอย32 | ตำแหน่งเอ็ฟเฟ็กเตอร์ของหุ่นยนต์ |
ขั้นตอน/การสังเกต/ee_vel | เทนเซอร์ | (3,) | ลอย32 | ความเร็วของเอฟเฟกต์ปลายหุ่นยนต์ |
ขั้นตอน/ข้อสังเกต/ee_yaw | เทนเซอร์ | (4,) | ลอย32 | หุ่นยนต์เอนด์เอฟเฟกต์หันเห |
ขั้นตอน/การสังเกต/ee_yaw_delta | เทนเซอร์ | (4,) | ลอย32 | หุ่นยนต์ส่วนปลายเอฟเฟกต์ yaw delta |
ขั้นตอน/การสังเกต/ภาพ | ภาพ | (128, 128, 3) | uint8 | การสังเกต RGB ของกล้องหลัก |
ขั้นตอน/การสังเกต/joint_pos | เทนเซอร์ | (7,) | ลอย32 | ตำแหน่งข้อต่อหุ่นยนต์ |
ขั้นตอน/การสังเกต/joint_vel | เทนเซอร์ | (7,) | ลอย32 | ความเร็วข้อต่อของหุ่นยนต์ |
ขั้นตอน/การสังเกต/optical_flow | เทนเซอร์ | (128, 128, 2) | ลอย32 | การไหลของแสง |
ขั้นตอน/การสังเกต/สถานะ | เทนเซอร์ | (8,) | ลอย32 | ข้อมูลการรับรู้ความรู้สึกของหุ่นยนต์ [ตำแหน่งข้อต่อ 7x, มือจับเปิด/ปิด 1x] |
ขั้นตอน/รางวัล | สเกลาร์ | ลอย32 | รางวัลหากมีให้ 1 ในขั้นตอนสุดท้ายสำหรับการสาธิต |
คีย์ภายใต้การดูแล (ดู
as_supervised
doc ):None
รูปภาพ ( tfds.show_examples ): ไม่รองรับ
ตัวอย่าง ( tfds.as_dataframe ): หายไป
การอ้างอิง :
@inproceedings{lee2019icra,
title={Making sense of vision and touch: Self-supervised learning of multimodal representations for contact-rich tasks},
author={Lee, Michelle A and Zhu, Yuke and Srinivasan, Krishnan and Shah, Parth and Savarese, Silvio and Fei-Fei, Li and Garg, Animesh and Bohg, Jeannette},
booktitle={2019 IEEE International Conference on Robotics and Automation (ICRA)},
year={2019},
url={https://arxiv.org/abs/1810.10191}
}