- توضیحات :
درج میخ Kuka iiwa با بازخورد نیرو
صفحه اصلی : https://sites.google.com/view/visionandtouch
کد منبع :
tfds.robotics.rtx.StanfordKukaMultimodalDatasetConvertedExternallyToRlds
نسخه ها :
-
0.1.0
(پیش فرض): انتشار اولیه.
-
اندازه دانلود :
Unknown size
حجم مجموعه داده :
31.98 GiB
ذخیره خودکار ( اسناد ): خیر
تقسیمات :
تقسیم کنید | نمونه ها |
---|---|
'train' | 3000 |
- ساختار ویژگی :
FeaturesDict({
'episode_metadata': FeaturesDict({
}),
'steps': Dataset({
'action': Tensor(shape=(4,), dtype=float32, description=Robot action, consists of [3x EEF position, 1x gripper open/close].),
'discount': Scalar(shape=(), dtype=float32, description=Discount if provided, default to 1.),
'is_first': bool,
'is_last': bool,
'is_terminal': bool,
'language_embedding': Tensor(shape=(512,), dtype=float32, description=Kona language embedding. See https://tfhub.dev/google/universal-sentence-encoder-large/5),
'language_instruction': Text(shape=(), dtype=string),
'observation': FeaturesDict({
'contact': Tensor(shape=(50,), dtype=float32, description=Robot contact information.),
'depth_image': Tensor(shape=(128, 128, 1), dtype=float32, description=Main depth camera observation.),
'ee_forces_continuous': Tensor(shape=(50, 6), dtype=float32, description=Robot end-effector forces.),
'ee_orientation': Tensor(shape=(4,), dtype=float32, description=Robot end-effector orientation quaternion.),
'ee_orientation_vel': Tensor(shape=(3,), dtype=float32, description=Robot end-effector orientation velocity.),
'ee_position': Tensor(shape=(3,), dtype=float32, description=Robot end-effector position.),
'ee_vel': Tensor(shape=(3,), dtype=float32, description=Robot end-effector velocity.),
'ee_yaw': Tensor(shape=(4,), dtype=float32, description=Robot end-effector yaw.),
'ee_yaw_delta': Tensor(shape=(4,), dtype=float32, description=Robot end-effector yaw delta.),
'image': Image(shape=(128, 128, 3), dtype=uint8, description=Main camera RGB observation.),
'joint_pos': Tensor(shape=(7,), dtype=float32, description=Robot joint positions.),
'joint_vel': Tensor(shape=(7,), dtype=float32, description=Robot joint velocities.),
'optical_flow': Tensor(shape=(128, 128, 2), dtype=float32, description=Optical flow.),
'state': Tensor(shape=(8,), dtype=float32, description=Robot proprioceptive information, [7x joint pos, 1x gripper open/close].),
}),
'reward': Scalar(shape=(), dtype=float32, description=Reward if provided, 1 on final step for demos.),
}),
})
- مستندات ویژگی :
ویژگی | کلاس | شکل | نوع D | توضیحات |
---|---|---|---|---|
FeaturesDict | ||||
episode_metadata | FeaturesDict | |||
مراحل | مجموعه داده | |||
مراحل/عمل | تانسور | (4،) | float32 | عمل ربات، شامل [3x موقعیت EEF، 1x دستگیره باز/بستن] است. |
مراحل/تخفیف | اسکالر | float32 | تخفیف در صورت ارائه، پیش فرض 1 است. | |
Steps/is_first | تانسور | بوول | ||
Steps/is_last | تانسور | بوول | ||
Steps/is_terminal | تانسور | بوول | ||
Steps/language_embedding | تانسور | (512،) | float32 | تعبیه زبان کونا. به https://tfhub.dev/google/universal-sentence-encoder-large/5 مراجعه کنید |
مراحل/زبان_آموزش | متن | رشته | آموزش زبان. | |
مراحل / مشاهده | FeaturesDict | |||
مراحل / مشاهده / تماس | تانسور | (50،) | float32 | اطلاعات تماس ربات |
مراحل/مشاهده/عمق_تصویر | تانسور | (128، 128، 1) | float32 | مشاهده دوربین عمق اصلی |
steps/observation/ee_forces_continuous | تانسور | (50، 6) | float32 | نیروهای اثربخش نهایی ربات. |
مراحل/مشاهده/ee_orientation | تانسور | (4،) | float32 | ربات کواترنیون جهت گیری اثر پایانی. |
steps/observation/ee_orientation_vel | تانسور | (3،) | float32 | سرعت جهت گیری اثر پایانی ربات. |
steps/observation/ee_position | تانسور | (3،) | float32 | موقعیت اثرگذار پایانی ربات. |
مراحل/مشاهده/ee_vel | تانسور | (3،) | float32 | سرعت اثر پایانی ربات |
مراحل/مشاهده/ee_yaw | تانسور | (4،) | float32 | ربات افکتور پایانی یاو. |
steps/observation/ee_yaw_delta | تانسور | (4،) | float32 | ربات افکتور انتهایی یاو دلتا. |
مراحل / مشاهده / تصویر | تصویر | (128، 128، 3) | uint8 | دوربین اصلی رصد RGB. |
steps/observation/joint_pos | تانسور | (7،) | float32 | موقعیت های مشترک ربات |
steps/observation/joint_vel | تانسور | (7،) | float32 | سرعت های مشترک ربات |
مراحل/مشاهده/جریان_نوری | تانسور | (128، 128، 2) | float32 | جریان نوری |
مراحل / مشاهده / حالت | تانسور | (8،) | float32 | اطلاعات حس عمقی ربات، [7x پوز مفصل، 1x دستگیره باز/بستن]. |
مراحل/پاداش | اسکالر | float32 | در صورت ارائه پاداش، 1 در مرحله آخر برای دموها. |
کلیدهای نظارت شده (به
as_supervised
doc مراجعه کنید):None
شکل ( tfds.show_examples ): پشتیبانی نمی شود.
مثالها ( tfds.as_dataframe ): وجود ندارد.
نقل قول :
@inproceedings{lee2019icra,
title={Making sense of vision and touch: Self-supervised learning of multimodal representations for contact-rich tasks},
author={Lee, Michelle A and Zhu, Yuke and Srinivasan, Krishnan and Shah, Parth and Savarese, Silvio and Fei-Fei, Li and Garg, Animesh and Bohg, Jeannette},
booktitle={2019 IEEE International Conference on Robotics and Automation (ICRA)},
year={2019},
url={https://arxiv.org/abs/1810.10191}
}