- وصف :
إدخال ربط Kuka iiwa مع ردود فعل قوية
الصفحة الرئيسية : https://sites.google.com/view/visionandtouch
كود المصدر :
tfds.robotics.rtx.StanfordKukaMultimodalDatasetConvertedExternallyToRlds
الإصدارات :
-
0.1.0
(افتراضي): الإصدار الأولي.
-
حجم التحميل :
Unknown size
حجم مجموعة البيانات :
31.98 GiB
التخزين المؤقت التلقائي ( الوثائق ): لا
الإنشقاقات :
ينقسم | أمثلة |
---|---|
'train' | 3000 |
- هيكل الميزة :
FeaturesDict({
'episode_metadata': FeaturesDict({
}),
'steps': Dataset({
'action': Tensor(shape=(4,), dtype=float32, description=Robot action, consists of [3x EEF position, 1x gripper open/close].),
'discount': Scalar(shape=(), dtype=float32, description=Discount if provided, default to 1.),
'is_first': bool,
'is_last': bool,
'is_terminal': bool,
'language_embedding': Tensor(shape=(512,), dtype=float32, description=Kona language embedding. See https://tfhub.dev/google/universal-sentence-encoder-large/5),
'language_instruction': Text(shape=(), dtype=string),
'observation': FeaturesDict({
'contact': Tensor(shape=(50,), dtype=float32, description=Robot contact information.),
'depth_image': Tensor(shape=(128, 128, 1), dtype=float32, description=Main depth camera observation.),
'ee_forces_continuous': Tensor(shape=(50, 6), dtype=float32, description=Robot end-effector forces.),
'ee_orientation': Tensor(shape=(4,), dtype=float32, description=Robot end-effector orientation quaternion.),
'ee_orientation_vel': Tensor(shape=(3,), dtype=float32, description=Robot end-effector orientation velocity.),
'ee_position': Tensor(shape=(3,), dtype=float32, description=Robot end-effector position.),
'ee_vel': Tensor(shape=(3,), dtype=float32, description=Robot end-effector velocity.),
'ee_yaw': Tensor(shape=(4,), dtype=float32, description=Robot end-effector yaw.),
'ee_yaw_delta': Tensor(shape=(4,), dtype=float32, description=Robot end-effector yaw delta.),
'image': Image(shape=(128, 128, 3), dtype=uint8, description=Main camera RGB observation.),
'joint_pos': Tensor(shape=(7,), dtype=float32, description=Robot joint positions.),
'joint_vel': Tensor(shape=(7,), dtype=float32, description=Robot joint velocities.),
'optical_flow': Tensor(shape=(128, 128, 2), dtype=float32, description=Optical flow.),
'state': Tensor(shape=(8,), dtype=float32, description=Robot proprioceptive information, [7x joint pos, 1x gripper open/close].),
}),
'reward': Scalar(shape=(), dtype=float32, description=Reward if provided, 1 on final step for demos.),
}),
})
- وثائق الميزة :
ميزة | فصل | شكل | نوع D | وصف |
---|---|---|---|---|
المميزاتDict | ||||
الحلقة_البيانات الوصفية | المميزاتDict | |||
خطوات | مجموعة البيانات | |||
الخطوات/الإجراء | الموتر | (4،) | float32 | يتكون عمل الروبوت من [وضعية EEF 3x، وقبضة 1x مفتوحة/مغلقة]. |
الخطوات/الخصم | العددية | float32 | الخصم إذا تم توفيره، الافتراضي هو 1. | |
الخطوات/is_first | الموتر | منطقي | ||
الخطوات/is_last | الموتر | منطقي | ||
الخطوات/is_terminal | الموتر | منطقي | ||
الخطوات/language_embedding | الموتر | (512،) | float32 | تضمين لغة كونا. راجع https://tfhub.dev/google/universal-sentence-encoder-large/5 |
الخطوات/language_instruction | نص | خيط | تعليم اللغة. | |
الخطوات/الملاحظة | المميزاتDict | |||
الخطوات/الملاحظة/الاتصال | الموتر | (50،) | float32 | معلومات الاتصال بالروبوت. |
الخطوات/الملاحظة/عمق_صورة | الموتر | (128، 128، 1) | float32 | مراقبة الكاميرا العميقة الرئيسية. |
الخطوات/الملاحظة/ee_forces_continious | الموتر | (50، 6) | float32 | قوى المؤثر النهائي للروبوت. |
الخطوات/الملاحظة/ee_orientation | الموتر | (4،) | float32 | روبوت توجيه المؤثر النهائي. |
الخطوات/الملاحظة/ee_orientation_vel | الموتر | (3،) | float32 | سرعة توجيه المؤثر النهائي للروبوت. |
الخطوات/الملاحظة/ee_position | الموتر | (3،) | float32 | موقف المؤثر النهائي للروبوت. |
الخطوات/الملاحظة/ee_vel | الموتر | (3،) | float32 | سرعة المؤثر النهائي للروبوت. |
الخطوات/الملاحظة/ee_yaw | الموتر | (4،) | float32 | الروبوت المؤثر النهائي ياو. |
الخطوات/الملاحظة/ee_yaw_delta | الموتر | (4،) | float32 | الروبوت المؤثر النهائي ياو دلتا. |
الخطوات/الملاحظة/الصورة | صورة | (128، 128، 3) | uint8 | مراقبة الكاميرا الرئيسية RGB. |
الخطوات/الملاحظة/joint_pos | الموتر | (7،) | float32 | المواقف المشتركة للروبوت. |
الخطوات/الملاحظة/joint_vel | الموتر | (7،) | float32 | سرعات الروبوت المشتركة. |
الخطوات/الملاحظة/optical_flow | الموتر | (128، 128، 2) | float32 | التدفق البصري. |
الخطوات/الملاحظة/الحالة | الموتر | (8،) | float32 | معلومات الروبوت التحسسي، [7x نقاط مفصلية، 1x قابض مفتوح/مغلق]. |
خطوات/مكافأة | العددية | float32 | مكافأة إذا تم توفيرها، 1 في الخطوة النهائية للعروض التوضيحية. |
المفاتيح الخاضعة للإشراف (انظر
as_supervised
doc ):None
الشكل ( tfds.show_examples ): غير مدعوم.
أمثلة ( tfds.as_dataframe ): مفقود.
الاقتباس :
@inproceedings{lee2019icra,
title={Making sense of vision and touch: Self-supervised learning of multimodal representations for contact-rich tasks},
author={Lee, Michelle A and Zhu, Yuke and Srinivasan, Krishnan and Shah, Parth and Savarese, Silvio and Fei-Fei, Li and Garg, Animesh and Bohg, Jeannette},
booktitle={2019 IEEE International Conference on Robotics and Automation (ICRA)},
year={2019},
url={https://arxiv.org/abs/1810.10191}
}