- Описание :
Вставка колышка Kuka iiwa с силовой обратной связью
Домашняя страница : https://sites.google.com/view/visionandtouch.
Исходный код :
tfds.robotics.rtx.StanfordKukaMultimodalDatasetConvertedExternallyToRlds
Версии :
-
0.1.0
(по умолчанию): первоначальный выпуск.
-
Размер загрузки :
Unknown size
Размер набора данных :
31.98 GiB
Автокэширование ( документация ): Нет
Расколы :
Расколоть | Примеры |
---|---|
'train' | 3000 |
- Структура функции :
FeaturesDict({
'episode_metadata': FeaturesDict({
}),
'steps': Dataset({
'action': Tensor(shape=(4,), dtype=float32, description=Robot action, consists of [3x EEF position, 1x gripper open/close].),
'discount': Scalar(shape=(), dtype=float32, description=Discount if provided, default to 1.),
'is_first': bool,
'is_last': bool,
'is_terminal': bool,
'language_embedding': Tensor(shape=(512,), dtype=float32, description=Kona language embedding. See https://tfhub.dev/google/universal-sentence-encoder-large/5),
'language_instruction': Text(shape=(), dtype=string),
'observation': FeaturesDict({
'contact': Tensor(shape=(50,), dtype=float32, description=Robot contact information.),
'depth_image': Tensor(shape=(128, 128, 1), dtype=float32, description=Main depth camera observation.),
'ee_forces_continuous': Tensor(shape=(50, 6), dtype=float32, description=Robot end-effector forces.),
'ee_orientation': Tensor(shape=(4,), dtype=float32, description=Robot end-effector orientation quaternion.),
'ee_orientation_vel': Tensor(shape=(3,), dtype=float32, description=Robot end-effector orientation velocity.),
'ee_position': Tensor(shape=(3,), dtype=float32, description=Robot end-effector position.),
'ee_vel': Tensor(shape=(3,), dtype=float32, description=Robot end-effector velocity.),
'ee_yaw': Tensor(shape=(4,), dtype=float32, description=Robot end-effector yaw.),
'ee_yaw_delta': Tensor(shape=(4,), dtype=float32, description=Robot end-effector yaw delta.),
'image': Image(shape=(128, 128, 3), dtype=uint8, description=Main camera RGB observation.),
'joint_pos': Tensor(shape=(7,), dtype=float32, description=Robot joint positions.),
'joint_vel': Tensor(shape=(7,), dtype=float32, description=Robot joint velocities.),
'optical_flow': Tensor(shape=(128, 128, 2), dtype=float32, description=Optical flow.),
'state': Tensor(shape=(8,), dtype=float32, description=Robot proprioceptive information, [7x joint pos, 1x gripper open/close].),
}),
'reward': Scalar(shape=(), dtype=float32, description=Reward if provided, 1 on final step for demos.),
}),
})
- Функциональная документация :
Особенность | Сорт | Форма | Дтип | Описание |
---|---|---|---|---|
ВозможностиDict | ||||
эпизод_метаданные | ВозможностиDict | |||
шаги | Набор данных | |||
шаги/действия | Тензор | (4,) | float32 | Действие робота состоит из [3 положений EEF, 1 открытия/закрытия захвата]. |
шаги/скидка | Скаляр | float32 | Скидка, если она предусмотрена, по умолчанию равна 1. | |
шаги/is_first | Тензор | логическое значение | ||
шаги/is_last | Тензор | логическое значение | ||
шаги/is_terminal | Тензор | логическое значение | ||
шаги/language_embedding | Тензор | (512,) | float32 | Встраивание языка Kona. См. https://tfhub.dev/google/universal-sentence-encoder-large/5 . |
шаги/language_instruction | Текст | нить | Языковое обучение. | |
шаги/наблюдение | ВозможностиDict | |||
шаги/наблюдение/контакт | Тензор | (50,) | float32 | Контактная информация робота. |
шаги/наблюдение/глубина_изображения | Тензор | (128, 128, 1) | float32 | Наблюдение основной камерой глубины. |
шаги/наблюдение/ee_forces_continious | Тензор | (50, 6) | float32 | Рабочие силы робота. |
шаги/наблюдение/ee_orientation | Тензор | (4,) | float32 | Кватернион ориентации рабочего органа робота. |
шаги/наблюдение/ee_orientation_vel | Тензор | (3,) | float32 | Скорость ориентации рабочего органа робота. |
шаги/наблюдение/ee_position | Тензор | (3,) | float32 | Положение рабочего органа робота. |
шаги/наблюдение/ee_vel | Тензор | (3,) | float32 | Скорость рабочего органа робота. |
шаги/наблюдение/ee_yaw | Тензор | (4,) | float32 | Рыскание рабочего органа робота. |
шаги/наблюдение/ee_yaw_delta | Тензор | (4,) | float32 | Дельта отклонения от курса рабочего органа робота. |
шаги/наблюдение/изображение | Изображение | (128, 128, 3) | uint8 | Основная камера наблюдения RGB. |
шаги/наблюдение/joint_pos | Тензор | (7,) | float32 | Позиции суставов роботов. |
шаги/наблюдение/joint_vel | Тензор | (7,) | float32 | Скорость суставов робота. |
шаги/наблюдение/optical_flow | Тензор | (128, 128, 2) | float32 | Оптический поток. |
шаги/наблюдение/состояние | Тензор | (8,) | float32 | Проприоцептивная информация робота, [7 положений сустава, 1 открытие/закрытие захвата]. |
шаги/награда | Скаляр | float32 | Награда, если предусмотрена, 1 на последнем этапе демоверсий. |
Контролируемые ключи (см. документ
as_supervised
):None
Рисунок ( tfds.show_examples ): не поддерживается.
Примеры ( tfds.as_dataframe ): Отсутствуют.
Цитата :
@inproceedings{lee2019icra,
title={Making sense of vision and touch: Self-supervised learning of multimodal representations for contact-rich tasks},
author={Lee, Michelle A and Zhu, Yuke and Srinivasan, Krishnan and Shah, Parth and Savarese, Silvio and Fei-Fei, Li and Garg, Animesh and Bohg, Jeannette},
booktitle={2019 IEEE International Conference on Robotics and Automation (ICRA)},
year={2019},
url={https://arxiv.org/abs/1810.10191}
}