- Opis :
Wkładanie kołków Kuka iiwa z siłowym sprzężeniem zwrotnym
Strona główna : https://sites.google.com/view/visionandtouch
Kod źródłowy :
tfds.robotics.rtx.StanfordKukaMultimodalDatasetConvertedExternallyToRlds
Wersje :
-
0.1.0
(domyślnie): Wersja pierwsza.
-
Rozmiar pobierania :
Unknown size
Rozmiar zbioru danych :
31.98 GiB
Automatyczne buforowanie ( dokumentacja ): Nie
Podziały :
Podział | Przykłady |
---|---|
'train' | 3000 |
- Struktura funkcji :
FeaturesDict({
'episode_metadata': FeaturesDict({
}),
'steps': Dataset({
'action': Tensor(shape=(4,), dtype=float32, description=Robot action, consists of [3x EEF position, 1x gripper open/close].),
'discount': Scalar(shape=(), dtype=float32, description=Discount if provided, default to 1.),
'is_first': bool,
'is_last': bool,
'is_terminal': bool,
'language_embedding': Tensor(shape=(512,), dtype=float32, description=Kona language embedding. See https://tfhub.dev/google/universal-sentence-encoder-large/5),
'language_instruction': Text(shape=(), dtype=string),
'observation': FeaturesDict({
'contact': Tensor(shape=(50,), dtype=float32, description=Robot contact information.),
'depth_image': Tensor(shape=(128, 128, 1), dtype=float32, description=Main depth camera observation.),
'ee_forces_continuous': Tensor(shape=(50, 6), dtype=float32, description=Robot end-effector forces.),
'ee_orientation': Tensor(shape=(4,), dtype=float32, description=Robot end-effector orientation quaternion.),
'ee_orientation_vel': Tensor(shape=(3,), dtype=float32, description=Robot end-effector orientation velocity.),
'ee_position': Tensor(shape=(3,), dtype=float32, description=Robot end-effector position.),
'ee_vel': Tensor(shape=(3,), dtype=float32, description=Robot end-effector velocity.),
'ee_yaw': Tensor(shape=(4,), dtype=float32, description=Robot end-effector yaw.),
'ee_yaw_delta': Tensor(shape=(4,), dtype=float32, description=Robot end-effector yaw delta.),
'image': Image(shape=(128, 128, 3), dtype=uint8, description=Main camera RGB observation.),
'joint_pos': Tensor(shape=(7,), dtype=float32, description=Robot joint positions.),
'joint_vel': Tensor(shape=(7,), dtype=float32, description=Robot joint velocities.),
'optical_flow': Tensor(shape=(128, 128, 2), dtype=float32, description=Optical flow.),
'state': Tensor(shape=(8,), dtype=float32, description=Robot proprioceptive information, [7x joint pos, 1x gripper open/close].),
}),
'reward': Scalar(shape=(), dtype=float32, description=Reward if provided, 1 on final step for demos.),
}),
})
- Dokumentacja funkcji :
Funkcja | Klasa | Kształt | Typ D | Opis |
---|---|---|---|---|
FunkcjeDykt | ||||
metadane_odcinka | FunkcjeDykt | |||
kroki | Zbiór danych | |||
kroki/akcja | Napinacz | (4,) | pływak32 | Akcja robota składa się z [3x pozycja EEF, 1x otwarcie/zamknięcie chwytaka]. |
kroki/rabat | Skalarny | pływak32 | Rabat, jeśli jest podany, domyślnie wynosi 1. | |
kroki/jest_pierwszy | Napinacz | bool | ||
kroki/jest_ostatni | Napinacz | bool | ||
kroki/is_terminal | Napinacz | bool | ||
kroki/osadzanie_języka | Napinacz | (512,) | pływak32 | Osadzanie języka Kona. Zobacz https://tfhub.dev/google/universal-sentence-encoder-large/5 |
kroki/instrukcja_językowa | Tekst | smyczkowy | Instrukcja językowa. | |
kroki/obserwacje | FunkcjeDykt | |||
kroki/obserwacja/kontakt | Napinacz | (50,) | pływak32 | Dane kontaktowe robota. |
kroki/obserwacja/obraz_głębokości | Napinacz | (128, 128, 1) | pływak32 | Obserwacja z głównej kamery głębinowej. |
kroki/obserwacja/ee_forces_continuous | Napinacz | (50, 6) | pływak32 | Siły efektora końcowego robota. |
kroki/obserwacja/orientacja_ee | Napinacz | (4,) | pływak32 | Kwaternion orientacji efektora końcowego robota. |
kroki/obserwacja/ee_orientation_vel | Napinacz | (3,) | pływak32 | Prędkość orientacji efektora końcowego robota. |
kroki/obserwacja/pozycja_ee | Napinacz | (3,) | pływak32 | Pozycja efektora końcowego robota. |
kroki/obserwacja/ee_vel | Napinacz | (3,) | pływak32 | Prędkość efektora końcowego robota. |
kroki/obserwacja/ee_yaw | Napinacz | (4,) | pływak32 | Odchylenie efektora końcowego robota. |
kroki/obserwacja/ee_yaw_delta | Napinacz | (4,) | pływak32 | Delta odchylenia efektora końcowego robota. |
kroki/obserwacja/obraz | Obraz | (128, 128, 3) | uint8 | Obserwacja RGB z głównej kamery. |
kroki/obserwacja/połączenie_połączenia | Napinacz | (7,) | pływak32 | Wspólne pozycje robota. |
kroki/obserwacja/wspólny_vel | Napinacz | (7,) | pływak32 | Prędkości stawów robota. |
kroki/obserwacja/przepływ_optyczny | Napinacz | (128, 128, 2) | pływak32 | Przepływ optyczny. |
kroki/obserwacja/stan | Napinacz | (8,) | pływak32 | Informacje proprioceptywne robota, [7x pozycja stawu, 1x chwytak otwarty/zamknięty]. |
kroki/nagroda | Skalarny | pływak32 | Nagroda, jeśli jest zapewniona, 1 na ostatnim etapie w przypadku wersji demonstracyjnych. |
Klucze nadzorowane (zobacz dokument
as_supervised
):None
Rysunek ( tfds.show_examples ): Nieobsługiwany.
Przykłady ( tfds.as_dataframe ): Brak.
Cytat :
@inproceedings{lee2019icra,
title={Making sense of vision and touch: Self-supervised learning of multimodal representations for contact-rich tasks},
author={Lee, Michelle A and Zhu, Yuke and Srinivasan, Krishnan and Shah, Parth and Savarese, Silvio and Fei-Fei, Li and Garg, Animesh and Bohg, Jeannette},
booktitle={2019 IEEE International Conference on Robotics and Automation (ICRA)},
year={2019},
url={https://arxiv.org/abs/1810.10191}
}