- Descrizione :
Inserimento del picchetto Kuka iiwa con force feedback
Home page : https://sites.google.com/view/visionandtouch
Codice sorgente :
tfds.robotics.rtx.StanfordKukaMultimodalDatasetConvertedExternallyToRlds
Versioni :
-
0.1.0
(predefinito): versione iniziale.
-
Dimensioni del download :
Unknown size
Dimensione del set di dati :
31.98 GiB
Memorizzazione nella cache automatica ( documentazione ): No
Divide :
Diviso | Esempi |
---|---|
'train' | 3.000 |
- Struttura delle caratteristiche :
FeaturesDict({
'episode_metadata': FeaturesDict({
}),
'steps': Dataset({
'action': Tensor(shape=(4,), dtype=float32, description=Robot action, consists of [3x EEF position, 1x gripper open/close].),
'discount': Scalar(shape=(), dtype=float32, description=Discount if provided, default to 1.),
'is_first': bool,
'is_last': bool,
'is_terminal': bool,
'language_embedding': Tensor(shape=(512,), dtype=float32, description=Kona language embedding. See https://tfhub.dev/google/universal-sentence-encoder-large/5),
'language_instruction': Text(shape=(), dtype=string),
'observation': FeaturesDict({
'contact': Tensor(shape=(50,), dtype=float32, description=Robot contact information.),
'depth_image': Tensor(shape=(128, 128, 1), dtype=float32, description=Main depth camera observation.),
'ee_forces_continuous': Tensor(shape=(50, 6), dtype=float32, description=Robot end-effector forces.),
'ee_orientation': Tensor(shape=(4,), dtype=float32, description=Robot end-effector orientation quaternion.),
'ee_orientation_vel': Tensor(shape=(3,), dtype=float32, description=Robot end-effector orientation velocity.),
'ee_position': Tensor(shape=(3,), dtype=float32, description=Robot end-effector position.),
'ee_vel': Tensor(shape=(3,), dtype=float32, description=Robot end-effector velocity.),
'ee_yaw': Tensor(shape=(4,), dtype=float32, description=Robot end-effector yaw.),
'ee_yaw_delta': Tensor(shape=(4,), dtype=float32, description=Robot end-effector yaw delta.),
'image': Image(shape=(128, 128, 3), dtype=uint8, description=Main camera RGB observation.),
'joint_pos': Tensor(shape=(7,), dtype=float32, description=Robot joint positions.),
'joint_vel': Tensor(shape=(7,), dtype=float32, description=Robot joint velocities.),
'optical_flow': Tensor(shape=(128, 128, 2), dtype=float32, description=Optical flow.),
'state': Tensor(shape=(8,), dtype=float32, description=Robot proprioceptive information, [7x joint pos, 1x gripper open/close].),
}),
'reward': Scalar(shape=(), dtype=float32, description=Reward if provided, 1 on final step for demos.),
}),
})
- Documentazione delle funzionalità :
Caratteristica | Classe | Forma | Tipo D | Descrizione |
---|---|---|---|---|
CaratteristicheDict | ||||
metadati_episodio | CaratteristicheDict | |||
passi | Set di dati | |||
passi/azione | Tensore | (4,) | float32 | L'azione del robot consiste in [3 posizioni EEF, 1 pinza aperta/chiusa]. |
passi/sconto | Scalare | float32 | Sconto se fornito, il valore predefinito è 1. | |
passi/è_primo | Tensore | bool | ||
passi/è_ultimo | Tensore | bool | ||
passi/è_terminale | Tensore | bool | ||
passaggi/incorporamento_lingua | Tensore | (512,) | float32 | Incorporamento del linguaggio Kona. Vedi https://tfhub.dev/google/universal-sentence-encoder-large/5 |
passi/lingua_istruzioni | Testo | corda | Insegnamento della lingua. | |
passi/osservazione | CaratteristicheDict | |||
passi/osservazione/contatto | Tensore | (50,) | float32 | Informazioni di contatto del robot. |
passi/osservazione/profondità_immagine | Tensore | (128, 128, 1) | float32 | Osservazione principale con la telecamera di profondità. |
passi/osservazione/ee_forces_continuous | Tensore | (50, 6) | float32 | Forze dell'effettore finale del robot. |
passi/osservazione/ee_orientamento | Tensore | (4,) | float32 | Quaternione di orientamento dell'effettore finale del robot. |
passi/osservazione/ee_orientation_vel | Tensore | (3,) | float32 | Velocità di orientamento dell'effettore finale del robot. |
passi/osservazione/ee_posizione | Tensore | (3,) | float32 | Posizione dell'effettore finale del robot. |
passi/osservazione/ee_vel | Tensore | (3,) | float32 | Velocità dell'effettore finale del robot. |
passi/osservazione/ee_yaw | Tensore | (4,) | float32 | Imbardata dell'effettore finale del robot. |
passi/osservazione/ee_yaw_delta | Tensore | (4,) | float32 | Delta di imbardata dell'effettore finale del robot. |
passi/osservazione/immagine | Immagine | (128, 128, 3) | uint8 | Osservazione RGB della fotocamera principale. |
passi/osservazione/joint_pos | Tensore | (7,) | float32 | Posizioni dei giunti del robot. |
passi/osservazione/joint_vel | Tensore | (7,) | float32 | Velocità dei giunti dei robot. |
passi/osservazione/flusso_ottico | Tensore | (128, 128, 2) | float32 | Flusso ottico. |
passi/osservazione/stato | Tensore | (8,) | float32 | Informazioni propriocettive del robot, [7x posizione articolare, 1x pinza aperta/chiusa]. |
passi/ricompensa | Scalare | float32 | Ricompensa se fornita, 1 nel passaggio finale per le demo. |
Chiavi supervisionate (vedi il documento
as_supervised
):None
Figura ( tfds.show_examples ): non supportato.
Esempi ( tfds.as_dataframe ): Mancante.
Citazione :
@inproceedings{lee2019icra,
title={Making sense of vision and touch: Self-supervised learning of multimodal representations for contact-rich tasks},
author={Lee, Michelle A and Zhu, Yuke and Srinivasan, Krishnan and Shah, Parth and Savarese, Silvio and Fei-Fei, Li and Garg, Animesh and Bohg, Jeannette},
booktitle={2019 IEEE International Conference on Robotics and Automation (ICRA)},
year={2019},
url={https://arxiv.org/abs/1810.10191}
}