- Descripción :
Inserción de clavijas Kuka iiwa con retroalimentación de fuerza
Página de inicio : https://sites.google.com/view/visionandtouch
Código fuente :
tfds.robotics.rtx.StanfordKukaMultimodalDatasetConvertedExternallyToRlds
Versiones :
-
0.1.0
(predeterminado): versión inicial.
-
Tamaño de descarga :
Unknown size
Tamaño del conjunto de datos :
31.98 GiB
Almacenamiento en caché automático ( documentación ): No
Divisiones :
Dividir | Ejemplos |
---|---|
'train' | 3.000 |
- Estructura de características :
FeaturesDict({
'episode_metadata': FeaturesDict({
}),
'steps': Dataset({
'action': Tensor(shape=(4,), dtype=float32, description=Robot action, consists of [3x EEF position, 1x gripper open/close].),
'discount': Scalar(shape=(), dtype=float32, description=Discount if provided, default to 1.),
'is_first': bool,
'is_last': bool,
'is_terminal': bool,
'language_embedding': Tensor(shape=(512,), dtype=float32, description=Kona language embedding. See https://tfhub.dev/google/universal-sentence-encoder-large/5),
'language_instruction': Text(shape=(), dtype=string),
'observation': FeaturesDict({
'contact': Tensor(shape=(50,), dtype=float32, description=Robot contact information.),
'depth_image': Tensor(shape=(128, 128, 1), dtype=float32, description=Main depth camera observation.),
'ee_forces_continuous': Tensor(shape=(50, 6), dtype=float32, description=Robot end-effector forces.),
'ee_orientation': Tensor(shape=(4,), dtype=float32, description=Robot end-effector orientation quaternion.),
'ee_orientation_vel': Tensor(shape=(3,), dtype=float32, description=Robot end-effector orientation velocity.),
'ee_position': Tensor(shape=(3,), dtype=float32, description=Robot end-effector position.),
'ee_vel': Tensor(shape=(3,), dtype=float32, description=Robot end-effector velocity.),
'ee_yaw': Tensor(shape=(4,), dtype=float32, description=Robot end-effector yaw.),
'ee_yaw_delta': Tensor(shape=(4,), dtype=float32, description=Robot end-effector yaw delta.),
'image': Image(shape=(128, 128, 3), dtype=uint8, description=Main camera RGB observation.),
'joint_pos': Tensor(shape=(7,), dtype=float32, description=Robot joint positions.),
'joint_vel': Tensor(shape=(7,), dtype=float32, description=Robot joint velocities.),
'optical_flow': Tensor(shape=(128, 128, 2), dtype=float32, description=Optical flow.),
'state': Tensor(shape=(8,), dtype=float32, description=Robot proprioceptive information, [7x joint pos, 1x gripper open/close].),
}),
'reward': Scalar(shape=(), dtype=float32, description=Reward if provided, 1 on final step for demos.),
}),
})
- Documentación de funciones :
Característica | Clase | Forma | tipo D | Descripción |
---|---|---|---|---|
FuncionesDict | ||||
episodio_metadatos | FuncionesDict | |||
pasos | Conjunto de datos | |||
pasos/acción | Tensor | (4,) | flotador32 | La acción del robot consta de [3 posiciones EEF, 1 apertura/cierre de la pinza]. |
pasos/descuento | Escalar | flotador32 | Descuento si se proporciona, el valor predeterminado es 1. | |
pasos/es_primero | Tensor | booleano | ||
pasos/es_último | Tensor | booleano | ||
pasos/es_terminal | Tensor | booleano | ||
pasos/idioma_incrustación | Tensor | (512,) | flotador32 | Incorporación del lenguaje Kona. Consulte https://tfhub.dev/google/universal-sentence-encoder-large/5 |
pasos/instrucción_idioma | Texto | cadena | Instrucción de idiomas. | |
pasos/observación | FuncionesDict | |||
pasos/observación/contacto | Tensor | (50,) | flotador32 | Información de contacto del robot. |
pasos/observación/imagen_profundidad | Tensor | (128, 128, 1) | flotador32 | Observación de la cámara principal de profundidad. |
pasos/observación/ee_forces_continuous | Tensor | (50, 6) | flotador32 | Fuerzas efectoras finales del robot. |
pasos/observación/ee_orientación | Tensor | (4,) | flotador32 | Cuaternión de orientación del efector final del robot. |
pasos/observación/ee_orientation_vel | Tensor | (3,) | flotador32 | Velocidad de orientación del efector final del robot. |
pasos/observación/ee_position | Tensor | (3,) | flotador32 | Posición del efector final del robot. |
pasos/observación/ee_vel | Tensor | (3,) | flotador32 | Velocidad del efector final del robot. |
pasos/observación/ee_yaw | Tensor | (4,) | flotador32 | Guiñada del efector final del robot. |
pasos/observación/ee_yaw_delta | Tensor | (4,) | flotador32 | Delta de guiñada del efector final del robot. |
pasos/observación/imagen | Imagen | (128, 128, 3) | uint8 | Observación RGB de la cámara principal. |
pasos/observación/joint_pos | Tensor | (7,) | flotador32 | Posiciones de las articulaciones del robot. |
pasos/observación/vel_conjunto | Tensor | (7,) | flotador32 | Velocidades de las articulaciones del robot. |
pasos/observación/flujo_óptico | Tensor | (128, 128, 2) | flotador32 | Flujo óptico. |
pasos/observación/estado | Tensor | (8,) | flotador32 | Información propioceptiva del robot, [7x posiciones de articulación, 1x apertura/cierre de pinza]. |
pasos/recompensa | Escalar | flotador32 | Recompensa si se proporciona, 1 en el paso final para demostraciones. |
Claves supervisadas (ver documento
as_supervised
):None
Figura ( tfds.show_examples ): no compatible.
Ejemplos ( tfds.as_dataframe ): Falta.
Cita :
@inproceedings{lee2019icra,
title={Making sense of vision and touch: Self-supervised learning of multimodal representations for contact-rich tasks},
author={Lee, Michelle A and Zhu, Yuke and Srinivasan, Krishnan and Shah, Parth and Savarese, Silvio and Fei-Fei, Li and Garg, Animesh and Bohg, Jeannette},
booktitle={2019 IEEE International Conference on Robotics and Automation (ICRA)},
year={2019},
url={https://arxiv.org/abs/1810.10191}
}