cmu_play_fusion

  • תיאור :

הרובוט משחק עם 3 סצנות מורכבות: גריל עם חפצי בישול רבים כמו טוסטר, מחבת וכו'. יש לבחור, לפתוח, להניח, לסגור. זה צריך לערוך שולחן, להזיז צלחות, כוסות, כלים. והוא צריך להניח כלים בכיור, מדיח כלים, כוסות ידיים וכו'.

לְפַצֵל דוגמאות
'train' 576
  • מבנה תכונה :
FeaturesDict({
    'episode_metadata': FeaturesDict({
        'file_path': Text(shape=(), dtype=string),
    }),
    'steps': Dataset({
        'action': Tensor(shape=(9,), dtype=float32),
        'discount': Scalar(shape=(), dtype=float32),
        'is_first': bool,
        'is_last': bool,
        'is_terminal': bool,
        'language_embedding': Tensor(shape=(512,), dtype=float32),
        'language_instruction': Text(shape=(), dtype=string),
        'observation': FeaturesDict({
            'image': Image(shape=(128, 128, 3), dtype=uint8),
            'state': Tensor(shape=(8,), dtype=float32),
        }),
        'reward': Scalar(shape=(), dtype=float32),
    }),
})
  • תיעוד תכונה :
תכונה מעמד צוּרָה Dtype תיאור
FeaturesDict
episode_metadata FeaturesDict
episode_metadata/file_path טֶקסט חוּט נתיב לקובץ הנתונים המקורי.
צעדים מערך נתונים
צעדים/פעולה מוֹתֵחַ (9,) לצוף32 פעולת רובוט, מורכבת מ-[7x delta eef (pos + quat), 1x תפסן פתיחה/סגירה (בינארי), 1x פרק סיום].
צעדים/הנחה סקלר לצוף32 הנחה אם ניתנת, ברירת המחדל היא 1.
צעדים/הוא_ראשון מוֹתֵחַ bool
צעדים/הוא_אחרון מוֹתֵחַ bool
steps/is_terminal מוֹתֵחַ bool
שלבים/הטבעת_שפה מוֹתֵחַ (512,) לצוף32 הטבעת שפת Kona. ראה https://tfhub.dev/google/universal-sentence-encoder-large/5
שלבים/הוראת_שפה טֶקסט חוּט הוראת שפה.
צעדים/תצפית FeaturesDict
צעדים/תצפית/תמונה תמונה (128, 128, 3) uint8 תצפית RGB של מצלמה ראשית.
צעדים/תצפית/מצב מוֹתֵחַ (8,) לצוף32 מצב רובוט, מורכב מ-[7x זוויות מפרק רובוט, 1x מיקום תפס.
צעדים/פרס סקלר לצוף32 תגמול אם מסופק, 1 בשלב האחרון להדגמות.
  • ציטוט :
@inproceedings{chen2023playfusion,
  title={PlayFusion: Skill Acquisition via Diffusion from Language-Annotated Play},
  author={Chen, Lili and Bahl, Shikhar and Pathak, Deepak},
  booktitle={CoRL},
  year={2023}
}