openwebtext

Использованная литература:

простой текст

Используйте следующую команду, чтобы загрузить этот набор данных в TFDS:

ds = tfds.load('huggingface:openwebtext/plain_text')
  • Описание :
An open-source replication of the WebText dataset from OpenAI.
  • Лицензия : Нет известной лицензии.
  • Версия : 1.0.0
  • Расколы :
Расколоть Примеры
'train' 8013769
  • Функции :
{
    "text": {
        "dtype": "string",
        "id": null,
        "_type": "Value"
    }
}