Загрузка данных NumPy

Смотрите на TensorFlow.org Запустите в Google Colab Изучайте код на GitHub Скачайте ноутбук

В этом руководстве приведен пример загрузки данных из массивов NumPy в tf.data.Dataset.

Этот пример загружает датасет MNIST из файла .npz. Однако источник массивов NumPy не важен.

Setup

 
import numpy as np
import tensorflow as tf

Load from .npz file

DATA_URL = 'https://storage.googleapis.com/tensorflow/tf-keras-datasets/mnist.npz'

path = tf.keras.utils.get_file('mnist.npz', DATA_URL)
with np.load(path) as data:
  train_examples = data['x_train']
  train_labels = data['y_train']
  test_examples = data['x_test']
  test_labels = data['y_test']

Загрузите массивы NumPy с tf.data.Dataset

Представьте что у вас есть массив примеров и соответствующий массив меток, передайте эти два массива кортежом в tf.data.Dataset.from_tensor_slices чтобы создать tf.data.Dataset.

train_dataset = tf.data.Dataset.from_tensor_slices((train_examples, train_labels))
test_dataset = tf.data.Dataset.from_tensor_slices((test_examples, test_labels))

Используйте датасеты

Перемешайте датасеты и разбейте их на пакеты

BATCH_SIZE = 64
SHUFFLE_BUFFER_SIZE = 100

train_dataset = train_dataset.shuffle(SHUFFLE_BUFFER_SIZE).batch(BATCH_SIZE)
test_dataset = test_dataset.batch(BATCH_SIZE)

Постройте и обучите модель

model = tf.keras.Sequential([
    tf.keras.layers.Flatten(input_shape=(28, 28)),
    tf.keras.layers.Dense(128, activation='relu'),
    tf.keras.layers.Dense(10, activation='softmax')
])

model.compile(optimizer=tf.keras.optimizers.RMSprop(),
                loss=tf.keras.losses.SparseCategoricalCrossentropy(),
                metrics=[tf.keras.metrics.SparseCategoricalAccuracy()])
model.fit(train_dataset, epochs=10)
Epoch 1/10
938/938 [==============================] - 2s 2ms/step - loss: 2.9551 - sparse_categorical_accuracy: 0.8821
Epoch 2/10
938/938 [==============================] - 2s 2ms/step - loss: 0.5200 - sparse_categorical_accuracy: 0.9271
Epoch 3/10
938/938 [==============================] - 2s 2ms/step - loss: 0.3798 - sparse_categorical_accuracy: 0.9466
Epoch 4/10
938/938 [==============================] - 2s 2ms/step - loss: 0.3220 - sparse_categorical_accuracy: 0.9544
Epoch 5/10
938/938 [==============================] - 2s 2ms/step - loss: 0.2890 - sparse_categorical_accuracy: 0.9606
Epoch 6/10
938/938 [==============================] - 2s 2ms/step - loss: 0.2635 - sparse_categorical_accuracy: 0.9632
Epoch 7/10
938/938 [==============================] - 2s 2ms/step - loss: 0.2300 - sparse_categorical_accuracy: 0.9669
Epoch 8/10
938/938 [==============================] - 2s 2ms/step - loss: 0.2311 - sparse_categorical_accuracy: 0.9692
Epoch 9/10
938/938 [==============================] - 2s 2ms/step - loss: 0.2222 - sparse_categorical_accuracy: 0.9736
Epoch 10/10
938/938 [==============================] - 2s 2ms/step - loss: 0.2062 - sparse_categorical_accuracy: 0.9746

<tensorflow.python.keras.callbacks.History at 0x7f3cfff46ac8>
model.evaluate(test_dataset)
157/157 [==============================] - 0s 1ms/step - loss: 0.6978 - sparse_categorical_accuracy: 0.9583

[0.6977800726890564, 0.958299994468689]