Pomoc chronić Wielkiej Rafy Koralowej z TensorFlow na Kaggle Dołącz Wyzwanie

Szkolenie sieci neuronowej na MNIST z Keras

Ten prosty przykład pokazuje, jak podłączyć zestawy danych TensorFlow (TFDS) do modelu Keras.

Zobacz na TensorFlow.org Uruchom w Google Colab Wyświetl źródło na GitHub Pobierz notatnik
import tensorflow as tf
import tensorflow_datasets as tfds

Krok 1: Utwórz potok wejściowy

Zacznij od zbudowania wydajnego potoku danych wejściowych, korzystając z porad od:

Załaduj zbiór danych

Załaduj zbiór danych MNIST z następującymi argumentami:

  • shuffle_files=True : Dane MNIST są przechowywane tylko w jednym pliku, ale w przypadku większych zbiorów danych z wielu plików na dysku, jest to dobra praktyka, aby je losowo podczas szkolenia.
  • as_supervised=True : Zwraca krotki (img, label) zamiast słownika {'image': img, 'label': label} .
(ds_train, ds_test), ds_info = tfds.load(
    'mnist',
    split=['train', 'test'],
    shuffle_files=True,
    as_supervised=True,
    with_info=True,
)
2021-10-19 11:14:00.483247: E tensorflow/stream_executor/cuda/cuda_driver.cc:271] failed call to cuInit: CUDA_ERROR_NO_DEVICE: no CUDA-capable device is detected

Zbuduj potok treningowy

Zastosuj następujące przekształcenia:

  • tf.data.Dataset.map : TFDS zapewniają obrazy typu tf.uint8 , podczas gdy model oczekuje tf.float32 . Dlatego musisz znormalizować obrazy.
  • tf.data.Dataset.cache Jak dopasować zestaw danych w pamięci podręcznej to przed tasowanie dla lepszej wydajności.
    Uwaga: losowe przemiany powinny być stosowane po buforowania.
  • tf.data.Dataset.shuffle : Dla prawdziwej losowości, ustaw bufor shuffle do pełnego rozmiaru zestawu danych.
    Uwaga: W przypadku dużych zbiorów danych, które nie mieszczą się w pamięci, używaj buffer_size=1000 jeśli system na to pozwala.
  • tf.data.Dataset.batch : Elementy partia zbiorze danych po tasowania, aby uzyskać unikalne partii w każdej epoce.
  • tf.data.Dataset.prefetch : Jest to dobra praktyka, aby zakończyć rurociągu przez preselekcji do wykonania .
def normalize_img(image, label):
  """Normalizes images: `uint8` -> `float32`."""
  return tf.cast(image, tf.float32) / 255., label

ds_train = ds_train.map(
    normalize_img, num_parallel_calls=tf.data.AUTOTUNE)
ds_train = ds_train.cache()
ds_train = ds_train.shuffle(ds_info.splits['train'].num_examples)
ds_train = ds_train.batch(128)
ds_train = ds_train.prefetch(tf.data.AUTOTUNE)

Zbuduj potok oceny

Twój potok testowy jest podobny do potoku szkoleniowego z niewielkimi różnicami:

  • Nie trzeba zadzwonić tf.data.Dataset.shuffle .
  • Buforowanie odbywa się po partiach, ponieważ partie mogą być takie same między epokami.
ds_test = ds_test.map(
    normalize_img, num_parallel_calls=tf.data.AUTOTUNE)
ds_test = ds_test.batch(128)
ds_test = ds_test.cache()
ds_test = ds_test.prefetch(tf.data.AUTOTUNE)

Krok 2: Stwórz i wytrenuj model

Podłącz potok wejściowy TFDS do prostego modelu Keras, skompiluj model i wytrenuj go.

model = tf.keras.models.Sequential([
  tf.keras.layers.Flatten(input_shape=(28, 28)),
  tf.keras.layers.Dense(128, activation='relu'),
  tf.keras.layers.Dense(10)
])
model.compile(
    optimizer=tf.keras.optimizers.Adam(0.001),
    loss=tf.keras.losses.SparseCategoricalCrossentropy(from_logits=True),
    metrics=[tf.keras.metrics.SparseCategoricalAccuracy()],
)

model.fit(
    ds_train,
    epochs=6,
    validation_data=ds_test,
)
Epoch 1/6
469/469 [==============================] - 4s 4ms/step - loss: 0.3589 - sparse_categorical_accuracy: 0.9012 - val_loss: 0.1962 - val_sparse_categorical_accuracy: 0.9437
Epoch 2/6
469/469 [==============================] - 1s 2ms/step - loss: 0.1701 - sparse_categorical_accuracy: 0.9511 - val_loss: 0.1487 - val_sparse_categorical_accuracy: 0.9548
Epoch 3/6
469/469 [==============================] - 1s 2ms/step - loss: 0.1232 - sparse_categorical_accuracy: 0.9648 - val_loss: 0.1158 - val_sparse_categorical_accuracy: 0.9649
Epoch 4/6
469/469 [==============================] - 1s 2ms/step - loss: 0.0949 - sparse_categorical_accuracy: 0.9732 - val_loss: 0.0964 - val_sparse_categorical_accuracy: 0.9706
Epoch 5/6
469/469 [==============================] - 1s 2ms/step - loss: 0.0770 - sparse_categorical_accuracy: 0.9775 - val_loss: 0.0856 - val_sparse_categorical_accuracy: 0.9730
Epoch 6/6
469/469 [==============================] - 1s 2ms/step - loss: 0.0620 - sparse_categorical_accuracy: 0.9825 - val_loss: 0.0834 - val_sparse_categorical_accuracy: 0.9745
<keras.callbacks.History at 0x7f2df74b4090>