Google I / O hoạt động trở lại từ ngày 18 đến 20 tháng 5! Đặt chỗ và xây dựng lịch trình của bạn Đăng ký ngay

Phân loại cơ bản: Phân loại hình ảnh của quần áo

Xem trên TensorFlow.org Chạy trong Google Colab Xem nguồn trên GitHub Tải xuống sổ ghi chép

Hướng dẫn này đào tạo mô hình mạng thần kinh để phân loại hình ảnh của quần áo, như giày thể thao và áo sơ mi. Không sao cả nếu bạn không hiểu tất cả các chi tiết; đây là tổng quan có nhịp độ nhanh về một chương trình TensorFlow hoàn chỉnh với các chi tiết được giải thích khi bạn tiếp tục.

Hướng dẫn này sử dụng tf.keras , một API cấp cao để xây dựng và đào tạo các mô hình trong TensorFlow.

# TensorFlow and tf.keras
import tensorflow as tf

# Helper libraries
import numpy as np
import matplotlib.pyplot as plt

print(tf.__version__)
2.4.1

Nhập tập dữ liệu MNIST Thời trang

Hướng dẫn này sử dụng tập dữ liệu Fashion MNIST chứa 70.000 hình ảnh thang độ xám trong 10 danh mục. Các hình ảnh hiển thị từng mặt hàng quần áo ở độ phân giải thấp (28 x 28 pixel), như được thấy ở đây:

Thời trang MNIST sprite
Hình 1. Các mẫu thời trang-MNIST (của Zalando, Giấy phép MIT).

Fashion MNIST được thiết kế để thay thế cho tập dữ liệu MNIST cổ điển — thường được sử dụng làm chương trình máy học "Hello, World" cho thị giác máy tính. Tập dữ liệu MNIST chứa hình ảnh của các chữ số viết tay (0, 1, 2, v.v.) có định dạng giống với định dạng của các mặt hàng quần áo bạn sẽ sử dụng ở đây.

Hướng dẫn này sử dụng Fashion MNIST vì sự đa dạng và vì nó là một vấn đề khó khăn hơn một chút so với MNIST thông thường. Cả hai tập dữ liệu đều tương đối nhỏ và được sử dụng để xác minh rằng một thuật toán hoạt động như mong đợi. Chúng là những điểm khởi đầu tốt để kiểm tra và gỡ lỗi mã.

Ở đây, 60.000 hình ảnh được sử dụng để huấn luyện mạng và 10.000 hình ảnh để đánh giá mức độ chính xác của mạng đã học để phân loại hình ảnh. Bạn có thể truy cập MNIST Thời trang trực tiếp từ TensorFlow. Nhập và tải dữ liệu Fashion MNIST trực tiếp từ TensorFlow:

fashion_mnist = tf.keras.datasets.fashion_mnist

(train_images, train_labels), (test_images, test_labels) = fashion_mnist.load_data()
Downloading data from https://storage.googleapis.com/tensorflow/tf-keras-datasets/train-labels-idx1-ubyte.gz
32768/29515 [=================================] - 0s 0us/step
Downloading data from https://storage.googleapis.com/tensorflow/tf-keras-datasets/train-images-idx3-ubyte.gz
26427392/26421880 [==============================] - 1s 0us/step
Downloading data from https://storage.googleapis.com/tensorflow/tf-keras-datasets/t10k-labels-idx1-ubyte.gz
8192/5148 [===============================================] - 0s 0us/step
Downloading data from https://storage.googleapis.com/tensorflow/tf-keras-datasets/t10k-images-idx3-ubyte.gz
4423680/4422102 [==============================] - 0s 0us/step

Tải tập dữ liệu trả về bốn mảng NumPy:

  • train_imagestrain_labelstập huấn luyện — dữ liệu mà mô hình sử dụng để học.
  • Mô hình này được thử nghiệm chống lại các thiết lập kiểm tra, các test_images , và test_labels mảng.

Hình ảnh là mảng NumPy 28x28, với giá trị pixel nằm trong khoảng từ 0 đến 255. Các nhãn là một mảng các số nguyên, từ 0 đến 9. Các nhãn này tương ứng với loại quần áo mà hình ảnh đại diện:

Nhãn Lớp học
0 Áo phông / áo sơ mi
1 Ống quần
2 Kéo qua
3 Trang phục
4 Áo choàng ngoài
5 Sandal
6 Áo sơ mi
7 Giày thể thao
số 8 Túi
9 Ủng cổ chân

Mỗi hình ảnh được ánh xạ tới một nhãn duy nhất. Vì tên lớp không được bao gồm trong tập dữ liệu, hãy lưu trữ chúng ở đây để sử dụng sau này khi vẽ biểu đồ hình ảnh:

class_names = ['T-shirt/top', 'Trouser', 'Pullover', 'Dress', 'Coat',
               'Sandal', 'Shirt', 'Sneaker', 'Bag', 'Ankle boot']

Khám phá dữ liệu

Hãy cùng khám phá định dạng của tập dữ liệu trước khi huấn luyện mô hình. Sau đây cho thấy có 60.000 hình ảnh trong tập huấn luyện, với mỗi hình ảnh được biểu thị là 28 x 28 pixel:

train_images.shape
(60000, 28, 28)

Tương tự như vậy, có 60.000 nhãn trong tập huấn luyện:

len(train_labels)
60000

Mỗi nhãn là một số nguyên từ 0 đến 9:

train_labels
array([9, 0, 0, ..., 3, 0, 5], dtype=uint8)

Có 10.000 hình ảnh trong bộ thử nghiệm. Một lần nữa, mỗi hình ảnh được biểu thị dưới dạng 28 x 28 pixel:

test_images.shape
(10000, 28, 28)

Và bộ thử nghiệm bao gồm 10.000 nhãn hình ảnh:

len(test_labels)
10000

Xử lý trước dữ liệu

Dữ liệu phải được xử lý trước trước khi huấn luyện mạng. Nếu bạn kiểm tra hình ảnh đầu tiên trong tập hợp đào tạo, bạn sẽ thấy rằng các giá trị pixel nằm trong phạm vi từ 0 đến 255:

plt.figure()
plt.imshow(train_images[0])
plt.colorbar()
plt.grid(False)
plt.show()

png

Chia tỷ lệ các giá trị này thành một phạm vi từ 0 đến 1 trước khi đưa chúng vào mô hình mạng thần kinh. Để làm như vậy, hãy chia các giá trị cho 255. Điều quan trọng là tập huấn luyện và tập thử nghiệm phải được xử lý trước theo cùng một cách:

train_images = train_images / 255.0

test_images = test_images / 255.0

Để xác minh rằng dữ liệu ở đúng định dạng và bạn đã sẵn sàng xây dựng và đào tạo mạng, hãy hiển thị 25 hình ảnh đầu tiên từ tập hợp đào tạo và hiển thị tên lớp bên dưới mỗi hình ảnh.

plt.figure(figsize=(10,10))
for i in range(25):
    plt.subplot(5,5,i+1)
    plt.xticks([])
    plt.yticks([])
    plt.grid(False)
    plt.imshow(train_images[i], cmap=plt.cm.binary)
    plt.xlabel(class_names[train_labels[i]])
plt.show()

png

Xây dựng mô hình

Xây dựng mạng nơ-ron yêu cầu cấu hình các lớp của mô hình, sau đó biên dịch mô hình.

Thiết lập các lớp

Khối xây dựng cơ bản của mạng nơ-ron là lớp . Các lớp trích xuất các đại diện từ dữ liệu được đưa vào chúng. Hy vọng rằng, những biểu diễn này có ý nghĩa đối với vấn đề đang giải quyết.

Hầu hết học sâu bao gồm chuỗi các lớp đơn giản lại với nhau. Hầu hết các lớp, chẳng hạn như tf.keras.layers.Dense , có các tham số được học trong quá trình đào tạo.

model = tf.keras.Sequential([
    tf.keras.layers.Flatten(input_shape=(28, 28)),
    tf.keras.layers.Dense(128, activation='relu'),
    tf.keras.layers.Dense(10)
])

Lớp đầu tiên trong mạng này, tf.keras.layers.Flatten , chuyển đổi định dạng của hình ảnh từ mảng hai chiều (28 x 28 pixel) thành mảng một chiều (28 * 28 = 784 pixel). Hãy nghĩ về lớp này giống như các hàng pixel trong hình ảnh và xếp chúng thành hàng. Lớp này không có tham số để học; nó chỉ định dạng lại dữ liệu.

Sau khi các pixel được làm phẳng, mạng bao gồm một chuỗi hai lớp tf.keras.layers.Dense . Đây là các lớp thần kinh được kết nối dày đặc, hoặc được kết nối đầy đủ. Lớp Dense đầu tiên có 128 nút (hoặc tế bào thần kinh). Lớp thứ hai (và cuối cùng) trả về một mảng logits có độ dài là 10. Mỗi nút chứa một điểm cho biết hình ảnh hiện tại thuộc về một trong 10 lớp.

Biên dịch mô hình

Trước khi mô hình sẵn sàng để đào tạo, nó cần thêm một số cài đặt. Chúng được thêm vào trong bước biên dịch của mô hình:

  • Hàm mất mát —Điều này đo lường mức độ chính xác của mô hình trong quá trình đào tạo. Bạn muốn thu nhỏ chức năng này để "chèo lái" mô hình đi đúng hướng.
  • Trình tối ưu hóa —Đây là cách mô hình được cập nhật dựa trên dữ liệu mà nó thấy và chức năng mất của nó.
  • Chỉ số —Được sử dụng để theo dõi các bước đào tạo và thử nghiệm. Ví dụ sau sử dụng độ chính xác , phần hình ảnh được phân loại chính xác.
model.compile(optimizer='adam',
              loss=tf.keras.losses.SparseCategoricalCrossentropy(from_logits=True),
              metrics=['accuracy'])

Đào tạo mô hình

Đào tạo mô hình mạng nơ-ron yêu cầu các bước sau:

  1. Cung cấp dữ liệu đào tạo vào mô hình. Trong ví dụ này, dữ liệu huấn luyện là trong train_imagestrain_labels mảng.
  2. Mô hình học cách liên kết hình ảnh và nhãn.
  3. Bạn yêu cầu mô hình đưa ra dự đoán về một tập hợp thử nghiệm — trong ví dụ này là mảng test_images .
  4. Xác minh rằng các dự đoán khớp với các nhãn từ mảng test_labels .

Nuôi mô hình

Để bắt đầu đào tạo, hãy gọi phương thức model.fit — được gọi như vậy vì nó "khớp" mô hình với dữ liệu đào tạo:

model.fit(train_images, train_labels, epochs=10)
Epoch 1/10
1875/1875 [==============================] - 3s 1ms/step - loss: 0.6278 - accuracy: 0.7812
Epoch 2/10
1875/1875 [==============================] - 3s 1ms/step - loss: 0.3862 - accuracy: 0.8595
Epoch 3/10
1875/1875 [==============================] - 3s 1ms/step - loss: 0.3487 - accuracy: 0.8720
Epoch 4/10
1875/1875 [==============================] - 3s 1ms/step - loss: 0.3150 - accuracy: 0.8836
Epoch 5/10
1875/1875 [==============================] - 3s 1ms/step - loss: 0.2983 - accuracy: 0.8906
Epoch 6/10
1875/1875 [==============================] - 3s 1ms/step - loss: 0.2813 - accuracy: 0.8975
Epoch 7/10
1875/1875 [==============================] - 3s 1ms/step - loss: 0.2658 - accuracy: 0.9008
Epoch 8/10
1875/1875 [==============================] - 3s 1ms/step - loss: 0.2567 - accuracy: 0.9059
Epoch 9/10
1875/1875 [==============================] - 3s 1ms/step - loss: 0.2385 - accuracy: 0.9096
Epoch 10/10
1875/1875 [==============================] - 3s 1ms/step - loss: 0.2367 - accuracy: 0.9108
<tensorflow.python.keras.callbacks.History at 0x7f9de07cb0b8>

Khi mô hình đào tạo, các số liệu về tổn thất và độ chính xác được hiển thị. Mô hình này đạt độ chính xác khoảng 0,91 (hoặc 91%) trên dữ liệu huấn luyện.

Đánh giá độ chính xác

Tiếp theo, so sánh cách mô hình hoạt động trên tập dữ liệu thử nghiệm:

test_loss, test_acc = model.evaluate(test_images,  test_labels, verbose=2)

print('\nTest accuracy:', test_acc)
313/313 - 0s - loss: 0.3547 - accuracy: 0.8761

Test accuracy: 0.8761000037193298

Nó chỉ ra rằng độ chính xác trên tập dữ liệu thử nghiệm ít hơn một chút so với độ chính xác trên tập dữ liệu đào tạo. Khoảng cách giữa độ chính xác đào tạo và độ chính xác của bài kiểm tra thể hiện sự trang bị quá mức . Việc trang bị quá mức xảy ra khi một mô hình học máy hoạt động kém hơn trên các đầu vào mới, chưa từng thấy trước đây so với mô hình học trên dữ liệu đào tạo. Một mô hình được trang bị quá mức sẽ "ghi nhớ" tiếng ồn và chi tiết trong tập dữ liệu huấn luyện đến một điểm mà nó tác động tiêu cực đến hiệu suất của mô hình trên dữ liệu mới. Để biết thêm thông tin, hãy xem phần sau:

Dự đoán

Với mô hình được đào tạo, bạn có thể sử dụng nó để đưa ra dự đoán về một số hình ảnh. Các đầu ra tuyến tính của mô hình, logits . Đính kèm một lớp softmax để chuyển đổi nhật ký thành xác suất, dễ hiểu hơn.

probability_model = tf.keras.Sequential([model, 
                                         tf.keras.layers.Softmax()])
predictions = probability_model.predict(test_images)

Ở đây, mô hình đã dự đoán nhãn cho mỗi hình ảnh trong bộ thử nghiệm. Hãy cùng xem dự đoán đầu tiên:

predictions[0]
array([1.2012765e-07, 5.3020085e-11, 3.2435774e-10, 6.8114465e-11,
       8.4152178e-11, 8.6389598e-05, 2.2522106e-09, 1.4491959e-03,
       4.0859813e-09, 9.9846435e-01], dtype=float32)

Dự đoán là một dãy 10 số. Chúng đại diện cho "sự tự tin" của người mẫu rằng hình ảnh tương ứng với mỗi trong số 10 mặt hàng quần áo khác nhau. Bạn có thể xem nhãn nào có giá trị tin cậy cao nhất:

np.argmax(predictions[0])
9

Vì vậy, người mẫu tin tưởng nhất rằng hình ảnh này là một đôi bốt đến mắt cá chân, hoặc class_names[9] . Kiểm tra nhãn thử nghiệm cho thấy rằng phân loại này là chính xác:

test_labels[0]
9

Vẽ biểu đồ này để xem toàn bộ dự đoán lớp 10.

def plot_image(i, predictions_array, true_label, img):
  true_label, img = true_label[i], img[i]
  plt.grid(False)
  plt.xticks([])
  plt.yticks([])

  plt.imshow(img, cmap=plt.cm.binary)

  predicted_label = np.argmax(predictions_array)
  if predicted_label == true_label:
    color = 'blue'
  else:
    color = 'red'

  plt.xlabel("{} {:2.0f}% ({})".format(class_names[predicted_label],
                                100*np.max(predictions_array),
                                class_names[true_label]),
                                color=color)

def plot_value_array(i, predictions_array, true_label):
  true_label = true_label[i]
  plt.grid(False)
  plt.xticks(range(10))
  plt.yticks([])
  thisplot = plt.bar(range(10), predictions_array, color="#777777")
  plt.ylim([0, 1])
  predicted_label = np.argmax(predictions_array)

  thisplot[predicted_label].set_color('red')
  thisplot[true_label].set_color('blue')

Xác minh dự đoán

Với mô hình được đào tạo, bạn có thể sử dụng nó để đưa ra dự đoán về một số hình ảnh.

Hãy xem hình ảnh thứ 0, dự đoán và mảng dự đoán. Nhãn dự đoán đúng có màu xanh lam và nhãn dự đoán sai có màu đỏ. Con số cho biết tỷ lệ phần trăm (trong số 100) cho nhãn được dự đoán.

i = 0
plt.figure(figsize=(6,3))
plt.subplot(1,2,1)
plot_image(i, predictions[i], test_labels, test_images)
plt.subplot(1,2,2)
plot_value_array(i, predictions[i],  test_labels)
plt.show()

png

i = 12
plt.figure(figsize=(6,3))
plt.subplot(1,2,1)
plot_image(i, predictions[i], test_labels, test_images)
plt.subplot(1,2,2)
plot_value_array(i, predictions[i],  test_labels)
plt.show()

png

Hãy vẽ một số hình ảnh với dự đoán của họ. Lưu ý rằng mô hình có thể sai ngay cả khi rất tự tin.

# Plot the first X test images, their predicted labels, and the true labels.
# Color correct predictions in blue and incorrect predictions in red.
num_rows = 5
num_cols = 3
num_images = num_rows*num_cols
plt.figure(figsize=(2*2*num_cols, 2*num_rows))
for i in range(num_images):
  plt.subplot(num_rows, 2*num_cols, 2*i+1)
  plot_image(i, predictions[i], test_labels, test_images)
  plt.subplot(num_rows, 2*num_cols, 2*i+2)
  plot_value_array(i, predictions[i], test_labels)
plt.tight_layout()
plt.show()

png

Sử dụng mô hình được đào tạo

Cuối cùng, sử dụng mô hình được đào tạo để đưa ra dự đoán về một hình ảnh duy nhất.

# Grab an image from the test dataset.
img = test_images[1]

print(img.shape)
(28, 28)

tf.keras mô hình tf.keras được tối ưu hóa để đưa ra dự đoán trên một loạt hoặc một bộ sưu tập các ví dụ cùng một lúc. Do đó, mặc dù bạn đang sử dụng một hình ảnh duy nhất, bạn cần phải thêm nó vào danh sách:

# Add the image to a batch where it's the only member.
img = (np.expand_dims(img,0))

print(img.shape)
(1, 28, 28)

Bây giờ hãy dự đoán nhãn chính xác cho hình ảnh này:

predictions_single = probability_model.predict(img)

print(predictions_single)
[[5.9622369e-04 4.4912915e-12 9.9706572e-01 3.1242684e-09 1.1509876e-03
  4.7866642e-13 1.1870833e-03 3.2586661e-17 1.0648579e-09 1.5709595e-13]]
plot_value_array(1, predictions_single[0], test_labels)
_ = plt.xticks(range(10), class_names, rotation=45)

png

tf.keras.Model.predict trả về một danh sách các danh sách — một danh sách cho mỗi hình ảnh trong lô dữ liệu. Lấy các dự đoán cho hình ảnh (duy nhất) của chúng tôi trong lô:

np.argmax(predictions_single[0])
2

Và mô hình dự đoán một nhãn như mong đợi.

# MIT License
#
# Copyright (c) 2017 François Chollet
#
# Permission is hereby granted, free of charge, to any person obtaining a
# copy of this software and associated documentation files (the "Software"),
# to deal in the Software without restriction, including without limitation
# the rights to use, copy, modify, merge, publish, distribute, sublicense,
# and/or sell copies of the Software, and to permit persons to whom the
# Software is furnished to do so, subject to the following conditions:
#
# The above copyright notice and this permission notice shall be included in
# all copies or substantial portions of the Software.
#
# THE SOFTWARE IS PROVIDED "AS IS", WITHOUT WARRANTY OF ANY KIND, EXPRESS OR
# IMPLIED, INCLUDING BUT NOT LIMITED TO THE WARRANTIES OF MERCHANTABILITY,
# FITNESS FOR A PARTICULAR PURPOSE AND NONINFRINGEMENT. IN NO EVENT SHALL
# THE AUTHORS OR COPYRIGHT HOLDERS BE LIABLE FOR ANY CLAIM, DAMAGES OR OTHER
# LIABILITY, WHETHER IN AN ACTION OF CONTRACT, TORT OR OTHERWISE, ARISING
# FROM, OUT OF OR IN CONNECTION WITH THE SOFTWARE OR THE USE OR OTHER
# DEALINGS IN THE SOFTWARE.