หน้านี้ได้รับการแปลโดย Cloud Translation API
Switch to English

พื้นฐานการปรับแต่ง: เทนเซอร์และการทำงาน

ดูใน TensorFlow.org เรียกใช้ใน Google Colab ดูแหล่งที่มาบน GitHub ดาวน์โหลดสมุดบันทึก

นี่คือบทช่วยสอน TensorFlow เบื้องต้นที่แสดงวิธีการ:

  • นำเข้าแพ็คเกจที่ต้องการ
  • สร้างและใช้เทนเซอร์
  • ใช้การเร่งความเร็ว GPU
  • สาธิต tf.data.Dataset

นำเข้า TensorFlow

ในการเริ่มต้นให้นำเข้าโมดูล tensorflow สำหรับ TensorFlow 2 การดำเนินการอย่างกระตือรือร้นจะเปิดใช้งานโดยค่าเริ่มต้น สิ่งนี้ช่วยให้ส่วนหน้าแบบโต้ตอบมากขึ้นสำหรับ TensorFlow ซึ่งเป็นรายละเอียดที่เราจะพูดถึงในภายหลัง

import tensorflow as tf

เทนเซอร์

Tensor คืออาร์เรย์หลายมิติ คล้ายกับวัตถุ NumPy ndarray วัตถุ tf.Tensor มีชนิดข้อมูลและรูปร่าง นอกจากนี้ tf.Tensor สามารถอยู่ในหน่วยความจำเร่ง (เช่น GPU) TensorFlow มีไลบรารีการดำเนินการที่หลากหลาย ( tf.add , tf.matmul , tf.linalg.inv เป็นต้น) ที่ใช้และผลิต tf.Tensor s การดำเนินการเหล่านี้จะแปลงประเภท Python ดั้งเดิมโดยอัตโนมัติตัวอย่างเช่น:

print(tf.add(1, 2))
print(tf.add([1, 2], [3, 4]))
print(tf.square(5))
print(tf.reduce_sum([1, 2, 3]))

# Operator overloading is also supported
print(tf.square(2) + tf.square(3))
tf.Tensor(3, shape=(), dtype=int32)
tf.Tensor([4 6], shape=(2,), dtype=int32)
tf.Tensor(25, shape=(), dtype=int32)
tf.Tensor(6, shape=(), dtype=int32)
tf.Tensor(13, shape=(), dtype=int32)

tf.Tensor แต่ละตัวมีรูปร่างและประเภทข้อมูล:

x = tf.matmul([[1]], [[2, 3]])
print(x)
print(x.shape)
print(x.dtype)
tf.Tensor([[2 3]], shape=(1, 2), dtype=int32)
(1, 2)
<dtype: 'int32'>

ความแตกต่างที่ชัดเจนที่สุดระหว่างอาร์เรย์ NumPy และ tf.Tensor s คือ:

  1. Tensors สามารถสำรองได้โดยหน่วยความจำเร่ง (เช่น GPU, TPU)
  2. เทนเซอร์ไม่เปลี่ยนรูป

ความเข้ากันได้ของ NumPy

การแปลงระหว่าง TensorFlow tf.Tensor s และ NumPy ndarray นั้นง่ายมาก:

  • การดำเนินการ TensorFlow จะแปลง NumPy ndarrays เป็น Tensors โดยอัตโนมัติ
  • การดำเนินการ NumPy แปลง Tensors เป็น NumPy ndarrays โดยอัตโนมัติ

Tensors ถูกแปลงเป็น NumPy ndarrays อย่างชัดเจนโดยใช้ .numpy() โดยทั่วไปแล้วการแปลงเหล่านี้จะมีราคาถูกเนื่องจากอาร์เรย์และ tf.Tensor แชร์การแสดงหน่วยความจำพื้นฐานหากเป็นไปได้ อย่างไรก็ตามการแบ่งปันการแสดงที่เป็นตัวแทนไม่สามารถทำได้เสมอไปเนื่องจาก tf.Tensor อาจโฮสต์ในหน่วยความจำ GPU ในขณะที่อาร์เรย์ NumPy ได้รับการสนับสนุนโดยหน่วยความจำโฮสต์เสมอและการแปลงจะเกี่ยวข้องกับการคัดลอกจาก GPU ไปยังหน่วยความจำโฮสต์

import numpy as np

ndarray = np.ones([3, 3])

print("TensorFlow operations convert numpy arrays to Tensors automatically")
tensor = tf.multiply(ndarray, 42)
print(tensor)


print("And NumPy operations convert Tensors to numpy arrays automatically")
print(np.add(tensor, 1))

print("The .numpy() method explicitly converts a Tensor to a numpy array")
print(tensor.numpy())
TensorFlow operations convert numpy arrays to Tensors automatically
tf.Tensor(
[[42. 42. 42.]
 [42. 42. 42.]
 [42. 42. 42.]], shape=(3, 3), dtype=float64)
And NumPy operations convert Tensors to numpy arrays automatically
[[43. 43. 43.]
 [43. 43. 43.]
 [43. 43. 43.]]
The .numpy() method explicitly converts a Tensor to a numpy array
[[42. 42. 42.]
 [42. 42. 42.]
 [42. 42. 42.]]

การเร่ง GPU

การดำเนินการ TensorFlow จำนวนมากถูกเร่งโดยใช้ GPU สำหรับการคำนวณ หากไม่มีคำอธิบายประกอบใด ๆ TensorFlow จะตัดสินใจโดยอัตโนมัติว่าจะใช้ GPU หรือ CPU สำหรับการดำเนินการหรือไม่โดยคัดลอกเทนเซอร์ระหว่างหน่วยความจำ CPU และ GPU หากจำเป็น โดยทั่วไปแล้วเทนเซอร์ที่เกิดจากการดำเนินการจะได้รับการสนับสนุนจากหน่วยความจำของอุปกรณ์ที่ดำเนินการดำเนินการเช่น:

x = tf.random.uniform([3, 3])

print("Is there a GPU available: "),
print(tf.config.experimental.list_physical_devices("GPU"))

print("Is the Tensor on GPU #0:  "),
print(x.device.endswith('GPU:0'))
​​
Is there a GPU available: 
[PhysicalDevice(name='/physical_device:GPU:0', device_type='GPU')]
Is the Tensor on GPU #0:  
True

ชื่ออุปกรณ์

คุณสมบัติ Tensor.device จัดเตรียมชื่อสตริงแบบเต็มของอุปกรณ์ที่โฮสต์เนื้อหาของเทนเซอร์ ชื่อนี้เข้ารหัสรายละเอียดมากมายเช่นตัวระบุที่อยู่เครือข่ายของโฮสต์ที่โปรแกรมนี้กำลังทำงานอยู่และอุปกรณ์ภายในโฮสต์นั้น สิ่งนี้จำเป็นสำหรับการดำเนินการแบบกระจายของโปรแกรม TensorFlow สตริงจะลงท้ายด้วย GPU:<N> หากวางเทนเซอร์ไว้ที่ N -th GPU บนโฮสต์

ตำแหน่งอุปกรณ์ที่ชัดเจน

ใน TensorFlow การ จัดวาง หมายถึงวิธีการกำหนดการดำเนินการแต่ละรายการ (วางบน) อุปกรณ์สำหรับการดำเนินการ ตามที่กล่าวไว้เมื่อไม่มีคำแนะนำที่ชัดเจน TensorFlow จะตัดสินใจโดยอัตโนมัติว่าจะให้อุปกรณ์ใดดำเนินการทำงานและคัดลอกเทนเซอร์ไปยังอุปกรณ์นั้นหากจำเป็น อย่างไรก็ตามการดำเนินการ TensorFlow สามารถวางไว้อย่างชัดเจนบนอุปกรณ์เฉพาะโดยใช้ตัวจัดการบริบท tf.device ตัวอย่างเช่น:

import time

def time_matmul(x):
  start = time.time()
  for loop in range(10):
    tf.matmul(x, x)

  result = time.time()-start

  print("10 loops: {:0.2f}ms".format(1000*result))

# Force execution on CPU
print("On CPU:")
with tf.device("CPU:0"):
  x = tf.random.uniform([1000, 1000])
  assert x.device.endswith("CPU:0")
  time_matmul(x)

# Force execution on GPU #0 if available
if tf.config.experimental.list_physical_devices("GPU"):
  print("On GPU:")
  with tf.device("GPU:0"): # Or GPU:1 for the 2nd GPU, GPU:2 for the 3rd etc.
    x = tf.random.uniform([1000, 1000])
    assert x.device.endswith("GPU:0")
    time_matmul(x)
On CPU:
10 loops: 102.06ms
On GPU:
10 loops: 231.87ms

ชุดข้อมูล

ส่วนนี้ใช้ tf.data.Dataset API เพื่อสร้างไปป์ไลน์สำหรับป้อนข้อมูลไปยังโมเดลของคุณ tf.data.Dataset API ใช้ในการสร้างท่อส่งข้อมูลที่มีประสิทธิภาพและซับซ้อนจากชิ้นส่วนที่ใช้งานง่ายและใช้ซ้ำได้ซึ่งจะเลี้ยงลูปการฝึกอบรมหรือการประเมินผลของโมเดลของคุณ

สร้าง Dataset ต้นทาง

สร้างชุดข้อมูล ต้นทาง โดยใช้ฟังก์ชันจากโรงงานเช่น Dataset.from_tensors , Dataset.from_tensor_slices หรือใช้ออบเจ็กต์ที่อ่านจากไฟล์เช่น TextLineDataset หรือ TFRecordDataset ดู คู่มือชุดข้อมูล TensorFlow สำหรับข้อมูลเพิ่มเติม

ds_tensors = tf.data.Dataset.from_tensor_slices([1, 2, 3, 4, 5, 6])

# Create a CSV file
import tempfile
_, filename = tempfile.mkstemp()

with open(filename, 'w') as f:
  f.write("""Line 1
Line 2
Line 3
  """)

ds_file = tf.data.TextLineDataset(filename)

ใช้การเปลี่ยนแปลง

ใช้ฟังก์ชันการแปลงเช่น map batch งานและการ shuffle เพื่อนำการแปลงไปใช้กับระเบียนชุดข้อมูล

ds_tensors = ds_tensors.map(tf.square).shuffle(2).batch(2)

ds_file = ds_file.batch(2)

ย้ำ

tf.data.Dataset วัตถุชุดข้อมูลสนับสนุนการวนซ้ำเพื่อวนซ้ำระเบียน:

print('Elements of ds_tensors:')
for x in ds_tensors:
  print(x)

print('\nElements in ds_file:')
for x in ds_file:
  print(x)
Elements of ds_tensors:
tf.Tensor([1 4], shape=(2,), dtype=int32)
tf.Tensor([16  9], shape=(2,), dtype=int32)
tf.Tensor([25 36], shape=(2,), dtype=int32)

Elements in ds_file:
tf.Tensor([b'Line 1' b'Line 2'], shape=(2,), dtype=string)
tf.Tensor([b'Line 3' b'  '], shape=(2,), dtype=string)