ช่วยปกป้อง Great Barrier Reef กับ TensorFlow บน Kaggle เข้าร่วมท้าทาย

ย้ายเวิร์กโฟลว์ SavedModel

ดูบน TensorFlow.org ทำงานใน Google Colab ดูแหล่งที่มาบน GitHub ดาวน์โหลดโน๊ตบุ๊ค

เมื่อคุณได้ย้ายแบบของคุณจาก TensorFlow 1 กราฟและการประชุมเพื่อ TensorFlow 2 APIs เช่น tf.function , tf.Module และ tf.keras.Model คุณสามารถโยกย้ายประหยัดรุ่นและรหัสโหลด สมุดบันทึกนี้แสดงตัวอย่างวิธีบันทึกและโหลดในรูปแบบ SavedModel ใน TensorFlow 1 และ TensorFlow 2 ต่อไปนี้คือภาพรวมโดยย่อของการเปลี่ยนแปลง API ที่เกี่ยวข้องสำหรับการย้ายจาก TensorFlow 1 เป็น TensorFlow 2:

TensorFlow 1 การโยกย้ายไปยัง TensorFlow 2
ประหยัด tf.compat.v1.saved_model.Builder
tf.compat.v1.saved_model.simple_save
tf.saved_model.save
Keras: tf.keras.models.save_model
กำลังโหลด tf.compat.v1.saved_model.load tf.saved_model.load
Keras: tf.keras.models.load_model
ลายเซ็น: ชุดของใส่
และเทนเซอร์เอาต์พุตที่
สามารถใช้ในการเรียกใช้
สร้างขึ้นโดยใช้ *.signature_def utils
(เช่น tf.compat.v1.saved_model.predict_signature_def )
เขียน tf.function และการส่งออกโดยใช้ signatures อาร์กิวเมนต์
ใน tf.saved_model.save
การจัดหมวดหมู่
และการถดถอย:

ลายเซ็นประเภทพิเศษ
สร้างด้วย
tf.compat.v1.saved_model.classification_signature_def ,
tf.compat.v1.saved_model.regression_signature_def ,
และการส่งออกประมาณการบางอย่าง
ลายเซ็นทั้งสองประเภทนี้ถูกลบออกจาก TensorFlow 2 แล้ว
หากไลบรารีที่ให้บริการต้องการชื่อเมธอดเหล่านี้
tf.compat.v1.saved_model.signature_def_utils.MethodNameUpdater

สำหรับคำอธิบายเพิ่มเติมในเชิงลึกของการทำแผนที่ที่อ้างถึง การเปลี่ยนแปลงจาก TensorFlow 1 ถึง TensorFlow 2 ส่วนด้านล่าง

ติดตั้ง

ตัวอย่างด้านล่างแสดงวิธีการส่งออกและโหลดรูปแบบ TensorFlow หุ่นเดียวกัน (หมายถึง add_two ด้านล่าง) เป็นรูปแบบที่ใช้ SavedModel TensorFlow ที่ 1 และ 2 TensorFlow APIs เริ่มต้นด้วยการตั้งค่าฟังก์ชันการนำเข้าและยูทิลิตี้:

import tensorflow as tf
import tensorflow.compat.v1 as tf1
import shutil

def remove_dir(path):
  try:
    shutil.rmtree(path)
  except:
    pass

def add_two(input):
  return input + 2

TensorFlow 1: บันทึกและส่งออก SavedModel

ใน TensorFlow 1 คุณใช้ tf.compat.v1.saved_model.Builder , tf.compat.v1.saved_model.simple_save และ tf.estimator.Estimator.export_saved_model API เพื่อสร้างบันทึกและส่งออกของกราฟ TensorFlow และเซสชั่น:

1. บันทึกกราฟเป็น SavedModel ด้วย SavedModelBuilder

remove_dir("saved-model-builder")

with tf.Graph().as_default() as g:
  with tf1.Session() as sess:
    input = tf1.placeholder(tf.float32, shape=[])
    output = add_two(input)
    print("add two output: ", sess.run(output, {input: 3.}))

    # Save with SavedModelBuilder
    builder = tf1.saved_model.Builder('saved-model-builder')
    sig_def = tf1.saved_model.predict_signature_def(
        inputs={'input': input},
        outputs={'output': output})
    builder.add_meta_graph_and_variables(
        sess, tags=["serve"], signature_def_map={
            tf.saved_model.DEFAULT_SERVING_SIGNATURE_DEF_KEY: sig_def
    })
    builder.save()
add two output:  5.0
WARNING:tensorflow:From /tmpfs/src/tf_docs_env/lib/python3.7/site-packages/tensorflow/python/saved_model/signature_def_utils_impl.py:208: build_tensor_info (from tensorflow.python.saved_model.utils_impl) is deprecated and will be removed in a future version.
Instructions for updating:
This function will only be available through the v1 compatibility library as tf.compat.v1.saved_model.utils.build_tensor_info or tf.compat.v1.saved_model.build_tensor_info.
INFO:tensorflow:No assets to save.
INFO:tensorflow:No assets to write.
INFO:tensorflow:SavedModel written to: saved-model-builder/saved_model.pb
!saved_model_cli run --dir simple-save --tag_set serve \
 --signature_def serving_default --input_exprs input=10
Traceback (most recent call last):
  File "/tmpfs/src/tf_docs_env/bin/saved_model_cli", line 8, in <module>
    sys.exit(main())
  File "/tmpfs/src/tf_docs_env/lib/python3.7/site-packages/tensorflow/python/tools/saved_model_cli.py", line 1211, in main
    args.func(args)
  File "/tmpfs/src/tf_docs_env/lib/python3.7/site-packages/tensorflow/python/tools/saved_model_cli.py", line 769, in run
    init_tpu=args.init_tpu, tf_debug=args.tf_debug)
  File "/tmpfs/src/tf_docs_env/lib/python3.7/site-packages/tensorflow/python/tools/saved_model_cli.py", line 417, in run_saved_model_with_feed_dict
    tag_set)
  File "/tmpfs/src/tf_docs_env/lib/python3.7/site-packages/tensorflow/python/tools/saved_model_utils.py", line 117, in get_meta_graph_def
    saved_model = read_saved_model(saved_model_dir)
  File "/tmpfs/src/tf_docs_env/lib/python3.7/site-packages/tensorflow/python/tools/saved_model_utils.py", line 55, in read_saved_model
    raise IOError("SavedModel file does not exist at: %s" % saved_model_dir)
OSError: SavedModel file does not exist at: simple-save

2. สร้าง SavedModel เพื่อให้บริการ

remove_dir("simple-save")

with tf.Graph().as_default() as g:
  with tf1.Session() as sess:
    input = tf1.placeholder(tf.float32, shape=[])
    output = add_two(input)
    print("add_two output: ", sess.run(output, {input: 3.}))

    tf1.saved_model.simple_save(
        sess, 'simple-save',
        inputs={'input': input},
        outputs={'output': output})
add_two output:  5.0
WARNING:tensorflow:From /tmp/ipykernel_26511/250978412.py:12: simple_save (from tensorflow.python.saved_model.simple_save) is deprecated and will be removed in a future version.
Instructions for updating:
This function will only be available through the v1 compatibility library as tf.compat.v1.saved_model.simple_save.
INFO:tensorflow:Assets added to graph.
INFO:tensorflow:No assets to write.
INFO:tensorflow:SavedModel written to: simple-save/saved_model.pb
!saved_model_cli run --dir simple-save --tag_set serve \
 --signature_def serving_default --input_exprs input=10
WARNING:tensorflow:From /tmpfs/src/tf_docs_env/lib/python3.7/site-packages/tensorflow/python/tools/saved_model_cli.py:453: load (from tensorflow.python.saved_model.loader_impl) is deprecated and will be removed in a future version.
Instructions for updating:
This function will only be available through the v1 compatibility library as tf.compat.v1.saved_model.loader.load or tf.compat.v1.saved_model.load. There will be a new function for importing SavedModels in Tensorflow 2.0.
INFO:tensorflow:Saver not created because there are no variables in the graph to restore
INFO:tensorflow:The specified SavedModel has no variables; no checkpoints were restored.
Result for output key output:
12.0

3. ส่งออกกราฟการอนุมานของ Estimator เป็น SavedModel

ในความหมายของประมาณการ model_fn (ระบุด้านล่าง) คุณสามารถกำหนดลายเซ็นในรูปแบบของคุณโดยการกลับ export_outputs ใน tf.estimator.EstimatorSpec เอาต์พุตมีหลายประเภท:

สิ่งเหล่านี้จะสร้างประเภทการจำแนกประเภท การถดถอย และการทำนายตามลำดับ

เมื่อประมาณการส่งออกกับ tf.estimator.Estimator.export_saved_model , ลายเซ็นเหล่านี้จะถูกบันทึกไว้กับรูปแบบ

def model_fn(features, labels, mode):
  output = add_two(features['input'])
  step = tf1.train.get_global_step()
  return tf.estimator.EstimatorSpec(
      mode,
      predictions=output,
      train_op=step.assign_add(1),
      loss=tf.constant(0.),
      export_outputs={
          tf.saved_model.DEFAULT_SERVING_SIGNATURE_DEF_KEY: \
          tf.estimator.export.PredictOutput({'output': output})})
est = tf.estimator.Estimator(model_fn, 'estimator-checkpoints')

# Train for one step to create a checkpoint.
def train_fn():
  return tf.data.Dataset.from_tensors({'input': 3.})
est.train(train_fn, steps=1)

# This utility function `build_raw_serving_input_receiver_fn` takes in raw
# tensor features and builds an "input serving receiver function", which
# creates placeholder inputs to the model.
serving_input_fn = tf.estimator.export.build_raw_serving_input_receiver_fn(
    {'input': tf.constant(3.)})  # Pass in a dummy input batch.
estimator_path = est.export_saved_model('exported-estimator', serving_input_fn)

# Estimator's export_saved_model creates a time stamped directory. Move this
# to a set path so it can be inspected with `saved_model_cli` in the cell below.
!rm -rf estimator-model
import shutil
shutil.move(estimator_path, 'estimator-model')
INFO:tensorflow:Using default config.
INFO:tensorflow:Using config: {'_model_dir': 'estimator-checkpoints', '_tf_random_seed': None, '_save_summary_steps': 100, '_save_checkpoints_steps': None, '_save_checkpoints_secs': 600, '_session_config': allow_soft_placement: true
graph_options {
  rewrite_options {
    meta_optimizer_iterations: ONE
  }
}
, '_keep_checkpoint_max': 5, '_keep_checkpoint_every_n_hours': 10000, '_log_step_count_steps': 100, '_train_distribute': None, '_device_fn': None, '_protocol': None, '_eval_distribute': None, '_experimental_distribute': None, '_experimental_max_worker_delay_secs': None, '_session_creation_timeout_secs': 7200, '_checkpoint_save_graph_def': True, '_service': None, '_cluster_spec': ClusterSpec({}), '_task_type': 'worker', '_task_id': 0, '_global_id_in_cluster': 0, '_master': '', '_evaluation_master': '', '_is_chief': True, '_num_ps_replicas': 0, '_num_worker_replicas': 1}
WARNING:tensorflow:From /tmpfs/src/tf_docs_env/lib/python3.7/site-packages/tensorflow/python/training/training_util.py:401: Variable.initialized_value (from tensorflow.python.ops.variables) is deprecated and will be removed in a future version.
Instructions for updating:
Use Variable.read_value. Variables in 2.X are initialized automatically both in eager and graph (inside tf.defun) contexts.
INFO:tensorflow:Calling model_fn.
INFO:tensorflow:Done calling model_fn.
INFO:tensorflow:Create CheckpointSaverHook.
INFO:tensorflow:Graph was finalized.
INFO:tensorflow:Running local_init_op.
INFO:tensorflow:Done running local_init_op.
INFO:tensorflow:Calling checkpoint listeners before saving checkpoint 0...
INFO:tensorflow:Saving checkpoints for 0 into estimator-checkpoints/model.ckpt.
INFO:tensorflow:Calling checkpoint listeners after saving checkpoint 0...
INFO:tensorflow:loss = 0.0, step = 1
INFO:tensorflow:Calling checkpoint listeners before saving checkpoint 1...
INFO:tensorflow:Saving checkpoints for 1 into estimator-checkpoints/model.ckpt.
INFO:tensorflow:Calling checkpoint listeners after saving checkpoint 1...
INFO:tensorflow:Loss for final step: 0.0.
INFO:tensorflow:Calling model_fn.
INFO:tensorflow:Done calling model_fn.
INFO:tensorflow:Signatures INCLUDED in export for Classify: None
INFO:tensorflow:Signatures INCLUDED in export for Regress: None
INFO:tensorflow:Signatures INCLUDED in export for Predict: ['serving_default']
INFO:tensorflow:Signatures INCLUDED in export for Train: None
INFO:tensorflow:Signatures INCLUDED in export for Eval: None
INFO:tensorflow:Restoring parameters from estimator-checkpoints/model.ckpt-1
INFO:tensorflow:Assets added to graph.
INFO:tensorflow:No assets to write.
INFO:tensorflow:SavedModel written to: exported-estimator/temp-1636162129/saved_model.pb
'estimator-model'
!saved_model_cli run --dir estimator-model --tag_set serve \
 --signature_def serving_default --input_exprs input=[10]
WARNING:tensorflow:From /tmpfs/src/tf_docs_env/lib/python3.7/site-packages/tensorflow/python/tools/saved_model_cli.py:453: load (from tensorflow.python.saved_model.loader_impl) is deprecated and will be removed in a future version.
Instructions for updating:
This function will only be available through the v1 compatibility library as tf.compat.v1.saved_model.loader.load or tf.compat.v1.saved_model.load. There will be a new function for importing SavedModels in Tensorflow 2.0.
INFO:tensorflow:Restoring parameters from estimator-model/variables/variables
Result for output key output:
[12.]

TensorFlow 2: บันทึกและส่งออก SavedModel

บันทึกและส่งออก SavedModel ที่กำหนดด้วย tf.Module

เพื่อการส่งออกรูปแบบของคุณใน TensorFlow 2 คุณต้องกำหนด tf.Module หรือ tf.keras.Model จะถือทั้งหมดของตัวแปรรุ่นของคุณและฟังก์ชั่น จากนั้นคุณสามารถเรียก tf.saved_model.save เพื่อสร้าง SavedModel อ้างถึง การออมรูปแบบที่กำหนดเอง ใน การใช้รูปแบบ SavedModel คู่มือเพื่อเรียนรู้เพิ่มเติม

class MyModel(tf.Module):
  @tf.function
  def __call__(self, input):
    return add_two(input)

model = MyModel()

@tf.function
def serving_default(input):
  return {'output': model(input)}

signature_function = serving_default.get_concrete_function(
    tf.TensorSpec(shape=[], dtype=tf.float32))
tf.saved_model.save(
    model, 'tf2-save', signatures={
        tf.saved_model.DEFAULT_SERVING_SIGNATURE_DEF_KEY: signature_function})
INFO:tensorflow:Assets written to: tf2-save/assets
2021-11-06 01:28:53.105391: W tensorflow/python/util/util.cc:368] Sets are not currently considered sequences, but this may change in the future, so consider avoiding using them.
!saved_model_cli run --dir tf2-save --tag_set serve \
 --signature_def serving_default --input_exprs input=10
WARNING:tensorflow:From /tmpfs/src/tf_docs_env/lib/python3.7/site-packages/tensorflow/python/tools/saved_model_cli.py:453: load (from tensorflow.python.saved_model.loader_impl) is deprecated and will be removed in a future version.
Instructions for updating:
This function will only be available through the v1 compatibility library as tf.compat.v1.saved_model.loader.load or tf.compat.v1.saved_model.load. There will be a new function for importing SavedModels in Tensorflow 2.0.
INFO:tensorflow:Restoring parameters from tf2-save/variables/variables
Result for output key output:
12.0

บันทึกและส่งออก SavedModel ที่กำหนดด้วย Keras

Keras APIs สำหรับการออมและการ exporting- Mode.save หรือ tf.keras.models.save_model ส่งออก -can SavedModel จาก tf.keras.Model ตรวจสอบ บันทึกและโหลดรุ่น Keras สำหรับรายละเอียดเพิ่มเติม

inp = tf.keras.Input(3)
out = add_two(inp)
model = tf.keras.Model(inputs=inp, outputs=out)

@tf.function(input_signature=[tf.TensorSpec(shape=[], dtype=tf.float32)])
def serving_default(input):
  return {'output': model(input)}

model.save('keras-model', save_format='tf', signatures={
        tf.saved_model.DEFAULT_SERVING_SIGNATURE_DEF_KEY: serving_default})
WARNING:tensorflow:Compiled the loaded model, but the compiled metrics have yet to be built. `model.compile_metrics` will be empty until you train or evaluate the model.
WARNING:tensorflow:Model was constructed with shape (None, 3) for input KerasTensor(type_spec=TensorSpec(shape=(None, 3), dtype=tf.float32, name='input_1'), name='input_1', description="created by layer 'input_1'"), but it was called on an input with incompatible shape ().
INFO:tensorflow:Assets written to: keras-model/assets
!saved_model_cli run --dir keras-model --tag_set serve \
 --signature_def serving_default --input_exprs input=10
WARNING:tensorflow:From /tmpfs/src/tf_docs_env/lib/python3.7/site-packages/tensorflow/python/tools/saved_model_cli.py:453: load (from tensorflow.python.saved_model.loader_impl) is deprecated and will be removed in a future version.
Instructions for updating:
This function will only be available through the v1 compatibility library as tf.compat.v1.saved_model.loader.load or tf.compat.v1.saved_model.load. There will be a new function for importing SavedModels in Tensorflow 2.0.
INFO:tensorflow:Restoring parameters from keras-model/variables/variables
Result for output key output:
12.0

กำลังโหลด SavedModel

SavedModel ที่บันทึกด้วย API ใดๆ ข้างต้นสามารถโหลดได้โดยใช้ TensorFlow 1 หรือ TensorFlow API

TensorFlow 1 SavedModel โดยทั่วไปจะสามารถใช้สำหรับการอนุมานเมื่อโหลดลงใน TensorFlow 2 แต่การฝึกอบรม (ที่ก่อให้เกิดการไล่ระดับสี) เป็นไปได้เฉพาะในกรณีที่มีตัวแปร SavedModel ทรัพยากร คุณสามารถตรวจสอบ dtype ของตัวแปรได้—หากตัวแปร dtype มี "_ref" แสดงว่าเป็นตัวแปรอ้างอิง

TensorFlow 2 SavedModel สามารถโหลดและดำเนินการได้จาก TensorFlow 1 ตราบใดที่ SavedModel ถูกบันทึกด้วยลายเซ็น

ส่วนด้านล่างประกอบด้วยตัวอย่างโค้ดที่แสดงวิธีการโหลด SavedModels ที่บันทึกไว้ในส่วนก่อนหน้า และเรียกลายเซ็นที่ส่งออก

TensorFlow 1: โหลด SavedModel ด้วย tf.saved_model.load

ใน TensorFlow 1 คุณสามารถนำเข้า SavedModel โดยตรงเข้าไปในปัจจุบันกราฟและเซสชั่นโดยใช้ tf.saved_model.load คุณสามารถเรียก Session.run กับการป้อนข้อมูลเมตริกซ์และเอาท์พุทชื่อ:

def load_tf1(path, input):
  print('Loading from', path)
  with tf.Graph().as_default() as g:
    with tf1.Session() as sess:
      meta_graph = tf1.saved_model.load(sess, ["serve"], path)
      sig_def = meta_graph.signature_def[tf.saved_model.DEFAULT_SERVING_SIGNATURE_DEF_KEY]
      input_name = sig_def.inputs['input'].name
      output_name = sig_def.outputs['output'].name
      print('  Output with input', input, ': ', 
            sess.run(output_name, feed_dict={input_name: input}))

load_tf1('saved-model-builder', 5.)
load_tf1('simple-save', 5.)
load_tf1('estimator-model', [5.])  # Estimator's input must be batched.
load_tf1('tf2-save', 5.)
load_tf1('keras-model', 5.)
Loading from saved-model-builder
WARNING:tensorflow:From /tmp/ipykernel_26511/1548963983.py:5: load (from tensorflow.python.saved_model.loader_impl) is deprecated and will be removed in a future version.
Instructions for updating:
This function will only be available through the v1 compatibility library as tf.compat.v1.saved_model.loader.load or tf.compat.v1.saved_model.load. There will be a new function for importing SavedModels in Tensorflow 2.0.
INFO:tensorflow:Saver not created because there are no variables in the graph to restore
INFO:tensorflow:The specified SavedModel has no variables; no checkpoints were restored.
  Output with input 5.0 :  7.0
Loading from simple-save
INFO:tensorflow:Saver not created because there are no variables in the graph to restore
INFO:tensorflow:The specified SavedModel has no variables; no checkpoints were restored.
  Output with input 5.0 :  7.0
Loading from estimator-model
INFO:tensorflow:Restoring parameters from estimator-model/variables/variables
  Output with input [5.0] :  [7.]
Loading from tf2-save
INFO:tensorflow:Restoring parameters from tf2-save/variables/variables
  Output with input 5.0 :  7.0
Loading from keras-model
INFO:tensorflow:Restoring parameters from keras-model/variables/variables
  Output with input 5.0 :  7.0

TensorFlow 2: โหลดโมเดลที่บันทึกด้วย tf.saved_model

ใน TensorFlow 2 ออบเจ็กต์จะถูกโหลดลงในอ็อบเจ็กต์ Python ที่เก็บตัวแปรและฟังก์ชัน ใช้ได้กับรุ่นที่บันทึกไว้จาก TensorFlow 1

ตรวจสอบ tf.saved_model.load เอกสาร API และ โหลดและการใช้รูปแบบที่กำหนดเอง ส่วนจาก การใช้รูปแบบ SavedModel คู่มือสำหรับรายละเอียด

def load_tf2(path, input):
  print('Loading from', path)
  loaded = tf.saved_model.load(path)
  out = loaded.signatures[tf.saved_model.DEFAULT_SERVING_SIGNATURE_DEF_KEY](
      tf.constant(input))['output']
  print('  Output with input', input, ': ', out)

load_tf2('saved-model-builder', 5.)
load_tf2('simple-save', 5.)
load_tf2('estimator-model', [5.])  # Estimator's input must be batched.
load_tf2('tf2-save', 5.)
load_tf2('keras-model', 5.)
Loading from saved-model-builder
INFO:tensorflow:Saver not created because there are no variables in the graph to restore
  Output with input 5.0 :  tf.Tensor(7.0, shape=(), dtype=float32)
Loading from simple-save
INFO:tensorflow:Saver not created because there are no variables in the graph to restore
  Output with input 5.0 :  tf.Tensor(7.0, shape=(), dtype=float32)
Loading from estimator-model
  Output with input [5.0] :  tf.Tensor([7.], shape=(1,), dtype=float32)
Loading from tf2-save
  Output with input 5.0 :  tf.Tensor(7.0, shape=(), dtype=float32)
Loading from keras-model
  Output with input 5.0 :  tf.Tensor(7.0, shape=(), dtype=float32)

รุ่นที่บันทึกไว้กับ TensorFlow 2 API ยังสามารถเข้าถึง tf.function และตัวแปรที่จะแนบไปกับแบบจำลอง (แทนผู้ส่งออกเป็นลายเซ็น) ตัวอย่างเช่น:

loaded = tf.saved_model.load('tf2-save')
print('restored __call__:', loaded.__call__)
print('output with input 5.', loaded(5))
restored __call__: <tensorflow.python.saved_model.function_deserialization.RestoredFunction object at 0x7f30cc940990>
output with input 5. tf.Tensor(7.0, shape=(), dtype=float32)

TensorFlow 2: โหลดโมเดลที่บันทึกด้วย Keras

Keras โหลด API- tf.keras.models.load_model ช่วยให้คุณสามารถโหลดกลับรูปแบบการบันทึกลงในวัตถุ Keras รุ่น หมายเหตุว่านี้ช่วยให้คุณสามารถโหลด SavedModels บันทึกด้วย Keras ( Model.save หรือ tf.keras.models.save_model )

รุ่นบันทึกด้วย tf.saved_model.save ควรจะเต็มไปด้วย tf.saved_model.load คุณสามารถโหลดรูปแบบ Keras บันทึกด้วย Model.save ใช้ tf.saved_model.load แต่คุณจะได้รับกราฟ TensorFlow อ้างถึง tf.keras.models.load_model เอกสาร API และ บันทึกและโหลดรุ่น Keras คู่มือสำหรับรายละเอียด

loaded_model = tf.keras.models.load_model('keras-model')
loaded_model.predict_on_batch(tf.constant([1, 3, 4]))
WARNING:tensorflow:No training configuration found in save file, so the model was *not* compiled. Compile it manually.
WARNING:tensorflow:Model was constructed with shape (None, 3) for input KerasTensor(type_spec=TensorSpec(shape=(None, 3), dtype=tf.float32, name='input_1'), name='input_1', description="created by layer 'input_1'"), but it was called on an input with incompatible shape (3,).
array([3., 5., 6.], dtype=float32)

GraphDef และ MetaGraphDef

ไม่มีทางที่ตรงไปตรงมาในการโหลดดิบ GraphDef หรือ MetaGraphDef เพื่อ TF2 อย่างไรก็ตามคุณสามารถแปลงรหัส TF1 ที่การนำเข้ากราฟเป็น TF2 concrete_function ใช้ v1.wrap_function

ขั้นแรก บันทึก MetaGraphDef:

# Save a simple multiplication computation:
with tf.Graph().as_default() as g:
  x = tf1.placeholder(tf.float32, shape=[], name='x')
  v = tf.Variable(3.0, name='v')
  y = tf.multiply(x, v, name='y')
  with tf1.Session() as sess:
    sess.run(v.initializer)
    print(sess.run(y, feed_dict={x: 5}))
    s = tf1.train.Saver()
    s.export_meta_graph('multiply.pb', as_text=True)
    s.save(sess, 'multiply_values.ckpt')
15.0

โดยใช้ API TF1 คุณสามารถใช้ tf1.train.import_meta_graph ที่จะนำเข้ากราฟและเรียกคืนค่า:

with tf.Graph().as_default() as g:
  meta = tf1.train.import_meta_graph('multiply.pb')
  x = g.get_tensor_by_name('x:0')
  y = g.get_tensor_by_name('y:0')
  with tf1.Session() as sess:
    meta.restore(sess, 'multiply_values.ckpt')
    print(sess.run(y, feed_dict={x: 5}))
INFO:tensorflow:Restoring parameters from multiply_values.ckpt
15.0

ไม่มี TF2 API สำหรับการโหลดกราฟ แต่คุณยังสามารถนำเข้าไปยังฟังก์ชันที่เป็นรูปธรรมที่สามารถดำเนินการในโหมดกระตือรือร้นได้:

def import_multiply():
  # Any graph-building code is allowed here.
  tf1.train.import_meta_graph('multiply.pb')

# Creates a tf.function with all the imported elements in the function graph.
wrapped_import = tf1.wrap_function(import_multiply, [])
import_graph = wrapped_import.graph
x = import_graph.get_tensor_by_name('x:0')
y = import_graph.get_tensor_by_name('y:0')

# Restore the variable values.
tf1.train.Saver(wrapped_import.variables).restore(
    sess=None, save_path='multiply_values.ckpt')

# Create a concrete function by pruning the wrap_function (similar to sess.run).
multiply_fn = wrapped_import.prune(feeds=x, fetches=y)

# Run this function
multiply_fn(tf.constant(5.))  # inputs to concrete functions must be Tensors.
WARNING:tensorflow:Saver is deprecated, please switch to tf.train.Checkpoint or tf.keras.Model.save_weights for training checkpoints. When executing eagerly variables do not necessarily have unique names, and so the variable.name-based lookups Saver performs are error-prone.
INFO:tensorflow:Restoring parameters from multiply_values.ckpt
<tf.Tensor: shape=(), dtype=float32, numpy=15.0>

การเปลี่ยนแปลงจาก TensorFlow 1 เป็น TensorFlow 2

ส่วนนี้แสดงรายการเงื่อนไขการบันทึกคีย์และการโหลดจาก TensorFlow 1, TensorFlow 2 ที่เทียบเท่า และสิ่งที่เปลี่ยนแปลงไป

รูปแบบที่บันทึกไว้

SavedModel เป็นรูปแบบที่เก็บโปรแกรม TensorFlow สมบูรณ์ด้วยค่าพารามิเตอร์และการคำนวณ ประกอบด้วยลายเซ็นที่ใช้โดยแพลตฟอร์มที่ให้บริการเพื่อเรียกใช้โมเดล

รูปแบบไฟล์เองไม่ได้เปลี่ยนแปลงอย่างมีนัยสำคัญ ดังนั้น SavedModels สามารถโหลดและให้บริการโดยใช้ TensorFlow 1 หรือ TensorFlow 2 API

ความแตกต่างระหว่าง TensorFlow 1 และ TensorFlow 2

ที่ให้บริการและการอนุมานกรณีการใช้งานยังไม่ได้รับการปรับปรุงใน TensorFlow 2 นอกเหนือจากการเปลี่ยนแปลง API ของการปรับปรุงเป็นที่รู้จักในความสามารถที่จะนำมาใช้ใหม่และรูปแบบการเขียนโหลดจาก SavedModel

ใน TensorFlow 2 โปรแกรมที่เป็นตัวแทนจากวัตถุเช่น tf.Variable , tf.Module หรือระดับที่สูงกว่ารุ่น Keras ( tf.keras.Model ) และชั้น ( tf.keras.layers ) มีตัวแปรไม่มีมากขึ้นทั่วโลกที่มีค่าเก็บไว้ในเซสชั่นที่มีและกราฟตอนนี้มีอยู่ในที่แตกต่างกัน tf.function s ดังนั้น ในระหว่างการเอ็กซ์พอร์ตโมเดล SavedModel จะบันทึกแต่ละส่วนประกอบและกราฟฟังก์ชันแยกกัน

เมื่อคุณเขียนโปรแกรม TensorFlow ด้วย TensorFlow Python APIs คุณต้องสร้างวัตถุเพื่อจัดการตัวแปร ฟังก์ชัน และทรัพยากรอื่นๆ โดยทั่วไปนี้จะประสบความสำเร็จโดยใช้ API ของ Keras แต่คุณยังสามารถสร้างวัตถุโดยการสร้างหรือ subclassing tf.Module

รุ่น Keras ( tf.keras.Model ) และ tf.Module โดยอัตโนมัติติดตามตัวแปรและฟังก์ชั่นที่แนบมากับพวกเขา SavedModel บันทึกการเชื่อมต่อเหล่านี้ระหว่างโมดูล ตัวแปร และฟังก์ชัน เพื่อให้สามารถกู้คืนได้เมื่อโหลด

ลายเซ็น

ลายเซ็นคือจุดสิ้นสุดของ SavedModel ซึ่งบอกผู้ใช้ถึงวิธีเรียกใช้โมเดลและอินพุตที่จำเป็น

ใน TensorFlow 1 ลายเซ็นจะถูกสร้างขึ้นโดยการแสดงรายการเทนเซอร์อินพุตและเอาต์พุต ใน TensorFlow 2, ลายเซ็นที่ถูกสร้างขึ้นโดยการส่งผ่านในการทำงานที่เป็นรูปธรรม (อ่านรายละเอียดเพิ่มเติมเกี่ยวกับฟังก์ชั่น TensorFlow ใน เบื้องต้นเกี่ยวกับกราฟและ tf.function . คู่มือ) ในระยะสั้น ฟังก์ชั่นคอนกรีตจะถูกสร้างขึ้น จาก tf.function :

# Option 1: Specify an input signature.
@tf.function(input_signature=[...])
def fn(...):
  ...
  return outputs

tf.saved_model.save(model, path, signatures={
    'name': fn
})
# Option 2: Call `get_concrete_function`
@tf.function
def fn(...):
  ...
  return outputs

tf.saved_model.save(model, path, signatures={
    'name': fn.get_concrete_function(...)
})

Session.run

ใน TensorFlow 1 คุณสามารถโทร Session.run กับกราฟนำเข้าตราบเท่าที่คุณรู้อยู่แล้วว่าชื่อเมตริกซ์ วิธีนี้ทำให้คุณสามารถดึงค่าตัวแปรที่กู้คืน หรือเรียกใช้ส่วนต่างๆ ของโมเดลที่ไม่ได้ส่งออกในลายเซ็น

ใน TensorFlow 2 คุณโดยตรงสามารถเข้าถึงตัวแปรเช่นเมทริกซ์น้ำหนัก ( kernel ):

model = tf.Module()
model.dense_layer = tf.keras.layers.Dense(...)
tf.saved_model.save('my_saved_model')
loaded = tf.saved_model.load('my_saved_model')
loaded.dense_layer.kernel

หรือโทร tf.function s ที่แนบมากับวัตถุรูปแบบ: ยกตัวอย่างเช่น loaded.__call__

ต่างจาก TF1 ตรงที่ไม่มีวิธีแยกส่วนต่าง ๆ ของฟังก์ชันและเข้าถึงค่ากลาง คุณต้องส่งออกทั้งหมดของการทำงานที่จำเป็นในวัตถุที่บันทึกไว้

บันทึกการย้ายข้อมูลการให้บริการ TensorFlow

SavedModel ถูกสร้างขึ้นมาเพื่อทำงานร่วมกับ TensorFlow การแสดง แพลตฟอร์มนี้นำเสนอคำขอการคาดการณ์ประเภทต่างๆ: จำแนก ถอยหลัง และคาดการณ์

TensorFlow 1 API จะช่วยให้คุณสามารถสร้างประเภทนี้ของลายเซ็นกับ utils นี้:

การจำแนกประเภท ( classification_signature_def ) และ การถดถอย ( regression_signature_def ) จำกัด ปัจจัยการผลิตและผลผลิตดังนั้นปัจจัยการผลิตจะต้องเป็น tf.Example และเอาท์พุทจะต้อง classes , scores หรือ prediction ขณะเดียวกัน คาดการณ์ลายเซ็น ( predict_signature_def ) ไม่มีข้อ จำกัด

SavedModels ส่งออกกับ TensorFlow 2 API เข้ากันได้กับ TensorFlow ให้บริการ แต่จะมีลายเซ็นทำนาย ลายเซ็นการจัดประเภทและการถดถอยถูกลบออก

หากคุณจำเป็นต้องใช้การจัดหมวดหมู่และการถดถอยลายเซ็นคุณอาจปรับเปลี่ยนการส่งออก SavedModel ใช้ tf.compat.v1.saved_model.signature_def_utils.MethodNameUpdater

ขั้นตอนถัดไป

หากต้องการเรียนรู้เพิ่มเติมเกี่ยวกับ SavedModels ใน TensorFlow 2 โปรดดูคำแนะนำต่อไปนี้:

หากคุณกำลังใช้ TensorFlow Hub คุณอาจพบว่าคำแนะนำเหล่านี้มีประโยชน์: