XLA: การเพิ่มประสิทธิภาพคอมไพเลอร์สำหรับการเรียนรู้ของเครื่อง

จัดทุกอย่างให้เป็นระเบียบอยู่เสมอด้วยคอลเล็กชัน บันทึกและจัดหมวดหมู่เนื้อหาตามค่ากำหนดของคุณ

XLA (Accelerated Linear Algebra) เป็นคอมไพเลอร์เฉพาะโดเมนสำหรับพีชคณิตเชิงเส้นที่สามารถเร่งโมเดล TensorFlow ได้โดยไม่มีการเปลี่ยนแปลงซอร์สโค้ด

ผลลัพธ์คือการปรับปรุงความเร็วและการใช้หน่วยความจำ: เช่น ในการส่ง BERT MLPerf โดยใช้ GPU Volta V100 8 ตัวที่ใช้ XLA ได้รับการปรับปรุงประสิทธิภาพ ~7x และการปรับปรุงขนาดแบตช์ ~5x:

บทนำ

เมื่อรันโปรแกรม TensorFlow การดำเนินการทั้งหมดจะถูกดำเนินการทีละรายการโดยตัวดำเนินการ TensorFlow การดำเนินการ TensorFlow แต่ละรายการมีการนำเคอร์เนล GPU ที่คอมไพล์ล่วงหน้าซึ่งผู้ดำเนินการส่งไป

XLA ให้โหมดทางเลือกของโมเดลการทำงาน: มันรวบรวมกราฟ TensorFlow เป็นลำดับของเคอร์เนลการคำนวณที่สร้างขึ้นโดยเฉพาะสำหรับโมเดลที่กำหนด เนื่องจากเมล็ดเหล่านี้มีลักษณะเฉพาะสำหรับรุ่น จึงสามารถใช้ประโยชน์จากข้อมูลเฉพาะรุ่นเพื่อการปรับให้เหมาะสม ตัวอย่างเช่น มาดูการเพิ่มประสิทธิภาพ XLA ในบริบทของการคำนวณ TensorFlow อย่างง่าย:

def model_fn(x, y, z):
  return tf.reduce_sum(x + y * z)

เรียกใช้โดยไม่มี XLA กราฟจะเปิดเมล็ดสามตัว: หนึ่งสำหรับการคูณ หนึ่งสำหรับการบวกและอีกรายการหนึ่งสำหรับการลดลง อย่างไรก็ตาม XLA สามารถเพิ่มประสิทธิภาพกราฟเพื่อคำนวณผลลัพธ์ในการเปิดใช้เคอร์เนลเดียว ทำได้โดย "หลอมรวม" การเพิ่ม คูณ และการลดลงในเคอร์เนล GPU ตัวเดียว นอกจากนี้ การดำเนินการที่หลอมรวมนี้ไม่ได้เขียนค่ากลางที่สร้างโดย y*z และ x+y*z ลงในหน่วยความจำ แทนที่จะ "สตรีม" ผลลัพธ์ของการคำนวณระดับกลางเหล่านี้โดยตรงไปยังผู้ใช้ของพวกเขาในขณะที่ทำให้พวกเขาทั้งหมดอยู่ในการลงทะเบียน GPU ฟิวชั่นคือการเพิ่มประสิทธิภาพที่สำคัญที่สุดเพียงอย่างเดียวของ XLA แบนด์วิดท์หน่วยความจำมักเป็นทรัพยากรที่หายากที่สุดในตัวเร่งฮาร์ดแวร์ ดังนั้นการลบการทำงานของหน่วยความจำจึงเป็นหนึ่งในวิธีที่ดีที่สุดในการปรับปรุงประสิทธิภาพ

เปิดใช้งาน XLA สำหรับรุ่น TensorFlow

การรวบรวมอย่างชัดเจนด้วย tf.function(jit_compile=True)

API การคอมไพล์อย่างชัดแจ้งมีการควบคุมที่ละเอียดสำหรับการเลือกฟังก์ชันที่ควรคอมไพล์ ตัวอย่างเช่น ฟังก์ชัน TensorFlow ต่อไปนี้ซึ่งดำเนินการฝึกอบรม MNIST ถูกคอมไพล์ด้วย XLA:

@tf.function(jit_compile=True)
def train_mnist(images, labels):
    images, labels = cast(images, labels)

    with tf.GradientTape() as tape:
      predicted_labels = layer(images)
      loss = tf.reduce_mean(tf.nn.sparse_softmax_cross_entropy_with_logits(
          logits=predicted_labels, labels=labels
      ))
    layer_variables = layer.trainable_variables
    grads = tape.gradient(loss, layer_variables)
    optimizer.apply_gradients(zip(grads, layer_variables))

jit_compile API มีความหมาย ที่ต้องคอมไพล์ : ทั้งฟังก์ชันถูกคอมไพล์ด้วย XLA หรือมีข้อผิดพลาด ข้อยกเว้น errors.InvalidArgumentError ถูกส่งออกไป ขณะนี้ XLA ไม่สามารถรวบรวมฟังก์ชันที่มิติไม่สามารถ อนุมาน ได้ นั่นคือ ถ้าไม่สามารถสรุปขนาดของเทนเซอร์ทั้งหมดได้โดยไม่ต้องใช้การคำนวณทั้งหมด ตัวอย่างเช่น ฟังก์ชันต่อไปนี้จะไม่คอมไพล์:

@tf.function
def not_compilable(x):
  return tf.unique(x)

รูปร่างอาจแตกต่างกันไปตามการวิ่งแม้ว่า:

@tf.function(jit_compile=True)
def recompiled_on_launch(a, b):
  return a + b

recompiled_on_launch(tf.ones([1, 10]), tf.ones([1, 10]))
recompiled_on_launch(tf.ones([1, 100]), tf.ones([1, 100]))

ดูตัวอย่างการใช้งานโดยละเอียดใน colab ของบทช่วย สอน และวิดีโอแนะนำ เกี่ยวกับ jit_compile=True usage

การใช้งานกับ Keras

สำหรับโมเดล jit_compile=True สามารถตั้งค่าเป็นอาร์กิวเมนต์ใน model.compile :

model.compile(optimizer="adam", jit_compile=True)

การใช้งานด้วยกลยุทธ์แบบกระจาย

XLA:GPU สามารถใช้กับกลยุทธ์การกระจาย TF ( MirroredStrategy หรือ MultiWorkerMirroredStrategy ) โดยใส่คำอธิบายประกอบฟังก์ชันขั้นตอนด้วย jit_compile=True :

@tf.function(jit_compile=True)
def step_fn():
  t = tf.ones(shape=[100], dtype=tf.float32)
  ctx = tf.distribute.get_replica_context()
  return ctx.all_reduce(tf.distribute.ReduceOp.SUM, t)

@tf.function
def run_fn():
  return strategy.run(step_fn)

การจัดกลุ่มอัตโนมัติ

วิธีง่ายๆ ในการเริ่มใช้ XLA ในโมเดล TensorFlow โดยไม่มีการเปลี่ยนแปลงใดๆ คือการเปิดใช้ งาน auto-clustering ซึ่งจะค้นหา คลัสเตอร์ โดยอัตโนมัติ (กราฟย่อยที่เชื่อมต่อ) ภายในฟังก์ชัน TensorFlow ซึ่งสามารถคอมไพล์และดำเนินการได้โดยใช้ XLA การทำคลัสเตอร์อัตโนมัติบน GPU สามารถเปิดใช้งานได้โดยการตั้งค่าตัวแปรสภาพแวดล้อม TF_XLA_FLAGS :

$ TF_XLA_FLAGS=--tf_xla_auto_jit=2 path/to/your/tf/program

ขณะนี้การจัดกลุ่มอัตโนมัติได้รับการปรับให้เหมาะสมสำหรับปริมาณงาน GPU แต่ยังสามารถเปิดใช้งานบน CPU ได้โดยใช้แฟ --tf_xla_cpu_global_jit :

$ TF_XLA_FLAGS="--tf_xla_auto_jit=2 --tf_xla_cpu_global_jit" path/to/your/program

สำหรับตัวอย่างการใช้งานโดยละเอียด โปรดดูที่ colab บทแนะนำการทำคลัสเตอร์อัตโนมัติ

การรวบรวม AOT (ล่วงหน้า) สำหรับ CPU ด้วย tfcompile

คุณยังสามารถใช้เครื่องมือ tfcompile แบบสแตนด์อโลน ซึ่งจะแปลงกราฟ TensorFlow เป็นโค้ดที่เรียกใช้งานได้ (สำหรับ x86-64 CPU เท่านั้น)

ตรวจสอบโปรแกรมที่คอมไพล์แล้ว

XLA มีสิ่งอำนวยความสะดวกในการวิปัสสนาซึ่งช่วยให้คุณตรวจสอบโปรแกรมที่สร้างขึ้น หากต้องการดัมพ์โปรแกรมที่สร้างขึ้น ให้ใช้ตัวแปรสภาพแวดล้อม XLA_FLAGS :

$ XLA_FLAGS="--xla_dump_to=/tmp/generated" TF_XLA_FLAGS="--tf_xla_auto_jit=2" my/tensorflow/program

หลังจากการดัมพ์ คุณสามารถค้นหาไฟล์ต่อไปนี้ใน /tmp/generated :

  • module_XXXX.*_optimizations.txt Generated XLA programs หนึ่งโปรแกรมต่อคลัสเตอร์ที่คอมไพล์แล้ว การแนบสิ่งเหล่านั้นเมื่อส่งรายงานข้อผิดพลาด XLA นั้นมีประโยชน์มาก!

  • module_XXXX.ir-*.ll สร้างไฟล์ในการแสดงระดับกลาง LLVM ด้วย NVPTX intrinsics

  • module_XXXX.ptx สร้างไฟล์ PTX

คุณยังสามารถดัมพ์กราฟที่แสดงภาพการฝังคลัสเตอร์ XLA ภายในกราฟ TensorFlow ด้วย:

$ TF_DUMP_GRAPH_PREFIX=/tmp/generated TF_XLA_FLAGS="--tf_xla_clustering_debug"

รายงานข้อผิดพลาดที่ทำซ้ำได้

รายงานจุดบกพร่องสามารถทำซ้ำได้ง่ายกว่ามาก หากมีการถ่ายโอนข้อมูลสำหรับโปรแกรม XLA ที่สร้างขึ้นและการฝังคลัสเตอร์อัตโนมัติที่ใช้ ในการสร้างสำหรับโปรแกรม TensorFlow ที่ทำงานด้วยการจัดกลุ่มอัตโนมัติ ให้เรียกใช้:

$ TF_DUMP_GRAPH_PREFIX=/tmp/generated \
  TF_XLA_FLAGS="--tf_xla_clustering_debug --tf_xla_auto_jit=2" \
  XLA_FLAGS="--xla_dump_hlo_as_text --xla_dump_to=/tmp/generated" \
    my/tensorflow/program"

เมื่อทำการแจ้งจุดบกพร่อง ให้แนบเนื้อหาของ /tmp/generated (อ้างอิงด้านบน)

หากเป็นไปได้ ให้ลองแยกจุดบกพร่องของโปรแกรม XLA เดียวโดยใช้ replay_computation และเรียกใช้ซ้ำในโปรแกรมที่สร้างขึ้น

อ่านเพิ่มเติม

XLA Frontends

นอกเหนือจาก TensorFlow แล้ว โปรแกรม XLA สามารถสร้างได้โดย:

  • JAX : การแปลงที่เขียนได้ของโปรแกรม Python+NumPy
  • จูเลีย : ภาษาจูเลียสำหรับการคำนวณทางวิทยาศาสตร์
  • PyTorch : PyTorch framework
  • Nx : ไลบรารีการคำนวณเชิงตัวเลขสำหรับภาษาโปรแกรม Elixir

เสวนา

การใช้ XLA จาก TF โดยใช้ jit_compile=True

ภาพรวม XLA