Tham dự Hội nghị chuyên đề Women in ML vào ngày 7 tháng 12 Đăng ký ngay

Xây dựng mô hình TensorFlow Lite

Sử dụng bộ sưu tập để sắp xếp ngăn nắp các trang Lưu và phân loại nội dung dựa trên lựa chọn ưu tiên của bạn.

Trang này cung cấp hướng dẫn xây dựng mô hình TensorFlow của bạn với mục đích chuyển đổi sang định dạng mô hình TensorFlow Lite. Các mô hình học máy (ML) mà bạn sử dụng với TensorFlow Lite ban đầu được xây dựng và đào tạo bằng cách sử dụng các công cụ và thư viện cốt lõi của TensorFlow. Khi bạn đã xây dựng một mô hình với lõi TensorFlow, bạn có thể chuyển đổi nó sang định dạng mô hình ML nhỏ hơn, hiệu quả hơn được gọi là mô hình TensorFlow Lite.

Xây dựng mô hình của bạn

Nếu bạn đang xây dựng mô hình tùy chỉnh cho trường hợp sử dụng cụ thể của mình, bạn nên bắt đầu bằng việc phát triển và đào tạo mô hình TensorFlow hoặc mở rộng mô hình hiện có.

Ràng buộc thiết kế mô hình

Trước khi bắt đầu quá trình phát triển mô hình của mình, bạn nên biết các ràng buộc đối với các mô hình TensorFlow Lite và xây dựng mô hình của bạn với những ràng buộc sau:

  • Khả năng tính toán hạn chế - So với các máy chủ được trang bị đầy đủ với nhiều CPU, dung lượng bộ nhớ cao và bộ xử lý chuyên biệt như GPU và TPU, các thiết bị di động và thiết bị cạnh tranh bị hạn chế hơn nhiều. Mặc dù chúng đang phát triển về sức mạnh máy tính và khả năng tương thích phần cứng chuyên dụng, nhưng các mô hình và dữ liệu bạn có thể xử lý hiệu quả với chúng vẫn còn hạn chế tương đối.
  • Kích thước của mô hình - Độ phức tạp tổng thể của mô hình, bao gồm logic xử lý trước dữ liệu và số lớp trong mô hình, làm tăng kích thước trong bộ nhớ của mô hình. Một mô hình lớn có thể chạy chậm đến mức không thể chấp nhận được hoặc đơn giản là có thể không vừa với bộ nhớ khả dụng của thiết bị di động hoặc thiết bị cạnh.
  • Kích thước của dữ liệu - Kích thước của dữ liệu đầu vào có thể được xử lý hiệu quả bằng mô hình học máy bị giới hạn trên thiết bị di động hoặc thiết bị cạnh. Các mô hình sử dụng thư viện dữ liệu lớn như thư viện ngôn ngữ, thư viện hình ảnh hoặc thư viện video clip có thể không phù hợp trên các thiết bị này và có thể yêu cầu các giải pháp truy cập và lưu trữ ngoài thiết bị.
  • Các hoạt động TensorFlow được hỗ trợ - Môi trường thời gian chạy TensorFlow Lite hỗ trợ một tập hợp con các hoạt động của mô hình học máy so với các mô hình TensorFlow thông thường. Khi bạn phát triển một mô hình để sử dụng với TensorFlow Lite, bạn nên theo dõi khả năng tương thích của mô hình của mình với khả năng của môi trường thời gian chạy TensorFlow Lite.

Để biết thêm thông tin về việc xây dựng các mô hình hiệu quả, tương thích, hiệu suất cao cho TensorFlow Lite, hãy xem Các phương pháp hay nhất về hiệu suất.

Phát triển mô hình

Để xây dựng mô hình TensorFlow Lite, trước tiên bạn cần xây dựng mô hình bằng cách sử dụng các thư viện lõi của TensorFlow. Thư viện lõi TensorFlow là các thư viện cấp thấp hơn cung cấp các API để xây dựng, đào tạo và triển khai các mô hình ML.

Quy trình xây dựng TFLite

TensorFlow cung cấp hai con đường để thực hiện việc này. Bạn có thể phát triển mã mô hình tùy chỉnh của riêng mình hoặc bạn có thể bắt đầu với việc triển khai mô hình có sẵn trong Vườn mô hình TensorFlow.

Vườn mô hình

TensorFlow Model Garden cung cấp triển khai nhiều mô hình máy học (ML) hiện đại để xử lý thị giác và ngôn ngữ tự nhiên (NLP). Bạn cũng sẽ tìm thấy các công cụ quy trình làm việc để cho phép bạn nhanh chóng định cấu hình và chạy các mô hình đó trên bộ dữ liệu tiêu chuẩn. Các mô hình học máy trong Vườn mẫu bao gồm mã đầy đủ để bạn có thể kiểm tra, đào tạo hoặc đào tạo lại chúng bằng cách sử dụng bộ dữ liệu của riêng bạn.

Cho dù bạn đang tìm cách chuẩn hiệu suất cho một mô hình nổi tiếng, xác minh kết quả của nghiên cứu được phát hành gần đây hay mở rộng các mô hình hiện có, Vườn mẫu có thể giúp bạn thúc đẩy các mục tiêu ML của mình.

Mô hình tùy chỉnh

Nếu trường hợp sử dụng của bạn nằm ngoài những trường hợp được hỗ trợ bởi các mô hình trong Vườn mẫu, bạn có thể sử dụng thư viện cấp cao như Keras để phát triển mã đào tạo tùy chỉnh của mình. Để tìm hiểu các nguyên tắc cơ bản của TensorFlow, hãy xem hướng dẫn về TensorFlow . Để bắt đầu với các ví dụ, hãy xem tổng quan hướng dẫn TensorFlow chứa các gợi ý để bắt đầu hướng dẫn cấp chuyên gia.

Đánh giá mô hình

Khi bạn đã phát triển mô hình của mình, bạn nên đánh giá hiệu suất của nó và thử nghiệm nó trên các thiết bị người dùng cuối. TensorFlow cung cấp một số cách để thực hiện việc này.

  • TensorBoard là một công cụ để cung cấp các phép đo và hình ảnh hóa cần thiết trong quy trình làm việc của máy học. Nó cho phép theo dõi các chỉ số thử nghiệm như mất mát và độ chính xác, trực quan hóa biểu đồ mô hình, chiếu các phép nhúng vào không gian có chiều thấp hơn và hơn thế nữa.
  • Các công cụ đo điểm chuẩn có sẵn cho từng nền tảng được hỗ trợ, chẳng hạn như ứng dụng điểm chuẩn Android và ứng dụng điểm chuẩn iOS. Sử dụng các công cụ này để đo lường và tính toán thống kê cho các chỉ số hiệu suất quan trọng.

Tối ưu hóa mô hình

Với những hạn chế về tài nguyên dành riêng cho các mô hình TensorFlow Lite, việc tối ưu hóa mô hình có thể giúp đảm bảo hiệu suất mô hình của bạn tốt và sử dụng ít tài nguyên máy tính hơn. Hiệu suất của mô hình học máy thường là sự cân bằng giữa kích thước và tốc độ suy luận so với độ chính xác. TensorFlow Lite hiện hỗ trợ tối ưu hóa thông qua lượng tử hóa, cắt tỉa và phân cụm. Xem chủ đề tối ưu hóa mô hình để biết thêm chi tiết về các kỹ thuật này. TensorFlow cũng cung cấp bộ công cụ tối ưu hóa Mô hình cung cấp một API triển khai các kỹ thuật này.

Bước tiếp theo