Hướng dẫn liên kết TensorFlow

Các hướng dẫn dựa trên colab này sẽ hướng dẫn bạn các khái niệm và API chính của TFF bằng các ví dụ thực tế. Tài liệu tham khảo có thể được tìm thấy trong hướng dẫn TFF .

Bắt đầu học liên kết

• Học liên kết để phân loại hình ảnh giới thiệu các phần chính của API Học liên kết (FL) và trình bày cách sử dụng TFF để mô phỏng học liên kết trên dữ liệu giống như MNIST được liên kết.
• Học liên kết để tạo văn bản trình bày thêm cách sử dụng API FL của TFF để tinh chỉnh một mô hình được đào tạo trước được đăng ký nhiều kỳ cho một tác vụ mô hình hóa ngôn ngữ.
• Điều chỉnh các tập hợp được đề xuất cho việc học cho thấy cách tính toán FL cơ bản trong tff.learning có thể được kết hợp với các thói quen tập hợp chuyên biệt mang lại sự mạnh mẽ, quyền riêng tư khác biệt, khả năng nén, v.v.
• Tái thiết liên kết cho hệ số hóa ma trận giới thiệu phương pháp học liên kết cục bộ một phần, trong đó một số tham số máy khách không bao giờ được tổng hợp trên máy chủ. Hướng dẫn trình bày cách sử dụng API Học tập Liên kết để huấn luyện mô hình phân tích hệ số ma trận cục bộ một phần.

Viết các tính toán liên kết tùy chỉnh

• Xây dựng thuật toán học liên kết của riêng bạn trình bày cách sử dụng API lõi TFF để triển khai các thuật toán học liên kết, sử dụng Lấy trung bình liên kết làm ví dụ.
• Soạn các thuật toán học tập trình bày cách sử dụng API học tập TFF để dễ dàng triển khai các thuật toán học tập có liên kết mới, đặc biệt là các biến thể của tính trung bình liên kết.
• Thuật toán liên kết tùy chỉnh với Trình tối ưu hóa TFF trình bày cách sử dụng tff.learning.optimizers để xây dựng quy trình lặp tùy chỉnh cho tính trung bình liên kết.
• Thuật toán liên kết tùy chỉnh, Phần 1: Giới thiệu về lõi liên kết và Phần 2: Triển khai tính trung bình liên kết giới thiệu các khái niệm và giao diện chính được cung cấp bởi API lõi liên kết (API FC).
• Việc triển khai Tập hợp tùy chỉnh giải thích các nguyên tắc thiết kế đằng sau mô-đun tff.aggregators và các phương pháp hay nhất để triển khai tập hợp tùy chỉnh các giá trị từ máy khách đến máy chủ.

Thực tiễn tốt nhất về mô phỏng

• Mô phỏng TFF với bộ tăng tốc (GPU) cho thấy thời gian chạy hiệu suất cao của TFF có thể được sử dụng với GPU như thế nào.

• Làm việc với ClientData cung cấp các phương pháp hay nhất để tích hợp bộ dữ liệu mô phỏng dựa trên ClientData của TFF vào các tính toán TFF.

Hướng dẫn trung cấp và nâng cao

• Việc tạo nhiễu ngẫu nhiên chỉ ra một số điểm tinh tế khi sử dụng tính ngẫu nhiên trong tính toán phi tập trung, đồng thời đề xuất các phương pháp hay nhất và đề xuất các mẫu.

• Gửi dữ liệu khác nhau đến các máy khách cụ thể Với tff.federated_select giới thiệu toán tử tff.federated_select và đưa ra một ví dụ đơn giản về thuật toán liên kết tùy chỉnh gửi các dữ liệu khác nhau đến các máy khách khác nhau.

• Học liên kết mô hình lớn hiệu quả với máy khách thông qua federated_select và tập hợp thưa thớt cho thấy cách TFF có thể được sử dụng để đào tạo một mô hình rất lớn trong đó mỗi thiết bị khách chỉ tải xuống và cập nhật một phần nhỏ của mô hình, sử dụng tff.federated_select và tập hợp thưa thớt.

• TFF dành cho nghiên cứu học tập có liên kết: Nén mô hình và cập nhật cho thấy cách các tập hợp tùy chỉnh được xây dựng trên API tensor_encoding có thể được sử dụng trong TFF.

• Học liên kết với quyền riêng tư khác biệt trong TFF trình bày cách sử dụng TFF để huấn luyện các mô hình với quyền riêng tư khác biệt ở cấp độ người dùng.

• Hỗ trợ cho JAX trong TFF cho thấy cách tính toán JAX có thể được sử dụng trong TFF, minh họa cách TFF được thiết kế để có thể tương tác với các khuôn khổ ML ngoại vi và phụ trợ khác.