Google cam kết thúc đẩy công bằng chủng tộc cho Cộng đồng người da đen. Xem cách thực hiện.
Trang này được dịch bởi Cloud Translation API.
Switch to English

Tìm hiểu cách tích hợp các phương pháp AI có trách nhiệm vào quy trình làm việc ML của bạn bằng TensorFlow

TensorFlow cam kết giúp đạt được tiến bộ trong sự phát triển có trách nhiệm của AI bằng cách chia sẻ bộ sưu tập tài nguyên và công cụ với cộng đồng ML.

AI có trách nhiệm là gì?

Sự phát triển của AI đang tạo ra những cơ hội mới để giải quyết các vấn đề thách thức trong thế giới thực. Nó cũng đang đặt ra những câu hỏi mới về cách tốt nhất để xây dựng các hệ thống AI mang lại lợi ích cho mọi người.

Thiết kế các hệ thống AI nên tuân theo các phương pháp phát triển phần mềm tốt nhất trong khi lấy con người làm trung tâm
cách tiếp cận ML

Công bằng

Khi tác động của AI gia tăng trên các lĩnh vực và xã hội, điều quan trọng là phải hướng tới các hệ thống công bằng và hòa nhập cho tất cả mọi người

Khả năng diễn giải

Hiểu và tin tưởng các hệ thống AI là điều quan trọng để đảm bảo chúng hoạt động như dự kiến

Riêng tư

Các mô hình đào tạo về dữ liệu nhạy cảm cần các biện pháp bảo vệ bảo vệ quyền riêng tư

Bảo vệ

Xác định các mối đe dọa tiềm ẩn có thể giúp giữ cho hệ thống AI an toàn và bảo mật

AI có trách nhiệm trong quy trình làm việc ML của bạn

Các phương pháp thực hành AI có trách nhiệm có thể được kết hợp ở mọi bước của quy trình ML. Dưới đây là một số câu hỏi chính cần xem xét ở mỗi giai đoạn.

Hệ thống ML của tôi dành cho ai?

Cách người dùng thực tế trải nghiệm hệ thống của bạn là điều cần thiết để đánh giá tác động thực sự của các dự đoán, đề xuất và quyết định của hệ thống. Đảm bảo sớm nhận được thông tin đầu vào từ một nhóm người dùng đa dạng trong quá trình phát triển của bạn.

Tôi có đang sử dụng tập dữ liệu đại diện không?

Dữ liệu của bạn có được lấy mẫu theo cách đại diện cho người dùng của bạn không (ví dụ: sẽ được sử dụng cho mọi lứa tuổi, nhưng bạn chỉ có dữ liệu đào tạo từ những người lớn tuổi) và cài đặt thế giới thực (ví dụ: sẽ được sử dụng quanh năm, nhưng bạn chỉ có đào tạo dữ liệu từ mùa hè)?

Có thiên vị thế giới thực / con người trong dữ liệu của tôi không?

Các thành kiến ​​cơ bản trong dữ liệu có thể góp phần tạo ra các vòng phản hồi phức tạp củng cố các định kiến ​​hiện có.

Tôi nên sử dụng những phương pháp nào để đào tạo mô hình của mình?

Sử dụng các phương pháp đào tạo xây dựng tính công bằng, khả năng diễn giải, quyền riêng tư và bảo mật vào mô hình.

Mô hình của tôi hoạt động như thế nào?

Đánh giá trải nghiệm người dùng trong các tình huống thực tế trên nhiều người dùng, trường hợp sử dụng và bối cảnh sử dụng. Thử nghiệm và lặp lại trong dogfood trước, tiếp theo là thử nghiệm tiếp tục sau khi khởi chạy.

Có vòng lặp phản hồi phức tạp không?

Ngay cả khi mọi thứ trong thiết kế hệ thống tổng thể đều được chế tạo cẩn thận, các mô hình dựa trên ML hiếm khi hoạt động với độ hoàn hảo 100% khi áp dụng vào dữ liệu thực, trực tiếp. Khi một vấn đề xảy ra trong một sản phẩm đang hoạt động, hãy cân nhắc xem liệu nó có phù hợp với bất kỳ nhược điểm xã hội hiện có nào không và nó sẽ bị ảnh hưởng như thế nào bởi các giải pháp cả ngắn hạn và dài hạn.

Các công cụ AI có trách nhiệm cho TensorFlow

Hệ sinh thái TensorFlow có một bộ công cụ và tài nguyên để giúp giải quyết một số câu hỏi ở trên.

Bước 1

Xác định vấn đề

Sử dụng các tài nguyên sau để thiết kế mô hình có lưu ý đến AI có trách nhiệm.

Sách Hướng dẫn Nghiên cứu Con người + AI (PAIR)

Tìm hiểu thêm về quy trình phát triển AI và những cân nhắc chính.

PAIR khám phá

Khám phá, thông qua hình ảnh tương tác, các câu hỏi và khái niệm chính trong lĩnh vực AI có trách nhiệm.

Bước 2

Xây dựng và chuẩn bị dữ liệu

Sử dụng các công cụ sau để kiểm tra dữ liệu để tìm các thành kiến ​​tiềm ẩn.

Xác thực dữ liệu TF

Phân tích và chuyển đổi dữ liệu để phát hiện các vấn đề và thiết kế các bộ tính năng hiệu quả hơn.

Thẻ dữ liệu

Tạo một báo cáo minh bạch cho tập dữ liệu của bạn.

Bước 3

Xây dựng và đào tạo mô hình

Sử dụng các công cụ sau để đào tạo các mô hình bằng cách sử dụng các kỹ thuật bảo vệ quyền riêng tư, có thể diễn giải và hơn thế nữa.

TF Quyền riêng tư

Đào tạo các mô hình học máy với quyền riêng tư.

TF Liên kết

Đào tạo các mô hình học máy sử dụng các kỹ thuật học liên hợp.

Tối ưu hóa Giới hạn TF

Tối ưu hóa các vấn đề hạn chế bất bình đẳng.

Mạng lưới TF

Triển khai các mô hình dựa trên mạng tinh thể linh hoạt, được kiểm soát và có thể diễn giải.

Bước 4

Đánh giá mô hình

Gỡ lỗi, đánh giá và trực quan hóa hiệu suất mô hình bằng các công cụ sau.

Các chỉ số công bằng

Đánh giá các chỉ số công bằng thường được xác định cho các bộ phân loại nhị phân và nhiều lớp.

Phân tích mô hình TF

Đánh giá mô hình theo cách phân tán và tính toán trên các phần dữ liệu khác nhau.

Công cụ What-If

Kiểm tra, đánh giá và so sánh các mô hình học máy.

AI có thể giải thích

Phát triển các mô hình học máy có thể diễn giải và toàn diện.

Kiểm tra quyền riêng tư của TF

Đánh giá các thuộc tính riêng tư của các mô hình phân loại.

TensorBoard

Đo lường và trực quan hóa quy trình học máy.

Bước 5

Triển khai và giám sát

Sử dụng các công cụ sau để theo dõi và giao tiếp về bối cảnh và chi tiết của mô hình.

Bộ công cụ thẻ mô hình

Dễ dàng tạo thẻ mô hình bằng bộ công cụ Thẻ mô hình.

Siêu dữ liệu ML

Ghi lại và truy xuất siêu dữ liệu được liên kết với quy trình làm việc của nhà phát triển ML và nhà khoa học dữ liệu.

Thẻ mẫu

Sắp xếp các dữ kiện thiết yếu của học máy theo cách có cấu trúc.

Tìm hiểu thêm

Tìm hiểu những gì cộng đồng đang làm và khám phá các cách để tham gia.

Crowdsource của Google

Giúp các sản phẩm của Google trở nên toàn diện hơn và đại diện cho ngôn ngữ, khu vực và văn hóa của bạn.

Thử thách dành cho nhà phát triển AI có trách nhiệm

Sử dụng TensorFlow 2.2 để xây dựng một mô hình hoặc ứng dụng với các Nguyên tắc AI có trách nhiệm.

AI có trách nhiệm với TensorFlow (TF Dev Summit '20)

Giới thiệu một khuôn khổ để suy nghĩ về ML, sự công bằng và quyền riêng tư.