Tham dự Hội nghị chuyên đề Women in ML vào ngày 7 tháng 12 Đăng ký ngay
Sử dụng bộ sưu tập để sắp xếp ngăn nắp các trang Lưu và phân loại nội dung dựa trên lựa chọn ưu tiên của bạn.

Tìm hiểu cách tích hợp các thực hành AI có trách nhiệm vào quy trình ML của bạn bằng TensorFlow

TensorFlow cam kết giúp đạt được tiến bộ trong quá trình phát triển AI có trách nhiệm bằng cách chia sẻ bộ sưu tập tài nguyên và công cụ với cộng đồng ML.

AI có trách nhiệm là gì?

Sự phát triển của AI đang tạo ra những cơ hội mới để giải quyết các vấn đề đầy thách thức trong thế giới thực. Nó cũng đặt ra những câu hỏi mới về cách tốt nhất để xây dựng hệ thống AI mang lại lợi ích cho tất cả mọi người.

Việc thiết kế các hệ thống AI nên tuân theo các phương pháp hay nhất về phát triển phần mềm đồng thời lấy con người làm trung tâm
tiếp cận ML

Công bằng

Khi tác động của AI tăng lên giữa các lĩnh vực và xã hội, điều quan trọng là phải hướng tới các hệ thống công bằng và toàn diện cho mọi người

khả năng diễn giải

Hiểu và tin tưởng các hệ thống AI là rất quan trọng để đảm bảo chúng hoạt động như dự kiến

Sự riêng tư

Các mô hình đào tạo từ dữ liệu nhạy cảm cần các biện pháp bảo vệ quyền riêng tư

Bảo vệ

Xác định các mối đe dọa tiềm ẩn có thể giúp giữ cho hệ thống AI an toàn và bảo mật

AI có trách nhiệm trong quy trình ML của bạn

Các thực hành AI có trách nhiệm có thể được kết hợp ở mọi bước của quy trình ML. Dưới đây là một số câu hỏi chính cần xem xét ở mỗi giai đoạn.

Hệ thống ML của tôi dành cho ai?

Cách người dùng thực tế trải nghiệm hệ thống của bạn là điều cần thiết để đánh giá tác động thực sự của các dự đoán, đề xuất và quyết định của hệ thống. Đảm bảo sớm nhận được thông tin đầu vào từ một nhóm người dùng đa dạng trong quá trình phát triển của bạn.

Tôi có đang sử dụng tập dữ liệu đại diện không?

Dữ liệu của bạn có được lấy mẫu theo cách đại diện cho người dùng của bạn không (ví dụ: sẽ được sử dụng cho mọi lứa tuổi nhưng bạn chỉ có dữ liệu đào tạo từ người cao tuổi) và cài đặt trong thế giới thực (ví dụ: sẽ được sử dụng quanh năm nhưng bạn chỉ có đào tạo) dữ liệu từ mùa hè)?

Dữ liệu của tôi có thiên kiến ​​về thế giới thực/con người không?

Những thành kiến ​​cơ bản trong dữ liệu có thể góp phần tạo nên các vòng phản hồi phức tạp giúp củng cố các khuôn mẫu hiện có.

Tôi nên sử dụng những phương pháp nào để đào tạo mô hình của mình?

Sử dụng các phương pháp đào tạo xây dựng tính công bằng, khả năng diễn giải, quyền riêng tư và bảo mật cho mô hình.

Mô hình của tôi hoạt động như thế nào?

Đánh giá trải nghiệm người dùng trong các tình huống trong thế giới thực trên nhiều người dùng, trường hợp sử dụng và bối cảnh sử dụng. Thử nghiệm và lặp lại trong dogfood trước, sau đó tiếp tục thử nghiệm sau khi ra mắt.

Có các vòng phản hồi phức tạp không?

Ngay cả khi mọi thứ trong thiết kế hệ thống tổng thể được chế tạo cẩn thận, các mô hình dựa trên ML hiếm khi hoạt động với độ hoàn hảo 100% khi áp dụng cho dữ liệu thực, trực tiếp. Khi một vấn đề xảy ra trong một sản phẩm đang hoạt động, hãy xem xét liệu vấn đề đó có phù hợp với bất kỳ nhược điểm xã hội hiện có nào hay không và vấn đề đó sẽ bị ảnh hưởng như thế nào bởi cả các giải pháp ngắn hạn và dài hạn.

Các công cụ AI chịu trách nhiệm cho TensorFlow

Hệ sinh thái TensorFlow có một bộ công cụ và tài nguyên để giúp giải quyết một số câu hỏi ở trên.

Bước 1

Xác định vấn đề

Sử dụng các tài nguyên sau để thiết kế các mô hình có tính đến AI có trách nhiệm.

Sách hướng dẫn Nghiên cứu Con người + AI (CẶP)

Tìm hiểu thêm về quy trình phát triển AI và những cân nhắc chính.

PAIR Explorables

Khám phá, thông qua hình ảnh tương tác, các câu hỏi và khái niệm chính trong lĩnh vực Trí tuệ nhân tạo có trách nhiệm.

Bước 2

Xây dựng và chuẩn bị dữ liệu

Sử dụng các công cụ sau để kiểm tra dữ liệu cho các sai lệch tiềm ẩn.

Biết dữ liệu của bạn (Thử nghiệm)

Điều tra tương tác tập dữ liệu của bạn để cải thiện chất lượng dữ liệu và giảm thiểu các vấn đề về sự công bằng và thiên vị.

Xác thực dữ liệu TF

Phân tích và chuyển đổi dữ liệu để phát hiện các vấn đề và thiết kế các bộ tính năng hiệu quả hơn.

Thẻ dữ liệu

Tạo báo cáo minh bạch cho tập dữ liệu của bạn.

Thang đo tông màu da của nhà sư (MST)

Thang đo màu da toàn diện hơn, được cấp phép mở, để làm cho nhu cầu thu thập dữ liệu và xây dựng mô hình của bạn trở nên mạnh mẽ và toàn diện hơn.

Bước 3

Xây dựng và đào tạo mô hình

Sử dụng các công cụ sau để đào tạo các mô hình bằng cách sử dụng các kỹ thuật có thể diễn giải, bảo vệ quyền riêng tư, v.v.

Khắc phục mô hình TF

Đào tạo các mô hình máy học để thúc đẩy kết quả công bằng hơn.

Quyền riêng tư của TF

Huấn luyện các mô hình máy học với quyền riêng tư.

TF liên kết

Huấn luyện các mô hình học máy bằng kỹ thuật học liên kết.

Tối ưu hóa hạn chế TF

Tối ưu hóa các bài toán giới hạn bất đẳng thức.

Lưới TF

Thực hiện các mô hình dựa trên mạng linh hoạt, được kiểm soát và có thể diễn giải được.

Bước 4

Đánh giá mô hình

Gỡ lỗi, đánh giá và trực quan hóa hiệu suất mô hình bằng các công cụ sau.

Chỉ số công bằng

Đánh giá các số liệu công bằng thường được xác định cho các bộ phân loại nhị phân và đa lớp.

Phân tích mô hình TF

Đánh giá các mô hình theo cách phân tán và tính toán trên các lát dữ liệu khác nhau.

Công cụ What-If

Kiểm tra, đánh giá và so sánh các mô hình học máy.

Công cụ giải thích ngôn ngữ

Hình dung và hiểu các mô hình NLP.

AI có thể giải thích

Phát triển các mô hình học máy có thể diễn giải và toàn diện.

Kiểm tra quyền riêng tư TF

Đánh giá các thuộc tính riêng tư của các mô hình phân loại.

TenorBoard

Đo lường và trực quan hóa quy trình học máy.

Bước 5

Triển khai và giám sát

Sử dụng các công cụ sau để theo dõi và giao tiếp về bối cảnh và chi tiết của mô hình.

Bộ công cụ thẻ mô hình

Tạo thẻ mô hình dễ dàng bằng bộ công cụ Thẻ mô hình.

Siêu dữ liệu ML

Ghi lại và truy xuất siêu dữ liệu được liên kết với quy trình làm việc của nhà khoa học dữ liệu và nhà phát triển ML.

Thẻ mô hình

Tổ chức các sự kiện thiết yếu của học máy theo cách có cấu trúc.

Nguồn cộng đồng

Tìm hiểu những gì cộng đồng đang làm và khám phá những cách để tham gia.

Nguồn cộng đồng của Google

Giúp các sản phẩm của Google trở nên toàn diện hơn và đại diện cho ngôn ngữ, khu vực và văn hóa của bạn.

Thử thách AI DevPost có trách nhiệm

Chúng tôi đã yêu cầu những người tham gia sử dụng TensorFlow 2.2 để xây dựng một mô hình hoặc ứng dụng có lưu ý đến các nguyên tắc AI có trách nhiệm. Kiểm tra thư viện để xem những người chiến thắng và các dự án tuyệt vời khác.

AI có trách nhiệm với TensorFlow (TF Dev Summit '20)

Giới thiệu một khuôn khổ để suy nghĩ về ML, sự công bằng và quyền riêng tư.