Tìm hiểu cách tích hợp các phương pháp thực hành AI có trách nhiệm vào quy trình làm việc ML của bạn bằng cách sử dụng TensorFlow
TensorFlow cam kết giúp đạt được tiến bộ trong sự phát triển có trách nhiệm của AI bằng cách chia sẻ bộ sưu tập tài nguyên và công cụ với cộng đồng ML.
AI có trách nhiệm là gì?
Sự phát triển của AI đang tạo ra những cơ hội mới để giải quyết các vấn đề thách thức trong thế giới thực. Nó cũng đang đặt ra những câu hỏi mới về cách tốt nhất để xây dựng các hệ thống AI mang lại lợi ích cho tất cả mọi người.
Các phương pháp hay nhất được đề xuất cho AI
Thiết kế hệ thống AI nên tuân theo các phương pháp phát triển phần mềm tốt nhất trong khi lấy con người làm trung tâm
cách tiếp cận ML
Công bằng
Khi tác động của AI gia tăng trên các lĩnh vực và xã hội, điều quan trọng là phải hướng tới các hệ thống công bằng và hòa nhập cho tất cả mọi người
Khả năng diễn giải
Hiểu và tin tưởng các hệ thống AI là điều quan trọng để đảm bảo chúng đang hoạt động như dự kiến
Sự riêng tư
Các mô hình đào tạo về dữ liệu nhạy cảm cần có các biện pháp bảo vệ bảo vệ quyền riêng tư
Bảo vệ
Xác định các mối đe dọa tiềm ẩn có thể giúp giữ cho hệ thống AI an toàn và bảo mật
AI có trách nhiệm trong quy trình làm việc ML của bạn
Các phương pháp thực hành AI có trách nhiệm có thể được kết hợp ở mọi bước của quy trình ML. Dưới đây là một số câu hỏi chính cần xem xét ở mỗi giai đoạn.
Hệ thống ML của tôi dành cho ai?
Cách người dùng thực tế trải nghiệm hệ thống của bạn là điều cần thiết để đánh giá tác động thực sự của các dự đoán, đề xuất và quyết định của hệ thống. Đảm bảo sớm nhận được thông tin đầu vào từ một nhóm người dùng đa dạng trong quá trình phát triển của bạn.
Tôi có đang sử dụng tập dữ liệu đại diện không?
Dữ liệu của bạn có được lấy mẫu theo cách đại diện cho người dùng của bạn không (ví dụ: sẽ được sử dụng cho mọi lứa tuổi, nhưng bạn chỉ có dữ liệu đào tạo từ những người cao tuổi) và cài đặt thế giới thực (ví dụ: sẽ được sử dụng quanh năm, nhưng bạn chỉ có đào tạo dữ liệu từ mùa hè)?
Có thiên vị thế giới thực / con người trong dữ liệu của tôi không?
Các thành kiến cơ bản trong dữ liệu có thể góp phần tạo ra các vòng phản hồi phức tạp củng cố các định kiến hiện có.
Tôi nên sử dụng những phương pháp nào để đào tạo mô hình của mình?
Sử dụng các phương pháp đào tạo để xây dựng tính công bằng, khả năng diễn giải, quyền riêng tư và bảo mật vào mô hình.
Mô hình của tôi hoạt động như thế nào?
Đánh giá trải nghiệm người dùng trong các tình huống thực tế trên nhiều người dùng, trường hợp sử dụng và bối cảnh sử dụng. Trước tiên, hãy thử nghiệm và lặp lại trong dogfood, tiếp theo là tiếp tục thử nghiệm sau khi khởi chạy.
Có vòng lặp phản hồi phức tạp không?
Ngay cả khi mọi thứ trong thiết kế hệ thống tổng thể đều được chế tạo cẩn thận, các mô hình dựa trên ML hiếm khi hoạt động với độ hoàn hảo 100% khi áp dụng vào dữ liệu thực, trực tiếp. Khi một vấn đề xảy ra trong một sản phẩm đang hoạt động, hãy xem xét liệu nó có phù hợp với bất kỳ nhược điểm xã hội hiện có nào không và nó sẽ bị ảnh hưởng như thế nào bởi các giải pháp cả ngắn hạn và dài hạn.
Các công cụ AI có trách nhiệm cho TensorFlow
Hệ sinh thái TensorFlow có một bộ công cụ và tài nguyên để giúp giải quyết một số câu hỏi ở trên.
Xác định vấn đề
Sử dụng các tài nguyên sau để thiết kế mô hình có lưu ý đến AI có trách nhiệm.

Tìm hiểu thêm về quy trình phát triển AI và những cân nhắc chính.

Khám phá, thông qua hình ảnh tương tác, các câu hỏi và khái niệm chính trong lĩnh vực AI có trách nhiệm.
Xây dựng và chuẩn bị dữ liệu
Sử dụng các công cụ sau để kiểm tra dữ liệu để tìm các thành kiến có thể xảy ra.

Điều tra tương tác tập dữ liệu của bạn để cải thiện chất lượng dữ liệu và giảm thiểu các vấn đề về công bằng và thiên vị.

Phân tích và chuyển đổi dữ liệu để phát hiện các vấn đề và thiết kế các bộ tính năng hiệu quả hơn.


Thang đo tông màu da toàn diện hơn, được cấp phép mở, để làm cho việc thu thập dữ liệu và xây dựng mô hình của bạn cần phải mạnh mẽ và toàn diện hơn.
Xây dựng và đào tạo mô hình
Sử dụng các công cụ sau để đào tạo các mô hình bằng cách sử dụng các kỹ thuật bảo vệ quyền riêng tư, có thể diễn giải và hơn thế nữa.





Triển khai các mô hình dựa trên mạng tinh thể linh hoạt, được kiểm soát và có thể diễn giải.
Đánh giá mô hình
Gỡ lỗi, đánh giá và trực quan hóa hiệu suất mô hình bằng các công cụ sau.

Đánh giá các chỉ số công bằng thường được xác định cho các bộ phân loại nhị phân và nhiều lớp.

Đánh giá mô hình theo cách phân tán và tính toán trên các phần dữ liệu khác nhau.




Đánh giá các thuộc tính riêng tư của các mô hình phân loại.

Triển khai và giám sát
Sử dụng các công cụ sau để theo dõi và giao tiếp về bối cảnh và chi tiết của mô hình.


Ghi lại và truy xuất siêu dữ liệu được liên kết với quy trình làm việc của nhà phát triển ML và nhà khoa học dữ liệu.

Nguồn cộng đồng
Tìm hiểu những gì cộng đồng đang làm và khám phá các cách để tham gia.

Giúp các sản phẩm của Google trở nên toàn diện hơn và đại diện cho ngôn ngữ, khu vực và văn hóa của bạn.

Chúng tôi đã yêu cầu những người tham gia sử dụng TensorFlow 2.2 để xây dựng một mô hình hoặc ứng dụng có lưu ý đến các nguyên tắc AI có trách nhiệm. Kiểm tra phòng trưng bày để xem những người chiến thắng và các dự án tuyệt vời khác.

Giới thiệu một khuôn khổ để suy nghĩ về ML, sự công bằng và quyền riêng tư.