เรียนรู้วิธีบูรณาการแนวทางปฏิบัติ AI ที่มีความรับผิดชอบเข้ากับเวิร์กโฟลว์ ML ของคุณโดยใช้ TensorFlow

TensorFlow มุ่งมั่นที่จะช่วยสร้างความก้าวหน้าในการพัฒนา AI อย่างรับผิดชอบด้วยการแบ่งปันคอลเลกชันทรัพยากรและเครื่องมือกับชุมชน ML

AI ที่มีความรับผิดชอบคืออะไร?

การพัฒนา AI กำลังสร้างโอกาสใหม่ในการแก้ปัญหาที่ท้าทายในโลกแห่งความเป็นจริง นอกจากนี้ยังก่อให้เกิดคำถามใหม่ๆ เกี่ยวกับวิธีที่ดีที่สุดในการสร้างระบบ AI ที่เป็นประโยชน์ต่อทุกคน

การออกแบบระบบ AI ควรเป็นไปตามแนวทางปฏิบัติที่ดีที่สุดในการพัฒนาซอฟต์แวร์โดยคำนึงถึงมนุษย์เป็นศูนย์กลาง
แนวทางสู่ ML

ความเป็นธรรม

เนื่องจากผลกระทบของ AI เพิ่มขึ้นทั่วทั้งภาคส่วนและสังคม จึงจำเป็นอย่างยิ่งที่จะต้องทำงานต่อระบบที่ยุติธรรมและครอบคลุมทุกคน

การตีความ

การทำความเข้าใจและไว้วางใจระบบ AI เป็นสิ่งสำคัญเพื่อให้แน่ใจว่าระบบทำงานตามที่ตั้งใจไว้

ความเป็นส่วนตัว

โมเดลการฝึกอบรมจากข้อมูลที่ละเอียดอ่อนจำเป็นต้องมีการปกป้องความเป็นส่วนตัว

ความปลอดภัย

การระบุภัยคุกคามที่อาจเกิดขึ้นสามารถช่วยให้ระบบ AI ปลอดภัยได้

AI ที่มีความรับผิดชอบในเวิร์กโฟลว์ ML ของคุณ

แนวทางปฏิบัติด้าน AI ที่มีความรับผิดชอบสามารถนำมารวมไว้ในทุกขั้นตอนของเวิร์กโฟลว์ ML ต่อไปนี้เป็นคำถามสำคัญที่ควรพิจารณาในแต่ละขั้นตอน

ระบบ ML ของฉันเหมาะกับใคร?

วิธีที่ผู้ใช้จริงสัมผัสระบบของคุณเป็นสิ่งสำคัญในการประเมินผลกระทบที่แท้จริงของการคาดการณ์ คำแนะนำ และการตัดสินใจ ตรวจสอบให้แน่ใจว่าได้รับข้อมูลจากกลุ่มผู้ใช้ที่หลากหลายตั้งแต่เนิ่นๆ ในกระบวนการพัฒนาของคุณ

ฉันใช้ชุดข้อมูลตัวแทนหรือไม่

ข้อมูลของคุณถูกสุ่มตัวอย่างในลักษณะที่แสดงถึงผู้ใช้ของคุณ (เช่น จะถูกใช้สำหรับทุกวัย แต่คุณมีข้อมูลการฝึกอบรมจากผู้สูงอายุเท่านั้น) และในสภาพแวดล้อมจริง (เช่น จะถูกใช้ตลอดทั้งปี แต่คุณมีเพียงการฝึกอบรมเท่านั้น ข้อมูลจากฤดูร้อน)?

ข้อมูลของฉันมีอคติในโลกแห่งความเป็นจริง/มนุษย์หรือไม่

อคติที่ซ่อนอยู่ในข้อมูลสามารถทำให้เกิดวงจรป้อนกลับที่ซับซ้อนซึ่งช่วยเสริมทัศนคติแบบเหมารวมที่มีอยู่ได้

ฉันควรใช้วิธีใดในการฝึกโมเดลของฉัน

ใช้วิธีการฝึกอบรมที่สร้างความยุติธรรม ตีความได้ ความเป็นส่วนตัว และความปลอดภัยให้กับโมเดล

โมเดลของฉันทำงานเป็นอย่างไรบ้าง

ประเมินประสบการณ์ผู้ใช้ในสถานการณ์จริงในกลุ่มผู้ใช้ กรณีการใช้งาน และบริบทการใช้งานในวงกว้าง ทดสอบและทำซ้ำในการลองใช้ก่อน ตามด้วยการทดสอบต่อเนื่องหลังการเปิดตัว

มีวงจรป้อนกลับที่ซับซ้อนหรือไม่?

แม้ว่าทุกอย่างในการออกแบบระบบโดยรวมจะถูกสร้างขึ้นมาอย่างพิถีพิถัน แต่โมเดลที่ใช้ ML ก็แทบจะไม่ทำงานได้สมบูรณ์แบบ 100% เมื่อนำไปใช้กับข้อมูลจริงที่เป็นปัจจุบัน เมื่อเกิดปัญหาในผลิตภัณฑ์ที่ใช้งานจริง ให้พิจารณาว่าปัญหานั้นสอดคล้องกับข้อเสียเปรียบทางสังคมที่มีอยู่หรือไม่ และจะได้รับผลกระทบอย่างไรจากวิธีแก้ปัญหาทั้งระยะสั้นและระยะยาว

เครื่องมือ AI ที่รับผิดชอบสำหรับ TensorFlow

ระบบนิเวศของ TensorFlow มีชุดเครื่องมือและทรัพยากรเพื่อช่วยตอบคำถามข้างต้น

ขั้นตอนที่ 1

กำหนดปัญหา

ใช้ทรัพยากรต่อไปนี้เพื่อออกแบบโมเดลโดยคำนึงถึง AI ที่มีความรับผิดชอบ

คู่มือผู้คน + การวิจัย AI (PAIR)

เรียนรู้เพิ่มเติมเกี่ยวกับกระบวนการพัฒนา AI และข้อควรพิจารณาที่สำคัญ

การสำรวจคู่

สำรวจผ่านการแสดงภาพข้อมูลเชิงโต้ตอบ คำถามสำคัญและแนวคิดในขอบเขตของ Responsible AI

ขั้นตอนที่ 2

สร้างและจัดเตรียมข้อมูล

ใช้เครื่องมือต่อไปนี้เพื่อตรวจสอบข้อมูลเพื่อหาอคติที่อาจเกิดขึ้น

รู้จักข้อมูลของคุณ (เบต้า)

ตรวจสอบชุดข้อมูลของคุณแบบโต้ตอบเพื่อปรับปรุงคุณภาพข้อมูล และลดปัญหาความเป็นธรรมและความลำเอียง

การตรวจสอบข้อมูล TF

วิเคราะห์และแปลงข้อมูลเพื่อตรวจจับปัญหาและสร้างชุดคุณลักษณะที่มีประสิทธิภาพมากขึ้น

การ์ดข้อมูล

สร้างรายงานเพื่อความโปร่งใสสำหรับชุดข้อมูลของคุณ

สเกลสีผิวพระ (MST)

ระดับสีผิวที่ครอบคลุมมากขึ้น ได้รับใบอนุญาตแบบเปิด เพื่อให้การรวบรวมข้อมูลและการสร้างแบบจำลองของคุณต้องการความแข็งแกร่งและครอบคลุมมากขึ้น

ขั้นตอนที่ 3

สร้างและฝึกโมเดล

ใช้เครื่องมือต่อไปนี้เพื่อฝึกโมเดลโดยใช้การรักษาความเป็นส่วนตัว เทคนิคที่ตีความได้ และอื่นๆ

การแก้ไขโมเดล TF

ฝึกอบรมโมเดลแมชชีนเลิร์นนิงเพื่อส่งเสริมผลลัพธ์ที่เท่าเทียมกันมากขึ้น

ความเป็นส่วนตัวของ TF

ฝึกฝนโมเดลแมชชีนเลิร์นนิงด้วยความเป็นส่วนตัว

TF สหพันธ์

ฝึกฝนโมเดลการเรียนรู้ของเครื่องโดยใช้เทคนิคการเรียนรู้แบบรวมศูนย์

การเพิ่มประสิทธิภาพที่จำกัด TF

เพิ่มประสิทธิภาพปัญหาที่มีข้อจำกัดด้านความไม่เท่าเทียมกัน

ทีเอฟ แลตติซ

ใช้โมเดลแบบ Lattice ที่ยืดหยุ่น ควบคุม และตีความได้

ขั้นตอนที่ 4

ประเมินแบบจำลอง

ดีบัก ประเมิน และแสดงภาพประสิทธิภาพของโมเดลโดยใช้เครื่องมือต่อไปนี้

ตัวชี้วัดความเป็นธรรม

ประเมินตัวชี้วัดความเป็นธรรมที่ระบุโดยทั่วไปสำหรับตัวแยกประเภทไบนารีและหลายคลาส

การวิเคราะห์โมเดล TF

ประเมินแบบจำลองในลักษณะกระจายและคำนวณบนส่วนข้อมูลต่างๆ

เครื่องมืออะไรถ้า

ตรวจสอบ ประเมิน และเปรียบเทียบโมเดลการเรียนรู้ของเครื่อง

เครื่องมือการตีความภาษา

แสดงภาพและทำความเข้าใจโมเดล NLP

AI อธิบายได้

พัฒนาโมเดลการเรียนรู้ของเครื่องที่สามารถตีความได้และครอบคลุม

การทดสอบความเป็นส่วนตัวของ TF

ประเมินคุณสมบัติความเป็นส่วนตัวของแบบจำลองการจำแนกประเภท

เทนเซอร์บอร์ด

วัดผลและแสดงภาพเวิร์กโฟลว์แมชชีนเลิร์นนิง

ขั้นตอนที่ 5

ปรับใช้และตรวจสอบ

ใช้เครื่องมือต่อไปนี้เพื่อติดตามและสื่อสารเกี่ยวกับบริบทและรายละเอียดของโมเดล

ชุดเครื่องมือการ์ดโมเดล

สร้างการ์ดโมเดลอย่างง่ายดายโดยใช้ชุดเครื่องมือการ์ดโมเดล

ข้อมูลเมตาของ ML

บันทึกและเรียกข้อมูลเมตาที่เกี่ยวข้องกับเวิร์กโฟลว์นักพัฒนา ML และนักวิทยาศาสตร์ข้อมูล

การ์ดโมเดล

จัดระเบียบข้อเท็จจริงที่สำคัญของการเรียนรู้ของเครื่องในลักษณะที่มีโครงสร้าง

ทรัพยากรชุมชน

เรียนรู้ว่าชุมชนกำลังทำอะไรและสำรวจวิธีที่จะมีส่วนร่วม

แหล่งที่มาของฝูงชนโดย Google

ช่วยให้ผลิตภัณฑ์ของ Google มีความครอบคลุมมากขึ้นและเป็นตัวแทนของภาษา ภูมิภาค และวัฒนธรรมของคุณ

ความท้าทาย AI DevPost ที่มีความรับผิดชอบ

เราขอให้ผู้เข้าร่วมใช้ TensorFlow 2.2 เพื่อสร้างโมเดลหรือแอปพลิเคชันโดยคำนึงถึงหลักการ Responsible AI ตรวจดูแกลเลอรีเพื่อดูผู้ชนะและโครงการที่น่าทึ่งอื่นๆ

AI ที่มีความรับผิดชอบด้วย TensorFlow (TF Dev Summit '20)

แนะนำกรอบการทำงานเพื่อคำนึงถึง ML ความเป็นธรรม และความเป็นส่วนตัว