Pelajari cara mengintegrasikan praktik AI yang Bertanggung Jawab ke dalam alur kerja ML Anda menggunakan TensorFlow

TensorFlow berkomitmen membantu mencapai kemajuan dalam pengembangan AI yang bertanggung jawab dengan berbagi kumpulan resource dan alat dengan komunitas ML.

Apa itu AI yang Bertanggung Jawab?

Perkembangan AI menciptakan peluang baru untuk memecahkan permasalahan dunia nyata yang menantang. Hal ini juga menimbulkan pertanyaan baru tentang cara terbaik untuk membangun sistem AI yang bermanfaat bagi semua orang.

Perancangan sistem AI harus mengikuti praktik terbaik pengembangan perangkat lunak sambil tetap berpusat pada manusia
pendekatan ML

Keadilan

Ketika dampak AI meningkat di berbagai sektor dan masyarakat, penting untuk berupaya mewujudkan sistem yang adil dan inklusif bagi semua orang

Interpretasi

Memahami dan memercayai sistem AI penting untuk memastikan sistem berfungsi sebagaimana mestinya

Pribadi

Model pelatihan yang menggunakan data sensitif memerlukan perlindungan privasi

Keamanan

Mengidentifikasi potensi ancaman dapat membantu menjaga sistem AI tetap aman dan terlindungi

AI yang bertanggung jawab dalam alur kerja ML Anda

Praktik AI yang bertanggung jawab dapat diterapkan di setiap langkah alur kerja ML. Berikut beberapa pertanyaan kunci yang perlu dipertimbangkan pada setiap tahap.

Untuk siapa sistem ML saya?

Cara pengguna sebenarnya merasakan sistem Anda sangat penting untuk menilai dampak sebenarnya dari prediksi, rekomendasi, dan keputusannya. Pastikan untuk mendapatkan masukan dari beragam pengguna di awal proses pengembangan Anda.

Apakah saya menggunakan kumpulan data yang representatif?

Apakah data Anda diambil sampelnya dengan cara yang mewakili pengguna Anda (misalnya akan digunakan untuk segala usia, namun Anda hanya memiliki data pelatihan dari warga lanjut usia) dan keadaan dunia nyata (misalnya akan digunakan sepanjang tahun, namun Anda hanya memiliki data pelatihan? data dari musim panas)?

Apakah ada bias dunia nyata/manusia dalam data saya?

Bias yang mendasari data dapat berkontribusi pada putaran umpan balik yang kompleks yang memperkuat stereotip yang ada.

Metode apa yang harus saya gunakan untuk melatih model saya?

Gunakan metode pelatihan yang memasukkan keadilan, interpretasi, privasi, dan keamanan ke dalam model.

Bagaimana kinerja model saya?

Evaluasi pengalaman pengguna dalam skenario dunia nyata di berbagai spektrum pengguna, kasus penggunaan, dan konteks penggunaan. Uji dan ulangi dalam dogfood terlebih dahulu, lalu dilanjutkan dengan pengujian lanjutan setelah peluncuran.

Apakah ada putaran umpan balik yang rumit?

Meskipun segala sesuatu dalam keseluruhan desain sistem dibuat dengan cermat, model berbasis ML jarang beroperasi dengan kesempurnaan 100% saat diterapkan pada data nyata dan langsung. Ketika suatu masalah terjadi pada produk yang ada, pertimbangkan apakah masalah tersebut sejalan dengan kerugian sosial yang ada, dan bagaimana masalah tersebut akan terkena dampak dari solusi jangka pendek dan jangka panjang.

Alat AI yang bertanggung jawab untuk TensorFlow

Ekosistem TensorFlow memiliki serangkaian alat dan resource untuk membantu menjawab beberapa pertanyaan di atas.

Langkah 1

Definisikan masalah

Gunakan sumber daya berikut untuk merancang model dengan mempertimbangkan AI yang Bertanggung Jawab.

Buku Panduan Penelitian Manusia + AI (PAIR).

Pelajari lebih lanjut tentang proses pengembangan AI dan pertimbangan utamanya.

PASANGAN yang Dapat Dijelajahi

Jelajahi, melalui visualisasi interaktif, pertanyaan dan konsep kunci di bidang AI yang Bertanggung Jawab.

Langkah 2

Membangun dan menyiapkan data

Gunakan alat berikut untuk memeriksa data untuk mengetahui potensi bias.

Ketahui Data Anda (Beta)

Selidiki kumpulan data Anda secara interaktif untuk meningkatkan kualitas data dan mengurangi masalah keadilan dan bias.

Validasi Data TF

Analisis dan transformasi data untuk mendeteksi masalah dan merekayasa rangkaian fitur yang lebih efektif.

Kartu Data

Buat laporan transparansi untuk kumpulan data Anda.

Skala Warna Kulit Biksu (MST)

Skala warna kulit yang lebih inklusif, berlisensi terbuka, untuk membuat kebutuhan pengumpulan data dan pembuatan model Anda lebih kuat dan inklusif.

Langkah 3

Membangun dan melatih model

Gunakan alat berikut untuk melatih model menggunakan teknik yang menjaga privasi dan dapat ditafsirkan, dan banyak lagi.

Remediasi Model TF

Latih model pembelajaran mesin untuk mendorong hasil yang lebih adil.

Privasi TF

Latih model pembelajaran mesin dengan privasi.

Federasi TF

Melatih model pembelajaran mesin menggunakan teknik pembelajaran gabungan.

Optimasi Terbatas TF

Mengoptimalkan permasalahan yang membatasi ketimpangan.

Kisi TF

Menerapkan model berbasis kisi yang fleksibel, terkontrol, dan dapat diinterpretasikan.

Langkah 4

Evaluasi modelnya

Debug, evaluasi, dan visualisasikan performa model menggunakan alat berikut.

Indikator Kewajaran

Evaluasi metrik keadilan yang umum diidentifikasi untuk pengklasifikasi biner dan kelas jamak.

Analisis Model TF

Evaluasi model secara terdistribusi dan hitung berbagai bagian data.

Alat Bagaimana-Jika

Periksa, evaluasi, dan bandingkan model pembelajaran mesin.

Alat Interpretabilitas Bahasa

Visualisasikan dan pahami model NLP.

AI yang bisa dijelaskan

Mengembangkan model pembelajaran mesin yang dapat ditafsirkan dan inklusif.

Tes Privasi TF

Menilai properti privasi model klasifikasi.

Papan Tensor

Ukur dan visualisasikan alur kerja pembelajaran mesin.

Langkah 5

Terapkan dan pantau

Gunakan alat berikut untuk melacak dan berkomunikasi tentang konteks dan detail model.

Perangkat Kartu Model

Hasilkan kartu model dengan mudah menggunakan toolkit Model Card.

Metadata ML

Rekam dan ambil metadata yang terkait dengan alur kerja pengembang ML dan ilmuwan data.

Kartu Model

Atur fakta penting pembelajaran mesin dengan cara yang terstruktur.

Sumber daya komunitas

Pelajari apa yang dilakukan komunitas dan cari cara untuk terlibat.

Sumber daya kerumunan oleh Google

Bantu produk Google menjadi lebih inklusif dan mewakili bahasa, wilayah, dan budaya Anda.

Tantangan AI DevPost yang Bertanggung Jawab

Kami meminta peserta menggunakan TensorFlow 2.2 untuk membangun model atau aplikasi dengan mempertimbangkan prinsip-prinsip AI yang Bertanggung Jawab. Kunjungi galeri untuk melihat para pemenang dan proyek menakjubkan lainnya.

AI yang bertanggung jawab dengan TensorFlow (TF Dev Summit '20)

Memperkenalkan kerangka kerja untuk memikirkan ML, keadilan, dan privasi.

,

Pelajari cara mengintegrasikan praktik AI yang Bertanggung Jawab ke dalam alur kerja ML Anda menggunakan TensorFlow

TensorFlow berkomitmen membantu mencapai kemajuan dalam pengembangan AI yang bertanggung jawab dengan berbagi kumpulan resource dan alat dengan komunitas ML.

Apa itu AI yang Bertanggung Jawab?

Perkembangan AI menciptakan peluang baru untuk memecahkan permasalahan dunia nyata yang menantang. Hal ini juga menimbulkan pertanyaan baru tentang cara terbaik untuk membangun sistem AI yang bermanfaat bagi semua orang.

Perancangan sistem AI harus mengikuti praktik terbaik pengembangan perangkat lunak sambil tetap berpusat pada manusia
pendekatan ML

Keadilan

Ketika dampak AI meningkat di berbagai sektor dan masyarakat, penting untuk berupaya mewujudkan sistem yang adil dan inklusif bagi semua orang

Interpretasi

Memahami dan memercayai sistem AI penting untuk memastikan sistem berfungsi sebagaimana mestinya

Pribadi

Model pelatihan yang menggunakan data sensitif memerlukan perlindungan privasi

Keamanan

Mengidentifikasi potensi ancaman dapat membantu menjaga sistem AI tetap aman dan terlindungi

AI yang bertanggung jawab dalam alur kerja ML Anda

Praktik AI yang bertanggung jawab dapat diterapkan di setiap langkah alur kerja ML. Berikut beberapa pertanyaan kunci yang perlu dipertimbangkan pada setiap tahap.

Untuk siapa sistem ML saya?

Cara pengguna sebenarnya merasakan sistem Anda sangat penting untuk menilai dampak sebenarnya dari prediksi, rekomendasi, dan keputusannya. Pastikan untuk mendapatkan masukan dari beragam pengguna di awal proses pengembangan Anda.

Apakah saya menggunakan kumpulan data yang representatif?

Apakah data Anda diambil sampelnya dengan cara yang mewakili pengguna Anda (misalnya akan digunakan untuk segala usia, namun Anda hanya memiliki data pelatihan dari warga lanjut usia) dan keadaan dunia nyata (misalnya akan digunakan sepanjang tahun, namun Anda hanya memiliki data pelatihan? data dari musim panas)?

Apakah ada bias dunia nyata/manusia dalam data saya?

Bias yang mendasari data dapat berkontribusi pada putaran umpan balik yang kompleks yang memperkuat stereotip yang ada.

Metode apa yang harus saya gunakan untuk melatih model saya?

Gunakan metode pelatihan yang memasukkan keadilan, interpretasi, privasi, dan keamanan ke dalam model.

Bagaimana kinerja model saya?

Evaluasi pengalaman pengguna dalam skenario dunia nyata di berbagai spektrum pengguna, kasus penggunaan, dan konteks penggunaan. Uji dan ulangi dalam dogfood terlebih dahulu, lalu dilanjutkan dengan pengujian lanjutan setelah peluncuran.

Apakah ada putaran umpan balik yang rumit?

Meskipun segala sesuatu dalam keseluruhan desain sistem dibuat dengan cermat, model berbasis ML jarang beroperasi dengan kesempurnaan 100% saat diterapkan pada data nyata dan langsung. Ketika suatu masalah terjadi pada produk yang ada, pertimbangkan apakah masalah tersebut sejalan dengan kerugian sosial yang ada, dan bagaimana masalah tersebut akan terkena dampak dari solusi jangka pendek dan jangka panjang.

Alat AI yang bertanggung jawab untuk TensorFlow

Ekosistem TensorFlow memiliki serangkaian alat dan resource untuk membantu menjawab beberapa pertanyaan di atas.

Langkah 1

Definisikan masalah

Gunakan sumber daya berikut untuk merancang model dengan mempertimbangkan AI yang Bertanggung Jawab.

Buku Panduan Penelitian Manusia + AI (PAIR).

Pelajari lebih lanjut tentang proses pengembangan AI dan pertimbangan utamanya.

PASANGAN yang Dapat Dijelajahi

Jelajahi, melalui visualisasi interaktif, pertanyaan dan konsep kunci di bidang AI yang Bertanggung Jawab.

Langkah 2

Membangun dan menyiapkan data

Gunakan alat berikut untuk memeriksa data untuk mengetahui potensi bias.

Ketahui Data Anda (Beta)

Selidiki kumpulan data Anda secara interaktif untuk meningkatkan kualitas data dan mengurangi masalah keadilan dan bias.

Validasi Data TF

Analisis dan transformasi data untuk mendeteksi masalah dan merekayasa rangkaian fitur yang lebih efektif.

Kartu Data

Buat laporan transparansi untuk kumpulan data Anda.

Skala Warna Kulit Biksu (MST)

Skala warna kulit yang lebih inklusif, berlisensi terbuka, untuk membuat kebutuhan pengumpulan data dan pembuatan model Anda lebih kuat dan inklusif.

Langkah 3

Membangun dan melatih model

Gunakan alat berikut untuk melatih model menggunakan teknik yang menjaga privasi dan dapat ditafsirkan, dan banyak lagi.

Remediasi Model TF

Latih model pembelajaran mesin untuk mendorong hasil yang lebih adil.

Privasi TF

Latih model pembelajaran mesin dengan privasi.

Federasi TF

Melatih model pembelajaran mesin menggunakan teknik pembelajaran gabungan.

Optimasi Terbatas TF

Mengoptimalkan permasalahan yang membatasi ketimpangan.

Kisi TF

Menerapkan model berbasis kisi yang fleksibel, terkontrol, dan dapat diinterpretasikan.

Langkah 4

Evaluasi modelnya

Debug, evaluasi, dan visualisasikan performa model menggunakan alat berikut.

Indikator Kewajaran

Evaluasi metrik keadilan yang umum diidentifikasi untuk pengklasifikasi biner dan kelas jamak.

Analisis Model TF

Evaluasi model secara terdistribusi dan hitung berbagai bagian data.

Alat Bagaimana-Jika

Periksa, evaluasi, dan bandingkan model pembelajaran mesin.

Alat Interpretabilitas Bahasa

Visualisasikan dan pahami model NLP.

AI yang bisa dijelaskan

Mengembangkan model pembelajaran mesin yang dapat ditafsirkan dan inklusif.

Tes Privasi TF

Menilai properti privasi model klasifikasi.

Papan Tensor

Ukur dan visualisasikan alur kerja pembelajaran mesin.

Langkah 5

Terapkan dan pantau

Gunakan alat berikut untuk melacak dan berkomunikasi tentang konteks dan detail model.

Perangkat Kartu Model

Hasilkan kartu model dengan mudah menggunakan toolkit Model Card.

Metadata ML

Rekam dan ambil metadata yang terkait dengan alur kerja pengembang ML dan ilmuwan data.

Kartu Model

Atur fakta penting pembelajaran mesin dengan cara yang terstruktur.

Sumber daya komunitas

Pelajari apa yang dilakukan komunitas dan cari cara untuk terlibat.

Sumber daya kerumunan oleh Google

Bantu produk Google menjadi lebih inklusif dan mewakili bahasa, wilayah, dan budaya Anda.

Tantangan AI DevPost yang Bertanggung Jawab

Kami meminta peserta menggunakan TensorFlow 2.2 untuk membangun model atau aplikasi dengan mempertimbangkan prinsip-prinsip AI yang Bertanggung Jawab. Kunjungi galeri untuk melihat para pemenang dan proyek menakjubkan lainnya.

AI yang bertanggung jawab dengan TensorFlow (TF Dev Summit '20)

Memperkenalkan kerangka kerja untuk memikirkan ML, keadilan, dan privasi.