Google berkomitmen untuk mendorong terwujudnya keadilan ras bagi komunitas Kulit Hitam. Lihat caranya.
Halaman ini diterjemahkan oleh Cloud Translation API.
Switch to English

Pelajari cara mengintegrasikan praktik AI yang Bertanggung Jawab ke dalam alur kerja ML Anda menggunakan TensorFlow

TensorFlow berkomitmen untuk membantu membuat kemajuan dalam pengembangan AI yang bertanggung jawab dengan berbagi koleksi resource dan fitur dengan komunitas ML.

Apa itu AI yang Bertanggung Jawab?

Perkembangan AI menciptakan peluang baru untuk memecahkan masalah dunia nyata yang menantang. Ini juga menimbulkan pertanyaan baru tentang cara terbaik untuk membangun sistem AI yang menguntungkan semua orang.

Merancang sistem AI harus mengikuti praktik terbaik pengembangan perangkat lunak sambil mengambil jalan yang berpusat pada manusia
pendekatan ML

Keadilan

Karena dampak AI meningkat di seluruh sektor dan masyarakat, sangat penting untuk bekerja menuju sistem yang adil dan inklusif untuk semua orang

Interpretabilitas

Memahami dan memercayai sistem AI penting untuk memastikannya berfungsi sebagaimana mestinya

Pribadi

Model pelatihan dari data sensitif membutuhkan perlindungan privasi

Keamanan

Mengidentifikasi potensi ancaman dapat membantu menjaga sistem AI tetap aman dan terlindungi

AI yang bertanggung jawab dalam alur kerja ML Anda

Praktik AI yang bertanggung jawab dapat digabungkan di setiap langkah alur kerja ML. Berikut adalah beberapa pertanyaan kunci untuk dipertimbangkan pada setiap tahap.

Untuk siapa sistem ML saya?

Cara pengguna yang sebenarnya mengalami sistem Anda sangat penting untuk menilai dampak sebenarnya dari prediksi, rekomendasi, dan keputusannya. Pastikan untuk mendapatkan masukan dari beragam pengguna di awal proses pengembangan Anda.

Apakah saya menggunakan kumpulan data perwakilan?

Apakah data Anda diambil sampelnya dengan cara yang mewakili pengguna Anda (mis. Akan digunakan untuk segala usia, tetapi Anda hanya memiliki data pelatihan dari warga senior) dan pengaturan dunia nyata (mis. Akan digunakan sepanjang tahun, tetapi Anda hanya memiliki pelatihan data dari musim panas)?

Apakah ada bias dunia nyata / manusia dalam data saya?

Bias yang mendasari data dapat berkontribusi pada putaran umpan balik kompleks yang memperkuat stereotip yang ada.

Metode apa yang harus saya gunakan untuk melatih model saya?

Gunakan metode pelatihan yang membangun keadilan, interpretabilitas, privasi, dan keamanan ke dalam model.

Bagaimana kinerja model saya?

Evaluasi pengalaman pengguna dalam skenario dunia nyata di berbagai spektrum pengguna, kasus penggunaan, dan konteks penggunaan. Uji dan ulangi dalam dogfood terlebih dahulu, diikuti dengan pengujian lanjutan setelah peluncuran.

Apakah ada putaran umpan balik yang kompleks?

Meskipun semua dalam keseluruhan desain sistem dibuat dengan hati-hati, model berbasis ML jarang beroperasi dengan kesempurnaan 100% saat diterapkan pada data langsung dan nyata. Saat masalah terjadi dalam produk langsung, pertimbangkan apakah hal itu sejalan dengan kerugian sosial yang ada, dan bagaimana hal itu akan dipengaruhi oleh solusi jangka pendek dan jangka panjang.

Alat AI yang bertanggung jawab untuk TensorFlow

Ekosistem TensorFlow memiliki serangkaian alat dan sumber daya untuk membantu menangani beberapa pertanyaan di atas.

Langkah 1

Jelaskan masalah

Gunakan sumber daya berikut untuk merancang model dengan AI yang Bertanggung Jawab.

Buku Panduan People + AI Research (PAIR)

Pelajari lebih lanjut tentang proses pengembangan AI dan pertimbangan utama.

PAIR Explorables

Jelajahi, melalui visualisasi interaktif, pertanyaan dan konsep utama dalam ranah AI yang Bertanggung Jawab.

Langkah 2

Bangun dan persiapkan data

Gunakan alat berikut untuk memeriksa data untuk potensi bias.

Validasi Data TF

Menganalisis dan mengubah data untuk mendeteksi masalah dan merekayasa rangkaian fitur yang lebih efektif.

Kartu Data

Buat laporan transparansi untuk set data Anda.

LANGKAH 3

Bangun dan latih model

Gunakan alat berikut untuk melatih model menggunakan pemeliharaan privasi, teknik yang dapat ditafsirkan, dan banyak lagi.

Privasi TF

Latih model pembelajaran mesin dengan privasi.

Federasi TF

Latih model pembelajaran mesin menggunakan teknik pembelajaran federasi.

Optimasi Terbatas TF

Mengoptimalkan masalah yang dibatasi ketidaksetaraan.

Kisi TF

Menerapkan model berbasis kisi yang fleksibel, terkontrol, dan dapat diinterpretasikan.

LANGKAH 4

Evaluasi model

Debug, evaluasi, dan visualisasikan performa model menggunakan alat berikut.

Indikator Keadilan

Evaluasi metrik keadilan yang umumnya diidentifikasi untuk pengklasifikasi biner dan kelas jamak.

Analisis Model TF

Mengevaluasi model secara terdistribusi dan menghitung berbagai bagian data.

Alat Bagaimana-Jika

Memeriksa, mengevaluasi, dan membandingkan model pembelajaran mesin.

AI yang bisa dijelaskan

Kembangkan model pembelajaran mesin yang dapat ditafsirkan dan inklusif.

Tes Privasi TF

Menilai sifat privasi model klasifikasi.

TensorBoard

Ukur dan visualisasikan alur kerja machine learning.

LANGKAH 5

Terapkan dan pantau

Gunakan alat berikut untuk melacak dan berkomunikasi tentang konteks dan detail model.

Perangkat Kartu Model

Buat kartu model dengan mudah menggunakan toolkit Model Card.

Metadata ML

Rekam dan ambil metadata yang terkait dengan alur kerja pengembang ML dan data scientist.

Model Kartu

Atur fakta penting machine learning dengan cara yang terstruktur.

Belajarlah lagi

Pelajari apa yang dilakukan komunitas dan jelajahi cara untuk terlibat.

Crowdsource oleh Google

Bantu produk Google menjadi lebih inklusif dan mewakili bahasa, wilayah, dan budaya Anda.

Tantangan AI DevPost yang Bertanggung Jawab

Gunakan TensorFlow 2.2 untuk membuat model atau aplikasi dengan Prinsip AI yang Bertanggung Jawab.

AI yang bertanggung jawab dengan TensorFlow (TF Dev Summit '20)

Memperkenalkan kerangka kerja untuk memikirkan ML, keadilan, dan privasi.

Lanjutkan