Bantuan melindungi Great Barrier Reef dengan TensorFlow pada Kaggle Bergabung Tantangan

Privasi dalam Pembelajaran Mesin

Aspek penting dari penggunaan AI yang bertanggung jawab adalah memastikan bahwa model ML dicegah dari mengekspos informasi yang berpotensi sensitif, seperti informasi demografis atau atribut lain dalam set data pelatihan yang dapat digunakan untuk mengidentifikasi orang. Salah satu cara untuk mencapai ini adalah dengan menggunakan penurunan gradien stokastik pribadi diferensial (DP-SGD), yang merupakan modifikasi dari algoritma penurunan gradien stokastik standar (SGD) dalam pembelajaran mesin.

Model yang dilatih dengan DP-SGD memiliki peningkatan privasi diferensial (DP) terukur, yang membantu mengurangi risiko tereksposnya data pelatihan sensitif. Karena tujuan DP adalah untuk membantu mencegah titik data individual diidentifikasi, model yang dilatih dengan DP tidak boleh terpengaruh oleh satu pun contoh pelatihan dalam kumpulan data pelatihannya. Teknik DP-SGD juga dapat digunakan dalam pembelajaran gabungan untuk memberikan privasi diferensial tingkat pengguna. Anda dapat mempelajari lebih lanjut tentang pembelajaran mendalam berbeda-beda swasta di kertas asli .

import tensorflow as tf
from tensorflow_privacy.privacy.optimizers import dp_optimizer_keras

# Select your differentially private optimizer
optimizer = tensorflow_privacy.DPKerasSGDOptimizer(
    l2_norm_clip=l2_norm_clip,
    noise_multiplier=noise_multiplier,
    num_microbatches=num_microbatches,
    learning_rate=learning_rate)

# Select your loss function
loss = tf.keras.losses.CategoricalCrossentropy(
    from_logits=True, reduction=tf.losses.Reduction.NONE)

# Compile your model
model.compile(optimizer=optimizer, loss=loss, metrics=['accuracy'])

# Fit your model
model.fit(train_data, train_labels,
  epochs=epochs,
  validation_data=(test_data, test_labels),
  batch_size=batch_size)
  

Privasi TensorFlow

Tensorflow Privacy (TF Privacy) adalah library open source yang dikembangkan oleh tim di Google Research. Pustaka menyertakan implementasi Pengoptimal TensorFlow yang umum digunakan untuk melatih model ML dengan DP. Tujuannya adalah untuk memungkinkan praktisi ML menggunakan API Tensorflow standar untuk melatih model pelestarian privasi dengan hanya mengubah beberapa baris kode.

Pengoptimal pribadi yang berbeda dapat digunakan bersama dengan API tingkat tinggi yang menggunakan kelas Pengoptimal, terutama Keras. Selain itu, Anda dapat menemukan implementasi pribadi yang berbeda dari beberapa model Keras. Semua dari pengoptimalan dan model dapat ditemukan di Dokumentasi API .