Google I/O הוא עטיפה! התעדכן בהפעלות של TensorFlow. צפה בהפעלות

פרטיות בלמידה חישובית

היבט חשוב של שימוש אחראי ב-AI הוא להבטיח שמודלים של ML ימנעו חשיפת מידע שעלול להיות רגיש, כגון מידע דמוגרפי או מאפיינים אחרים במערך ההדרכה שיכולים לשמש לזיהוי אנשים. אחת הדרכים להשיג זאת היא באמצעות שימוש בירידה סטוכסטית סטוכסטית דיפרנציאלית פרטית (DP-SGD), שהיא שינוי לאלגוריתם הסטוקסטי הסטנדרטי (SGD) בלמידת מכונה.

למודלים שהוכשרו עם DP-SGD יש שיפורים ניתנים למדידה של פרטיות דיפרנציאלית (DP), המסייעים להפחית את הסיכון של חשיפת נתוני אימון רגישים. מכיוון שמטרת DP היא לסייע במניעת זיהוי של נקודות נתונים בודדות, מודל שאומן עם DP לא אמור להיות מושפע מאף דוגמה אחת לאימון במערך נתוני האימון שלו. ניתן להשתמש בטכניקות DP-SGD גם בלמידה מאוחדת כדי לספק פרטיות דיפרנציאלית ברמת המשתמש. אתה יכול ללמוד עוד על למידה עמוקה פרטית באופן דיפרנציאלי במאמר המקורי .

import tensorflow as tf
from tensorflow_privacy.privacy.optimizers import dp_optimizer_keras

# Select your differentially private optimizer
optimizer = tensorflow_privacy.DPKerasSGDOptimizer(
    l2_norm_clip=l2_norm_clip,
    noise_multiplier=noise_multiplier,
    num_microbatches=num_microbatches,
    learning_rate=learning_rate)

# Select your loss function
loss = tf.keras.losses.CategoricalCrossentropy(
    from_logits=True, reduction=tf.losses.Reduction.NONE)

# Compile your model
model.compile(optimizer=optimizer, loss=loss, metrics=['accuracy'])

# Fit your model
model.fit(train_data, train_labels,
  epochs=epochs,
  validation_data=(test_data, test_labels),
  batch_size=batch_size)
  

פרטיות TensorFlow

Tensorflow Privacy (TF Privacy) היא ספריית קוד פתוח שפותחה על ידי צוותים ב-Google Research. הספרייה כוללת יישומים של TensorFlow Optimizers הנפוצים לאימון מודלים של ML עם DP. המטרה היא לאפשר למתרגלי ML המשתמשים בממשקי API סטנדרטיים של Tensorflow לאמן מודלים לשמירה על הפרטיות על ידי שינוי רק כמה שורות קוד.

ניתן להשתמש בכלי האופטימיזציה הפרטיים באופן דיפרנציאלי בשילוב עם ממשקי API ברמה גבוהה המשתמשים במחלקת האופטימיזציה, במיוחד Keras. בנוסף, אתה יכול למצוא יישומים פרטיים באופן דיפרנציאלי של כמה מדגמי Keras. ניתן למצוא את כל כלי האופטימיזציה והדגמים בתיעוד ה-API .