با مجموعه‌ها، منظم بمانید ذخیره و دسته‌بندی محتوا براساس اولویت‌های شما.

بیاموزید که چگونه با استفاده از TensorFlow تمرین‌های هوش مصنوعی مسئولیت‌پذیر را در جریان کاری ML خود ادغام کنید

TensorFlow متعهد است با به اشتراک گذاشتن مجموعه ای از منابع و ابزارها با جامعه ML به پیشرفت در توسعه مسئولانه هوش مصنوعی کمک کند.

هوش مصنوعی مسئولیت پذیر چیست؟

توسعه هوش مصنوعی فرصت های جدیدی برای حل مشکلات چالش برانگیز و دنیای واقعی ایجاد می کند. همچنین سؤالات جدیدی در مورد بهترین راه برای ساختن سیستم‌های هوش مصنوعی که برای همه مفید است مطرح می‌کند.

طراحی سیستم‌های هوش مصنوعی باید از بهترین شیوه‌های توسعه نرم‌افزار پیروی کند و در عین حال انسان محوری داشته باشد
رویکرد به ML

انصاف

از آنجایی که تأثیر هوش مصنوعی در بخش ها و جوامع افزایش می یابد، بسیار مهم است که به سمت سیستم هایی کار کنیم که برای همه منصفانه و فراگیر باشند.

تفسیر پذیری

درک و اعتماد به سیستم‌های هوش مصنوعی برای اطمینان از اینکه آن‌ها طبق برنامه کار می‌کنند مهم است

حریم خصوصی

مدل‌های آموزشی از داده‌های حساس نیاز به حفاظت از حریم خصوصی دارند

امنیت

شناسایی تهدیدات بالقوه می‌تواند به حفظ امنیت سیستم‌های هوش مصنوعی کمک کند

هوش مصنوعی مسئول در گردش کار ML شما

شیوه‌های هوش مصنوعی مسئول را می‌توان در هر مرحله از گردش کار ML گنجاند. در اینجا چند سوال کلیدی وجود دارد که در هر مرحله باید در نظر گرفته شود.

سیستم ML من برای چه کسی است؟

روشی که کاربران واقعی سیستم شما را تجربه می کنند برای ارزیابی تأثیر واقعی پیش بینی ها، توصیه ها و تصمیمات آن ضروری است. اطمینان حاصل کنید که در مراحل اولیه توسعه خود از مجموعه متنوعی از کاربران ورودی دریافت می کنید.

آیا از یک مجموعه داده نماینده استفاده می کنم؟

آیا داده های شما به گونه ای نمونه برداری شده است که نشان دهنده کاربران شما باشد (مثلاً برای همه سنین استفاده می شود، اما شما فقط داده های آموزشی از شهروندان سالخورده دارید) و تنظیمات دنیای واقعی (مثلاً در تمام طول سال استفاده می شود، اما شما فقط آموزش دارید. داده های تابستان)؟

آیا سوگیری دنیای واقعی/انسان در داده های من وجود دارد؟

سوگیری های اساسی در داده ها می تواند به حلقه های بازخورد پیچیده کمک کند که کلیشه های موجود را تقویت می کند.

برای آموزش مدل خود از چه روش هایی استفاده کنم؟

از روش های آموزشی استفاده کنید که انصاف، تفسیرپذیری، حریم خصوصی و امنیت را در مدل ایجاد می کند.

عملکرد مدل من چگونه است؟

تجربه کاربر را در سناریوهای دنیای واقعی در طیف وسیعی از کاربران، موارد استفاده و زمینه‌های استفاده ارزیابی کنید. ابتدا در آزمایش آزمایشی آزمایش و تکرار کنید، سپس پس از راه‌اندازی، آزمایش را ادامه دهید.

آیا حلقه های بازخورد پیچیده ای وجود دارد؟

حتی اگر همه چیز در طراحی کلی سیستم به دقت ساخته شده باشد، مدل‌های مبتنی بر ML به ندرت وقتی روی داده‌های واقعی و زنده اعمال می‌شوند، با 100% کامل عمل می‌کنند. هنگامی که مشکلی در یک محصول زنده رخ می دهد، در نظر بگیرید که آیا با معایب اجتماعی موجود مطابقت دارد یا خیر، و چگونه توسط راه حل های کوتاه مدت و بلندمدت تأثیر می گذارد.

ابزارهای هوش مصنوعی مسئول برای TensorFlow

اکوسیستم TensorFlow مجموعه ای از ابزارها و منابع برای کمک به رفع برخی از سوالات بالا دارد.

مرحله 1

مشکل را تعریف کنید

از منابع زیر برای طراحی مدل هایی با هوش مصنوعی مسئول استفاده کنید.

کتاب راهنمای افراد + AI Research (PAIR).

درباره فرآیند توسعه هوش مصنوعی و ملاحظات کلیدی بیشتر بدانید.

جفت موارد کاوش

از طریق تجسم‌های تعاملی، سؤالات و مفاهیم کلیدی را در حوزه هوش مصنوعی مسئول کاوش کنید.

گام 2

داده ها را بسازید و آماده کنید

از ابزارهای زیر برای بررسی داده ها از نظر سوگیری های احتمالی استفاده کنید.

اطلاعات خود را بشناسید (بتا)

به طور تعاملی مجموعه داده خود را بررسی کنید تا کیفیت داده ها را بهبود بخشد و مسائل مربوط به انصاف و تعصب را کاهش دهید.

اعتبارسنجی داده های TF

تجزیه و تحلیل و تبدیل داده ها برای شناسایی مشکلات و مهندسی مجموعه ویژگی های موثرتر.

کارت های داده

یک گزارش شفافیت برای مجموعه داده خود ایجاد کنید.

مقیاس رنگ پوست راهب (MST)

مقیاس رنگ پوست فراگیرتر، با مجوز باز، برای ایجاد مجموعه داده ها و ساخت مدل شما نیاز به قوی تر و فراگیرتر دارد.

مرحله 3

ساخت و مدل قطار

از ابزارهای زیر برای آموزش مدل ها با استفاده از تکنیک های حفظ حریم خصوصی، قابل تفسیر و موارد دیگر استفاده کنید.

اصلاح مدل TF

آموزش مدل های یادگیری ماشینی برای ارتقای نتایج عادلانه تر.

حریم خصوصی TF

آموزش مدل های یادگیری ماشینی با حفظ حریم خصوصی.

TF فدراسیون

آموزش مدل های یادگیری ماشینی با استفاده از تکنیک های یادگیری فدرال.

بهینه سازی محدود TF

مشکلات محدود به نابرابری را بهینه کنید.

شبکه TF

پیاده سازی مدل های مبتنی بر شبکه انعطاف پذیر، کنترل شده و قابل تفسیر.

مرحله 4

مدل را ارزیابی کنید

با استفاده از ابزارهای زیر عملکرد مدل را اشکال زدایی، ارزیابی و تجسم کنید.

شاخص های انصاف

معیارهای انصاف را که معمولاً شناسایی می‌شوند برای طبقه‌بندی‌کننده‌های باینری و چند کلاسه ارزیابی کنید.

تحلیل مدل TF

مدل ها را به صورت توزیع شده ارزیابی کنید و بر روی برش های مختلف داده محاسبه کنید.

ابزار What-If

مدل های یادگیری ماشین را بررسی، ارزیابی و مقایسه کنید.

ابزار تفسیر زبان

تجسم و درک مدل های NLP.

هوش مصنوعی قابل توضیح

مدل‌های یادگیری ماشینی قابل تفسیر و فراگیر را توسعه دهید.

تست های حریم خصوصی TF

ویژگی های حریم خصوصی مدل های طبقه بندی را ارزیابی کنید.

TensorBoard

گردش کار یادگیری ماشین را اندازه گیری و تجسم کنید.

مرحله 5

مستقر و نظارت کنید

از ابزارهای زیر برای ردیابی و برقراری ارتباط در مورد زمینه و جزئیات مدل استفاده کنید.

جعبه ابزار کارت مدل

با استفاده از جعبه ابزار Model Card به راحتی کارت های مدل تولید کنید.

فراداده ML

فراداده‌های مرتبط با جریان‌های کاری توسعه‌دهنده و دانشمند داده را ضبط و بازیابی کنید.

کارت های مدل

حقایق اساسی یادگیری ماشین را به روشی ساختاریافته سازماندهی کنید.

منابع جامعه

بیاموزید که جامعه در حال انجام چه کاری است و راه های مشارکت را بررسی کنید.

Crowdsource توسط Google

به محصولات Google کمک کنید تا فراگیرتر و نماینده زبان، منطقه و فرهنگ شما شوند.

چالش مسئول هوش مصنوعی DevPost

ما از شرکت کنندگان خواستیم که از TensorFlow 2.2 برای ساخت یک مدل یا برنامه با اصول هوش مصنوعی پاسخگو استفاده کنند. برای مشاهده برندگان و سایر پروژه های شگفت انگیز، گالری را بررسی کنید.

هوش مصنوعی مسئول با TensorFlow (TF Dev Summit '20)

معرفی چارچوبی برای تفکر در مورد ML، عدالت و حریم خصوصی.