Google is committed to advancing racial equity for Black communities. See how.

TensorFlow를 사용하여 Responsible AI 관행을 ML 워크플로에 통합하는 방법 알아보기

TensorFlow는 리소스 및 도구를 ML 커뮤니티와 공유하며 Responsible AI 개발이 이루어지도록 하기 위해 노력하고 있습니다.

Responsible AI란 무엇인가요?

AI 개발은 현실 세계의 곤란한 문제들을 해결하기 위한 새로운 기회를 만드는 일입니다. 또한 모두에게 도움이 되는 AI 시스템을 만드는 최선의 방법은 무엇인지에 관한 새로운 질문을 제기하는 일이기도 합니다.

AI 추천 권장사항

AI 시스템을 설계할 때는 소프트웨어 개발 권장사항을 따르는 동시에 ML에 대한 인간 중심의 접근 방식을
취해야 합니다.

공정성

다양한 분야와 사회에서 AI의 영향력이 증가함에 따라 모두에게 공정하며 포용성을 갖춘 시스템을 완성하는 것이 중요합니다.

해석 가능성

AI 시스템이 의도한 대로 작동하도록 하려면 AI 시스템을 이해하고 신뢰하는 것이 중요합니다.

개인정보 보호

민감한 데이터로 모델을 학습시키는 경우 개인정보 보호 조치가 필요합니다.

보안

잠재적 위협을 식별하여 AI 시스템을 안전하게 유지하세요.

ML 워크플로의 Responsible AI

Responsible AI 관행은 ML 워크플로의 모든 단계에 통합할 수 있습니다. 다음은 각 단계에서 생각해 볼 만한 주요 질문입니다.

ML 시스템이 누구를 대상으로 하나요?

예측, 추천, 결정의 실제 효과를 평가하는 데는 실제 사용자가 시스템을 경험하는 방식이 반드시 고려되어야 합니다. 개발 프로세스 초기에 다양한 사용자 집단으로부터 의견을 수집해야 합니다.

대표 데이터 세트를 사용 중인가요?

데이터가 사용자(예: 모든 연령대에서 사용되지만 고령자의 학습 데이터만 보유) 및 실제 환경(예: 일 년 내내 사용되지만 여름의 학습 데이터만 보유)을 대표하는 방식으로 샘플링되었나요?

데이터에 현실 세계/사람의 편향이 있나요?

데이터에 근본적인 편향이 있으면 기존 고정관념을 강화하는 복잡한 피드백 루프가 나타날 수 있습니다.

어떤 방법을 사용해 모델을 학습시켜야 하나요?

모델에 공정성, 해석 가능성, 개인정보 보호, 보안성을 갖춘 학습 방법을 사용하세요.

모델의 성능은 어떤가요?

광범위한 사용자, 사용 사례 및 사용 맥락에 대한 현실적인 사용자 경험을 평가하세요. 먼저 dogfood로 테스트 및 반복한 다음 출시 후에도 테스트를 계속하세요.

복잡한 피드백 루프가 있나요?

전체 시스템을 신중하게 설계했더라도 ML 기반 모델이 실제, 실시간 데이터에 적용되었을 때 100% 완성도로 작동하는 경우는 거의 없습니다. 서비스 중인 제품에서 문제가 발생한다면 기존의 사회적 약점이 나타나는지와 단기 및 장기적 솔루션에 의해 어떤 영향을 받게 될지 고려해 보세요.

TensorFlow용 Responsible AI 도구

TensorFlow 생태계에는 위의 질문을 해결하는 데 도움이 되는 도구와 리소스가 준비되어 있습니다.

1단계

문제 정의

다음 리소스를 사용하여 Responsible AI 모델을 제작해 보세요.

PAIR(People + AI Research) 가이드북

AI 개발 프로세스와 주요 고려사항을 자세히 알아보세요.

PAIR Explorables

양방향 시각화 자료를 참고하여 Responsible AI에 관한 주요 질문과 개념을 살펴보세요.

2단계

데이터 구성 및 준비

다음 도구를 사용하여 데이터의 잠재적 편향을 검사하세요.

TF Data Validation

데이터를 분석 및 변환하여 문제를 발견하고 더 효과적인 특성 세트를 제작하세요.

데이터 카드

데이터 세트의 투명성 보고서를 작성하세요.

3단계

모델 빌드 및 학습

다음 도구를 사용하여 개인정보 보호, 해석 가능한 기술 등을 사용하는 모델을 학습시키세요.

TF Privacy

개인정보 보호를 준수하면서 머신러닝 모델을 학습시키세요.

TF Federated

제휴 학습 기술을 사용하여 머신러닝 모델을 학습시키세요.

TF Constrained Optimization

부등식 제약조건 문제를 최적화하세요.

TF Lattice

유연하고 제어 가능하며 해석 가능한 격자 기반 모델을 구현하세요.

4단계

모델 평가

다음 도구를 사용하여 모델 성능을 디버그, 평가 및 시각화하세요.

공정성 지표

바이너리 및 멀티클래스 분류 기준에 대한 일반적인 공정성 측정항목을 평가합니다.

TF Model Analysis

분산 방식으로 모델을 평가하고 다양한 데이터 슬라이스를 대상으로 계산합니다.

What-If 도구

머신러닝 모델을 검사, 평가, 비교합니다.

Explainable AI

해석 가능하고 포용적인 머신러닝 모델을 개발하세요.

TF Privacy Tests

분류 모델의 개인정보 보호 속성을 평가하세요.

텐서보드

머신러닝 워크플로를 측정하고 시각화하세요.

5단계

배포 및 모니터링

다음 도구를 사용하여 모델 컨텍스트 및 세부정보를 추적하고 전달하세요.

Model Card 도구함

Model Card 도구함을 사용하여 간편하게 모델 카드를 만드세요.

ML 메타데이터

ML 개발자 및 데이터 과학자 워크플로와 관련된 메타데이터를 기록하고 검색하세요.

Model Card

머신러닝의 근본적 사실을 구조화된 방식으로 정리하세요.

자세히 알아보기

커뮤니티에서 하는 일을 알아보고 참여할 수 있는 방법을 살펴보세요.

Google 크라우드소싱

Google 제품이 더 다양한 언어, 지역, 문화를 포괄하고 대표할 수 있도록 도와주세요.

책임감 있는 AI DevPost 챌린지

TensorFlow 2.2를 사용하여 Responsible AI 원칙을 바탕으로 모델 또는 애플리케이션을 빌드해 보세요.

Responsible AI와 TensorFlow(TF Dev Summit '20)

ML, 공정성, 개인정보 보호에 대해 생각해 볼 수 있는 개념적 토대를 소개합니다.

Continue