TensorFlow를 사용하여 Responsible AI 관행을 ML 워크플로에 통합하는 방법 알아보기

ML 시스템이 누구를 대상으로 하나요?

예측, 추천, 결정의 실제 효과를 평가하는 데는 실제 사용자가 시스템을 경험하는 방식이 반드시 고려되어야 합니다. 개발 프로세스 초기에 다양한 사용자 집단으로부터 의견을 수집해야 합니다.

대표 데이터 세트를 사용 중인가요?

데이터가 사용자(예: 모든 연령대에서 사용되지만 고령자의 학습 데이터만 보유) 및 실제 환경(예: 일 년 내내 사용되지만 여름의 학습 데이터만 보유)을 대표하는 방식으로 샘플링되었나요?

데이터에 현실 세계/사람의 편향이 있나요?

데이터에 근본적인 편향이 있으면 기존 고정관념을 강화하는 복잡한 피드백 루프가 나타날 수 있습니다.

어떤 방법을 사용해 모델을 학습시켜야 하나요?

모델에 공정성, 해석 가능성, 개인 정보 보호, 보안성을 갖춘 학습 방법을 사용하세요.

모델의 성능은 어떤가요?

광범위한 사용자, 사용 사례 및 사용 맥락에 대한 현실적인 사용자 경험을 평가하세요. 먼저 dogfood로 테스트 및 반복한 다음 출시 후에도 테스트를 계속하세요.

복잡한 피드백 루프가 있나요?

전체 시스템을 신중하게 설계했더라도 ML 기반 모델이 실제, 실시간 데이터에 적용되었을 때 100% 완성도로 작동하는 경우는 거의 없습니다. 서비스 중인 제품에서 문제가 발생한다면 기존의 사회적 약점이 나타나는지와 단기 및 장기적 솔루션에 의해 어떤 영향을 받게 될지 고려해 보세요.