Thẻ mẫu cho Bộ phân loại thu nhập điều tra dân số

Chi tiết mô hình

Tổng quat

Phiên bản

Những chủ sở hữu

• Nhóm mô hình thẻ, model-cards@google.com

Người giới thiệu

• tương tác-2021-02-05T22_01_17.129037

Cân nhắc

Trường hợp sử dụng

• Tập dữ liệu mà mô hình này được đào tạo ban đầu được tạo ra để hỗ trợ cộng đồng học máy trong việc tiến hành phân tích thực nghiệm các thuật toán ML. Tập dữ liệu người lớn có thể được sử dụng trong các nghiên cứu liên quan đến công bằng, so sánh sự bất bình đẳng giữa giới tính và chủng tộc, dựa trên thu nhập hàng năm của mọi người.

Hạn chế

• Đây là một tập dữ liệu không cân bằng về lớp trên nhiều lớp nhạy cảm. Tỷ lệ giữa các ví dụ nam và nữ là khoảng 2: 1 và có nhiều ví dụ có thuộc tính "da trắng" hơn tất cả các chủng tộc khác cộng lại. Hơn nữa, tỷ lệ giữa người có thu nhập từ 50.000 USD trở xuống so với người có thu nhập từ 50.000 USD trở lên chỉ là hơn 3: 1. Do sự mất cân bằng giữa các mức thu nhập, chúng ta có thể thấy rằng tỷ lệ âm thực sự của chúng tôi có vẻ khá cao, trong khi tỷ lệ dương thực sự của chúng tôi có vẻ khá thấp. Điều này càng đúng ở một mức độ lớn hơn khi chúng ta chỉ xem xét nhóm phụ "nữ", bởi vì có ít ví dụ nữ hơn trong nhóm có thu nhập từ 50.000 đô la trở lên, khiến mô hình của chúng tôi quá phù hợp với những ví dụ này. Để tránh điều này, chúng tôi có thể thử các chiến lược khắc phục khác nhau trong các lần lặp lại trong tương lai (ví dụ: lấy mẫu dưới, điều chỉnh siêu thông số, v.v.), nhưng chúng tôi có thể không khắc phục được tất cả các vấn đề về tính công bằng.

Cân nhắc về đạo đức

• Rủi ro: Chúng tôi mạo hiểm bày tỏ quan điểm rằng các thuộc tính trong tập dữ liệu này là những thuộc tính duy nhất mang tính dự đoán về thu nhập của một người nào đó, mặc dù chúng tôi biết đây không phải là trường hợp.
  Chiến lược Giảm thiểu: Như đã đề cập, một số biện pháp can thiệp có thể cần được thực hiện để giải quyết sự mất cân bằng của lớp trong tập dữ liệu.

Bộ xe lửa

Đánh giá bộ

Phân tích định lượng