Khi biến mục tiêu mất cân bằng, có thể áp dụng các kỹ thuật sau để cải thiện hiệu suất của mô hình.
Tuy nhiên, những kỹ thuật này không phải lúc nào cũng mang lại hiệu suất tốt hơn, do đó, điều quan trọng là phải so sánh hiệu suất trước và sau khi áp dụng chúng.
Ở đây, "mất cân bằng" ám chỉ tình huống sau:
Trong phân loại nhị phân, khi một lớp có số lượng ít hơn đáng kể, chẳng hạn như tỷ lệ 0:1 là 90:10.
Trong phân loại đa lớp, khi tỷ lệ A, B và C thấp đáng kể, chẳng hạn như 45:45:10,
1. Phân chia dữ liệu bằng tùy chọn stratify
đào tạo dữ liệu với train_test_split
Khi chia, bạn có thể tách dữ liệu trong khi vẫn duy trì tỷ lệ lớp bằng cách sử dụng tùy chọn stratify=target .
Nó hữu ích trong việc ngăn chặn dữ liệu mất cân bằng, có thể khiến việc học trở nên khó khăn do có quá ít mẫu của một lớp cụ thể.
target = train.pop('타겟 컬럼') train_test_split(train,target, test_size=0.2, random_state=0, stratify=target)2. Rừng ngẫu nhiên sử dụng tùy chọn class_weight='balanced'
Khi đào tạo mô hình rừng ngẫu nhiên, nếu bạn đặt class_weight='balanced' , trọng số sẽ được điều chỉnh theo số lượng mẫu cho mỗi lớp.
Trọng lượng có thể được tự động điều chỉnh để giảm thiểu vấn đề mất cân bằng.
RandomForestClassifier(random_state=0, class_weight='balanced')3. LightGBM sử dụng tùy chọn _unb alance=True
Trong LightGBM, nếu bạn đặt is_unbalance=True , quá trình học sẽ tiến hành bằng cách xem xét nội bộ sự phân bổ của các lớp.
Nghĩa là, bằng cách đưa trọng số cao hơn vào các lớp có ít mẫu hơn, mô hình không bỏ qua các lớp đó.
Hãy làm đi.
lgb.LGBMClassifier(random_state=0,verbose=-1,is_unbalance=True) Trong thực tế, chúng ta thường xử lý dữ liệu mất cân bằng ở mức độ nghiêm trọng hơn nhiều so với tình trạng này.
Ví dụ, các giao dịch gian lận thường có tỷ lệ rất nhỏ của một loại, chẳng hạn như tỷ lệ 99:1.
Nếu bạn sử dụng dữ liệu không cân bằng như thế này để đào tạo, mô hình có thể không đưa ra được dự đoán đúng về các lớp thiểu số, điều này có thể làm giảm đáng kể hiệu suất chung. Có nhiều phương pháp khác nhau, nhưng đây là phương pháp dễ nhất.
Chiến đấu 💕
(Nội dung trên không phải là nội dung thiết yếu nhưng rất sâu sắc.)