분류 학습기
분류 학습기는 AutoGluon TabularPredictor로 미리 정의한 범주를 예측합니다. 여러 후보를 병렬 또는 순차로 학습하고 가중 앙상블을 비교합니다. 스태킹은 모델 예측에서 다음 계층을 학습하고, 배깅은 무작위 표본별 같은 구조의 학습 결과를 결합합니다. 앙상블 구조는 출력 모델 실험의 Plots에서 확인합니다.
후보와 프리셋
| 이름 | 모델 |
|---|---|
| GBM | LightGBM 그래디언트 부스팅 모델 |
| CAT | CatBoost |
| XGB | XGBoost |
| RF | Random Forest |
| XT | Extra Trees |
| KNN | k-최근접 이웃 |
| LR | 선형 모델 |
| NN_TORCH | PyTorch 기반 표 데이터 분류 모델 |
| FASTAI | fast.ai 기반 표 데이터 분류 모델 |
Training preset은 스태킹과 배깅을 함께 구성하고 품질, 학습 시간과 추론 시간 사이의 선택을 제공합니다.
| Training preset | 스태킹과 배깅 | 품질과 속도 |
|---|---|---|
| best_quality | 사용 | 학습과 추론 시간이 늘어나더라도 모델 품질을 최우선으로 합니다. |
| high_quality | 사용 | best_quality보다 학습과 추론이 빠르지만 정확도가 조금 낮을 수 있습니다. |
| good_quality | 사용 | 앞선 두 프리셋보다 학습과 추론이 빠르며 적절한 예측 정확도를 목표로 합니다. |
| medium_quality | 사용하지 않음 | 가장 빠른 학습과 중간 수준의 예측 정확도를 목표로 하며 프로토타입 제작에 사용합니다. |
매개변수
Evaluation metric은 후보를 선택하는 점수이며 이 학습기의 분류 점수는 높을수록 좋은 방향입니다. Training time limit은 학습 시간만 제한하고 검증 및 게시가 끝나야 전체 작업이 종료됩니다. 스태킹 및 배깅에서는 최선 노력 기준으로 지킬 수 있습니다. 선택적 Inference time limit을 넘는 후보는 제외하므로 엄격한 시간 요구가 있을 때 사용합니다.
Excluded model types로 후보를 제외합니다. Prediction column name의 기본값은 목표 열 이름입니다. 실제 목표를 덮어쓰지 않고 평가하려면 다른 이름으로 지정합니다.
Predict probabilities가 true이면 한 범주 예측 대신 범주별 확률을 반환합니다. 추가 열의 이름은 {prediction_column_name}_proba_{class_label}입니다. prediction_column_name을 지정하지 않으면 목표 열 이름을 쓰고 class_label에는 해당 범주가 들어갑니다.
스태킹 설정
Fit weighted ensemble은 각 계층의 WeightedEnsemble을 만들고 Fit last ensemble with all models는 마지막 계층에서 모든 이전 모델을 기반으로 사용합니다. 두 설정은 품질 개선을 위해 권장됩니다. 스태킹을 끈 프리셋에서는 all models 설정에 효과가 없습니다.
Fit full weighted ensemble은 마지막 all models 가중 앙상블들 위에 추가 가중 앙상블을 만듭니다. all models가 꺼져 있거나 스태킹이 없으면 효과가 없습니다.
하이퍼파라미터와 결과
고급 필드에 모델별 설정을 하나 이상 입력하면 명시하지 않은 모델은 제외되고 기본 AutoGluon 설정을 덮어씁니다. 값을 이해한 뒤 조정해야 하며 일반적으로 기본값부터 시작할 수 있습니다.
{
"GBM": [
{"extra_trees": true}, {}
],
"NN_TORCH": {}
}
예시는 extra_trees=true인 GBM, 기본 GBM과 기본 PyTorch만 학습한 뒤 앙상블 및 스태킹을 적용합니다. 검증에서 선택한 모델이 출력되며 실험에 매개변수, 지표와 그래프가 남습니다.