회귀 학습기

회귀 학습기는 AutoGluon TabularPredictor로 연속 숫자를 예측합니다. 여러 모델을 병렬 또는 순차로 학습하고 가중 앙상블을 비교하여 후보를 고릅니다.

스태킹(Stacking)은 앞선 모델의 예측을 입력으로 다음 모델 계층을 학습하는 방식이며 여러 번 반복할 수 있습니다. 배깅(Bagging)은 같은 구조를 여러 무작위 표본으로 학습한 뒤 결과를 결합합니다. Training preset이 두 방식을 제어하며 실험 Plots에서 앙상블 구조를 볼 수 있습니다.

후보 모델

GBM은 LightGBM, CAT은 CatBoost, XGB는 XGBoost, RF는 Random Forest, XT는 Extra Trees, KNN은 최근접 이웃, LR은 선형 계열입니다. NN_TORCH와 FASTAI는 각각 PyTorch와 fast.ai의 표 데이터 회귀 모델입니다. 구성에 따라 스태킹에서 분류 계열 모델을 함께 사용할 수도 있습니다. 모델 제외나 하이퍼파라미터로 후보를 제한합니다.

평가와 프리셋

MAE, MSE와 RMSE 같은 오차 지표는 낮을수록 좋고 R²와 Pearson 상관은 높을수록 좋습니다. 데이터와 평가 목적에 맞는 Evaluation metric을 선택합니다.

Training time limit은 선택적 학습 상한입니다. 스태킹 및 배깅 프리셋에서는 최선 노력 기준으로 적용될 수 있으며 검증과 게시 시간은 학습 종료 뒤에도 필요합니다. Inference time limit을 초과하는 후보 모델은 건너뜁니다. 엄격한 추론 시간 요구가 없다면 이 제한은 설정하지 않는 것이 권장됩니다.

Excluded model types는 제외 후보를, Prediction column name은 예측 열 이름을 정합니다. 기본은 목표 열 이름이므로 별도 평가에 실제값을 유지해야 하면 다른 이름을 사용합니다.

스태킹 세부 설정

Fit weighted ensemble은 각 계층에 WeightedEnsemble을 만들며 권장 설정입니다. Fit last ensemble with all models는 마지막 계층이 모든 이전 계층을 기반 모델로 사용하게 하며 이 역시 권장됩니다. 스태킹이 없는 프리셋에서는 두 번째 설정의 효과가 없습니다.

Fit full weighted ensemble은 all models로 만든 가중 앙상블 위에 추가 WeightedEnsemble을 만듭니다. Fit last ensemble with all models가 꺼져 있거나 스태킹이 없으면 효과가 없습니다.

하이퍼파라미터와 출력

모델별 설정을 하나 이상 입력하면 나열하지 않은 모델은 학습하지 않으며 AutoGluon 기본 매개변수를 덮어씁니다. 아래는 extra_trees=true인 GBM, 기본 GBM과 기본 PyTorch 모델만 학습하는 예시입니다. 그 뒤에 앙상블이나 스태킹을 적용할 수 있습니다.

{
    "GBM": [
        {"extra_trees": true}, {}
    ],
    "NN_TORCH": {}
}

출력 Foundry 모델에는 검증으로 선택한 후보가 담깁니다. 연결된 실험에서 설정, 지표와 그래프를 조사합니다.