up

Author: liganega

end2end_ml_project.ipynb

@@ -2753,23 +2753,19 @@
   },
   {
    "cell_type": "markdown",
-   "id": "41d39ca3-31c0-41dd-a19c-da009338005f",
    "metadata": {},
    "source": [
-    ":::{warning}\n",
-    "\n",
-    "여기서 사용하는 모델이 전처리와 함게 하나의 파이프라인으로 묶여 있음에 주의한다.\n",
+    "특성 중요도는 전처리 변환기와 아무 상관이 없으며, 랜덤 포레스트 모델 등 일부 모델에서만 훈련중에 함께 저장된다.\n",
     "\n",
+    "아래 코드는 `final_model`에서 랜덤 포레스트 모델의 이름이 `\"random_forest\"`로 지정되었기에 해당 이름을 이용하여 인덱싱 한 다음에 특성 중요도를 확인한다."
+   ]
+  },
+  {
+   "cell_type": "markdown",
+   "metadata": {},
+   "source": [
     "```python\n",
-    "full_pipeline = Pipeline([\n",
-    "    (\"preprocessing\", preprocessing),\n",
-    "    (\"random_forest\", RandomForestRegressor(random_state=42)),\n",
-    "])\n",
-    "\n",
-    "특성 중요도와 같이 모델이 예측 훈련을 하는 동안 학습한 데이터는\n",
-    "변환기가 아닌 예측기에 저장된다.\n",
-    "즉, 위 파이프라인에서 `\"random_forest\"` 이름이 가리키는 `RandomForestRegressor`\n",
-    "예측기에 저장된다.\n",
+    "final_model[\"random_forest\"].feature_importances_\n",
     "```"
    ]
   },
@@ -2850,31 +2846,30 @@
    "id": "80202587-a23e-4690-9f5a-a298c72e5f19",
    "metadata": {},
    "source": [
-    "(2) 결측치 처리\n",
+    "(2) `total_bedrooms`에 포함된 결측치를 다르게 처리할 경우 모델의 성능에 차이가 발생하는지 여부룰 확인하라. \n",
     "\n",
-    "- 옵션 1: 결측치를 포함하는 구역 샘플 삭제\n",
+    "가. 결측치를 포함하는 구역 샘플 삭제\n",
     "\n",
-    "  ```python\n",
-    "  housing_option1 = housing.copy()\n",
-    "  housing_option1.dropna(subset=[\"total_bedrooms\"], inplace=True)\n",
-    "  ```\n",
+    "```python\n",
+    "housing.dropna(subset=[\"total_bedrooms\"], inplace=True)\n",
+    "```\n",
     "\n",
-    "- 옵션 2: 결측치가 포함된 특성 삭제\n",
+    "나. 결측치가 포함된 특성 자체 제거\n",
     "\n",
-    "  ```python\n",
-    "  housing_option2 = housing.copy()\n",
-    "  housing_option2.drop(\"total_bedrooms\", axis=1, inplace=True)\n",
-    "  ```"
+    "```python\n",
+    "housing.drop(\"total_bedrooms\", axis=1, inplace=True)\n",
+    "```"
    ]
   },
   {
    "cell_type": "markdown",
    "metadata": {},
    "source": [
-    "(3) OrdinalEncoder 활용\n",
+    "(3) 해안 근접도 특성에 대해 원-핫 인코딩 대신 `OrdinalEncoder` 변환기 객체를 적용할 경우 훈련된 모델의 성능이 어떻게 달라지며, 성능의 차이에 대한 근거를 추정하라.\n",
     "\n",
     "```python\n",
     "housing_cat = housing[[\"ocean_proximity\"]]\n",
+    "\n",
     "from sklearn.preprocessing import OrdinalEncoder\n",
     "ordinal_encoder = OrdinalEncoder()\n",
     "housing_cat_encoded = ordinal_encoder.fit_transform(housing_cat)\n",
@@ -2885,26 +2880,47 @@
    "cell_type": "markdown",
    "metadata": {},
    "source": [
-    "(4) `preprocessing`과 예측기 분리.\n",
+    "(4) 아래 코드는 `preprocessing` 변환기 파이프라인과 랜덤 포레스트 회귀 모델을 하나로 묶은 모델을 지정한다.\n",
     "\n",
-    "- `preprocessing`을 이용하여 먼저 데이터셋 변환\n",
-    "- 변환된 데이터셋을 이용하여 모델 훈련"
-   ]
-  },
-  {
-   "cell_type": "markdown",
-   "metadata": {},
-   "source": [
-    ":::{note} 변환기 포함 파이프라인 모델의 장단점\n",
+    "```python\n",
+    "full_pipeline = Pipeline([\n",
+    "    (\"preprocessing\", preprocessing),\n",
+    "    (\"random_forest\", RandomForestRegressor(random_state=42)),\n",
+    "])\n",
+    "```\n",
     "\n",
     "전처리 변환기와 예측기 모델을 하나로 묶은 파이프라인 머신러닝 모델의 장점은 다음과 같다.\n",
     "\n",
     "- 코드 간소화: 전처리와 훈련 과정을 하나의 객체로 묶어 코드가 깔끔해지고 관리가 쉬워짐.\n",
     "- 데이터 누설 방지: 교차 검증 시 각 폴드에 맞게 전처리가 독립적으로 수행되어 검증 데이터가 훈련에 반영되는 것을 막음\n",
     "- 모델 미세 조정 용이: 예측기뿐만 아니라 변환기의 특성까지 한 번에 고려하며 교차 검증 진행 가능 가능\n",
     "\n",
-    "반면에 단점으로 중간 단계의 변환 결과를 즉각적으로 확인하기 어려워 디버깅이 까다롭다는 점과, 그리드 탐색 시 전처리 과정이 매번 중복 수행되어 연산 시간(비용)이 다소 증가할 수 있다는 점을 고려해야 한다.\n",
-    ":::"
+    "반면에 몇 가지 단점을 갖는다.\n",
+    "\n",
+    "1. 중간 전처리 결과(데이터)를 직접 눈으로 확인하기 어려움\n",
+    "\n",
+    "    - 가장 큰 단점임.\n",
+    "    - 원본 데이터가 파이프라인의 `fit_predict`를 통과하면 바로 최종 예측값이 나와버리기 때문에, 중간에 원-핫 인코딩이 잘 되었는지, 스케일링은 정상적으로 되었는지 중간 데이터프레임 형태를 디버깅하거나 시각화하기가 까다로움\n",
+    "    - 이를 보려면 결국 파이프라인을 쪼개서 `transform`만 따로 실행해봐야 함.\n",
+    "\n",
+    "2. 하이퍼파라미터 튜닝 시 이름이 길고 복잡해짐\n",
+    "\n",
+    "    - `GridSearchCV` 등에서 모델 미세 조정할 때, 파라미터 이름을 지정하는 방식이 매우 길어짐.\n",
+    "    - (예: 모델만 있을 때) `max_features`\n",
+    "    - (파이프라인 결합 시) `random_forest__max_features`, `preprocessing__geo__n_clusters` 같이 `단계이름__파라미터이름` 형태의 이중 밑줄(`__`) 문법을 사용해야 해서 코드가 길어지고 오타가 나기 쉬움.\n",
+    "\n",
+    "3. 매우 큰 데이터셋에서 튜닝 시 반복 연산(시간 효율성 저하)\n",
+    "\n",
+    "    - 교차 검증이나 그리드 서치를 돌릴 때, 파이프라인 전체를 통째로 넣으면 모델의 파라미터만 바꾸면서 실험할 때도 무거운 앞단 전처리(예: KMeans 클러스터링, 특성 추가 등)를 반복해서 매번 다시 계산하게 될 수 있음.\n",
+    "    - 단, 사이킷런 파이프라인의 `memory` 인자를 사용하여 중간 변환 결과를 캐싱(저장)하면 이 문제는 해결할 수 있음.\n",
+    "\n",
+    "4. 예측 결과 분석(변수 중요도 등) 추출의 번거로움\n",
+    "\n",
+    "    - `RandomForest`나 `XGBoost` 같은 트리를 학습시킨 후 \"어떤 특성이 가장 중요했지?\"(`feature_importances_`)를 물어보려면, 모델을 파이프라인 껍질 안에서 꺼내와야 함.\n",
+    "    - 더불어, 전처리 과정에서 새로 생겨난 컬럼 이름들(더미 변수 등)까지 매칭시켜주려면 `pipeline.named_steps['전처리'].get_feature_names_out()` 같은 복잡한 코드를 추가로 작성해야 함.\n",
+    "\n",
+    "이제 `preprocessing`과 예측기를 분리하여 훈련을 진행하는 코드를 작성하여,\n",
+    "앞서 언급한 `full_pipeline`의 장단점을 확인하라."
    ]
   }
  ],

notebooks/code-end2end_ml_project.ipynb

@@ -27673,9 +27673,18 @@
     "중위소득의 로그 변환값 특성의 중요도가 압도적으로 높다."
    ]
   },
+  {
+   "cell_type": "markdown",
+   "metadata": {},
+   "source": [
+    "특성 중요도는 전처리 변환기와 아무 상관이 없으며, 랜덤 포레스트 모델 등 일부 모델에서만 훈련중에 함께 저장된다.\n",
+    "\n",
+    "아래 코드는 `final_model`에서 랜덤 포레스트 모델의 이름이 `\"random_forest\"`로 지정되었기에 해당 이름을 이용하여 인덱싱 한 다음에 특성 중요도를 확인한다."
+   ]
+  },
   {
    "cell_type": "code",
-   "execution_count": 136,
+   "execution_count": null,
    "metadata": {},
    "outputs": [
     {
@@ -27699,8 +27708,10 @@
     }
    ],
    "source": [
+    "# 모델에 포함된 랜덤 포레스트 모델을 이용한 특성 중요도 추출\n",
     "feature_importances = final_model[\"random_forest\"].feature_importances_\n",
     "\n",
+    "# 특성 중요도와 해당 특성명을 함께 묶어서 중요도 기준으로 정렬\n",
     "important_features = sorted(zip(feature_importances,\n",
     "                                final_model[\"preprocessing\"].get_feature_names_out()),\n",
     "                            reverse=True)\n",