titanic

[Yagami360]

• 機械学習モデル

  • XGBoost の適用
    • fit -> train にすることで正解率が著しく低下する問題の解決
  • LightGBM
    • LightGBM の fit で正解率が著しく低下する問題の解決
  • CatBoost
  • アンサンブルモデル
  • ニューラルネットワーク（多層パーセプトロン）
  • ResNet50 の適用
  • Bagging, Adaboost
  • 全てのモデルでのアンサンブル

• 前処理

  • NN に入力するデータは正規化する
  • 特徴量の追加
  • 前処理のカテゴリーデータのエンコードを one-hot で行う

• ハイパーパラメーターのチューニング

  • grid search
  • Optuna
  • アンサンブルモデルの各弱識別器のチューニング（knn,svm,logistic, random forest など）
  • tuning_hyper_params.py で独自ラッパーを使うように修正（チューニング後のモデルの loss 値などを確認出来るにする）

• 検証系

  • hold-out
  • Cross Validation
  • StratifiedKFold

• 可視化

  • pandas_profiling
  • 特徴抽出
  • 過学習の程度を確認するための学習曲線