Google Cloud の BigQuery ML 環境をベースにした「特徴選択と特徴量エンジニアリング」の戦略を体系的に整理します。この知識は、機械学習モデルの精度向上・計算効率の最適化・スケーラビリティの担保に不可欠です。
🧩 1. 特徴量エンジニアリングの目的
| 目的 | 説明 |
|---|
| モデル性能の向上 | 意味のある新しい特徴量の作成により、モデルの精度を高める。 |
| データのスケーラビリティ | 一貫した処理・自動化されたパイプラインにより、大規模データへの対応を強化。 |
| 学習効率の向上 | 無駄な特徴を削減し、学習コストを下げる。 |
🔧 2. BigQuery ML における主要なエンジニアリング手法
2.1 欠損値への対応
- 方法: SQLベースで
IFNULL() などの関数を活用
- 注意点: 欠損値処理は予測精度に直結するため、事前処理で徹底的に対策
2.2 カテゴリカルデータの変換
| 手法 | 概要 | 適用場面 |
|---|
| One-Hot Encoding | 各カテゴリを0/1の列に展開 | 少数カテゴリ |
| Label Encoding | ラベルを数値に変換 | 順序付きカテゴリ |
| Feature Hashing | 高カーディナリティカテゴリを効率的に表現 | 大量のユニーク値がある場合（例：郵便番号） |
🧠 3. 特徴選択（Feature Selection）
3.1 正則化による選択
- Lasso回帰（L1正則化）
- 重要でない特徴の係数をゼロにする
MODEL_TYPE='linear_reg', L1_REG を指定
3.2 Feature Importance Metrics
- 方法:
ML.FEATURE_IMPORTANCE関数で重要度を算出
- 目的: 予測精度に寄与する特徴量の可視化と選別
🧪 4. 特徴量のスケーリングと変換
| 処理 | BigQuery ML内での対応 | 備考 |
|---|
| Standard Scaling | ❌非対応 | Dataflow等で前処理が必要 |
| 正規化（Normalization） | ❌非対応 | 外部パイプラインで実施 |
🧬 5. 新たな特徴量の生成
- SQLによる派生特徴量の生成
- 例: 売上 = 単価 × 数量
- 実装:
CREATE MODEL で TRANSFORM を活用（SQLで表現可能）
- Feature Crosses
- 複数カテゴリカル特徴の掛け合わせ
- 特定の組み合わせパターンの意味合いを捉える
🤖 6. 自動化とパイプライン化
| 方法 | 内容 | 利点 |
|---|
| Dataflow + Apache Beam | 前処理パイプライン構築 | 一貫性と再現性の担保 |
| Vertex AI Pipelines | 特徴量処理・モデル学習の自動化 | スケーラブルなMLワークフロー構築 |
⚠️ 7. 注意すべき非対応機能
| 機能名 | 状況 | 代替手段 |
|---|
| PCA（主成分分析） | ❌未対応 | 手動で相関の高い特徴を削除する等 |
| Recursive Feature Elimination (RFE) | ❌未対応 | LassoやFeature Importanceで代替 |
| ハイパーパラメータチューニング | ❌未対応 | 外部ツール（Vertex AI等）を使用 |
※ 現在のBQMLはPCAにネイティブ対応しています
- 過去（〜2022年頃まで）：BQMLにはPCA（主成分分析）は未対応でした。
- 現在（2023年〜）：BQMLは CREATE MODEL で MODEL_TYPE=’pca’ を指定することで、ネイティブにPCAモデルを構築可能になっています。
✅ 試験対策のためのまとめ
| 試験フォーカス | 警告アラート |
|---|
| 欠損値処理・特徴量変換・SQLによる生成 | PCAやRFEは BigQuery ML に直接は存在しない |
| 正則化（Lasso）やFeature Importance | 正規化・スケーリングはBigQuery ML内では未サポート |
| Feature Hashingや自動化パイプライン構築 | k-means は欠損値処理・次元削減には不向き |
📌 おすすめの学習順序（習得ステップ）
- SQLによる特徴量生成
- 欠損値処理とカテゴリ変換
- Lasso回帰・Feature Importanceの理解
- Feature Crosses・Feature Hashingの応用
- Dataflow/Vertex AIによる自動化
