AI用語集
人工知能の完全辞典
インテリジェント初期化
以前の最適化で得られた知識を活用して、ハイパーパラメータ探索空間で有望な開始点を選択する最適化戦略。
メタ最適化ツール
異なる問題のクラスに適した最適な探索戦略を学習しながら、他の最適化アルゴリズムのハイパーパラメータを最適化するように設計されたアルゴリズム。
アナロジー学習
タスク間の構造的類似性を特定し、最適なハイパーパラメータ設定を効果的に転送するメタ学習手法。
条件付き探索空間
あるハイパーパラメータの有効な値が、以前に選択された他のハイパーパラメータの値に条件付きで依存するハイパーパラメータ空間の表現。
モデルベース逐次最適化
目的関数の代理モデルを構築し、最適なハイパーパラメータの探索を効果的に誘導するベイズ最適化アプローチ。
メタデータベース
ハイパーパラメータ設定、達成されたパフォーマンス、関連するタスクの特徴を含む、以前の最適化実験の構造化されたセット。
ハイパーパラメータのマルチタスク学習
複数のタスクで同時にハイパーパラメータ最適化を行うことで、新しいタスクに汎化可能で堅牢な設定を発見するパラダイム。
適応型ウォームスタート
現在のタスクと履歴タスク間のメトリック類似性に基づいて、最適な開始点を動的に選択する初期化技術。
メタ特性
データセットや学習タスクの定量的・定性的記述子で、メトリック類似性による最適なハイパーパラメータを予測できるもの
コンテキストバンディット最適化
ハイパーパラメータ選択を、コンテキストが現在のタスクに関する情報を提供する多腕バンディット問題として扱う最適化アプローチ
メタ勾配学習
メタ学習タスクセットでのパフォーマンスに関する勾配を計算することでハイパーパラメータを最適化し、細かい適応を可能にする手法
階層的インテリジェント探索
パラメータ間の構造的依存性を尊重しつつ、メタ学習知識を活用してハイパーパラメータ空間を探索する戦略
ハイパーパラメータ転移
メタ特性に基づく適応を伴い、ソースドメインからターゲットドメインへ最適なハイパーパラメータ設定を移行するプロセス
ハイパーパラメータのための強化学習
エージェントが最適なハイパーパラメータ選択ポリシーを学習する逐次決定問題としてハイパーパラメータ最適化を定式化する手法