共分散行列適応進化戦略（CMA-ES）は、非常に高度なグローバル・オプティマイザーです。グローバル・オプティマイザーとしては収束が比較的高速な部類に属します。CMA-ESは前回の反復ステップを「覚える」ことができ、その結果を利用することでアルゴリズムのパフォーマンスを向上しつつ、局所最適を回避することができます。
主な用途：一般的な最適化、特に複雑な問題を含む領域
開始点周辺の「信頼」領域にある一次データを基に線型モデルを構築する、強力なローカル・オプティマイザーです。モデルで計算された値は新たな開始点として使用され、最終的にデータに対する正確なモデルとして収束します。信頼領域法はパラメーターSの感度情報を利用して必要な計算数を減らし、最適化プロセスを高速化することができる、非常に堅牢な最適化アルゴリズムです。
主な用途：一般的な最適化、特に感度情報を持つモデル
進化の仕組みを最適化に用いた遺伝的アルゴリズムは、パラメーター空間内に点を生成し、ランダム・パラメーターによる突然変異を何世代も繰り返すうちに最適化する方法です。各世代で「最も適応した」パラメータ群を選択することで、グローバルな最適値に収束します。
主な用途：パラメーター数の多い、複雑な問題を含む領域およびモデル
グローバル・オプティマイザーの1つ。パラメーター空間内にある複数の点を、移動する粒子群として扱うアルゴリズムです。各反復において、各粒子だけでなく粒子群全体もその時点における最良の位置に移動します。粒子群最適化法はパラメーター数の多いモデルで効果を発揮します。
主な用途：パラメーター数の多いモデル
パラメーター空間周辺に分布する複数の点を使って最適値を探索する、ローカル最適化法の1つ。ネルダー-ミード・シンプレックス・アルゴリズムは、他のローカル・オプティマイザーに比べて開始点への依存性が低いのが特徴です。
主な用途：比較的パラメーター数の少ない複雑な問題を含む領域、適切な初期モデルが存在しないシステム
補間を使用してパラメーター空間の勾配を近似計算する、高速なローカル・オプティマイザー。補間を用いた準ニュートン法は収束の速いアルゴリズムです。
主な用途：高い計算能力を必要とするモデル
単一パラメーター問題に使用される、シンプルかつ堅牢なローカル・オプティマイザー。補間を用いた準ニュートン法よりも収束が遅いものの、精度で勝る場合があります。
主な用途：単一変数の最適化
Decap Optimizerはプリント回路基板（PCB）の設計に特化したオプティマイザーで、パレート・フロントを使用してデカップリング・コンデンサーの最も効果的な配置を割り出すことができます。必要なコンデンサー数や総コストを最小限に抑えつつ、所定のインピーダンス曲線を満たす用途に使用されています。
主な用途：PCBレイアウト
