ニューラルアーキテクチャ検索
ニューラルネットワーク構造の設計と最適化を自動化して、複雑さとリソースの制約のバランスを取りながらモデルのパフォーマンスを向上させます。
Definition
検索アルゴリズム (強化学習、進化的戦略、ベイズ最適化) を使用して、考えられる何百万もの層タイプ、サイズ、接続を調査し、手動で設計されたモデルよりも優れたアーキテクチャを発見します。ガバナンスは、計算予算の管理、発見されたアーキテクチャの再現性の追跡、公平性と効率性の制約の適用、NAS が生成したモデルが解釈可能性と展開の要件を満たしていることを検証する必要があります。
Real-World Example
Vision-AI チームは NAS を採用して、組立ラインの欠陥検出に最適化された CNN を探しました。FLOP 予算に制限された 1,000 回の試行検索の結果、NAS はベースラインよりも 1% 高い精度と 30% 少ないパラメーターを実現する無駄のないアーキテクチャを実現しました。チームは NAS 構成と最終モデルを再現できるようにレジストリに記録します。
.svg)
