微調整
新しいデータでトレーニングを続けることで、事前にトレーニングされた AI モデルを特定のタスクまたはデータセットに適応させ、多くの場合、タスク固有のパフォーマンスを向上させます。
Definition
一般的な大規模な事前学習モデル（BERT、ResNetなど）を、学習率を下げてドメイン固有のラベル付きデータでさらにトレーニングする転移学習手法。微調整を行うと、開発期間が短縮され、タスク固有のデータも少なくて済み、幅広い特徴表現を活用できます。ガバナンスは、ベースモデルの出所、ライセンスコンプライアンスを追跡し、再現性を高めるためにデータセットとハイパーパラメータの選択を文書化する必要があります。
Real-World Example
あるリーガルテック企業が、ラベル付きの5万件の法的契約条項に基づいてBERTモデルを微調整しています。ゼロからのトレーニングのわずか10分の1のデータで、条項分類の精度が 90% に達し、社内のQA基準を満たす自動契約レビューが可能になりました。
.svg)
