Geräuscheinspritzung
Absichtliches Einbringen zufälliger Störungen in Trainingsdaten oder Modellparameter, um die Robustheit zu erhöhen und gegnerische Manipulationen zu verhindern.
Definition
Eine Regularisierungsstrategie, bei der Eingaben, versteckten Aktivierungen oder Gewichten während des Trainings Gaußsches Rauschen hinzugefügt wird. Sie hilft bei der Generalisierung von Modellen, indem sie verhindert, dass man sich zu sehr auf bestimmte Muster verlässt, und erhöht die Widerstandsfähigkeit gegenüber Eingangsstörungen. Die Unternehmensführung erfordert die Überwachung der Auswirkungen auf die Leistung, die Sicherstellung, dass der eingeblasene Geräuschpegel den Einsatzszenarien entspricht, und die Dokumentation der Lärmparameter, um die Konsistenz von Audits und Umschulungen zu gewährleisten.
Real-World Example
Um seine Spracherkennungs-KI vor Störungen im Hintergrund zu schützen, fügt ein Entwickler eines Sprachassistenten unterschiedliche Mengen an weißem Rauschen in das Trainingsaudio ein. Tests nach dem Training zeigen, dass sich die Wortfehlerraten unter realen Geräuschbedingungen nur um 2% verringern — verglichen mit 10% ohne Geräuscheinspeisung —, was eine verbesserte Robustheit zeigt.
.svg)
