Formale Überprüfung
Mathematischer Nachweis, dass KI-Algorithmen bestimmte Korrektheitseigenschaften erfüllen, die häufig in sicherheitskritischen Systemen verwendet werden.
Definition
Wendet formale Methoden (Modellüberprüfung, Theorembeweis) an, um Eigenschaften wie Invarianten, das Fehlen von Laufzeitfehlern oder Sicherheitseinschränkungen zu überprüfen. Die formale Verifikation ist ressourcenintensiv und eignet sich am besten für kritische Komponenten (z. B. Steuerungssysteme in der Automobilindustrie, Avionik). Die Unternehmensführung erfordert die Definition formaler Spezifikationen, die Auswahl geeigneter Nachweiswerkzeuge und die Pflege von Nachweisen zusammen mit Codeaktualisierungen.
Real-World Example
Ein Luft- und Raumfahrtunternehmen verwendet für sein Modul zur Kollisionsvermeidung mit autonomen Drohnen eine formelle Überprüfung. Sie spezifizieren Sicherheitsinvarianten („Der Abstand zu Hindernissen darf niemals unter 2 Meter fallen“) und überprüfen mithilfe eines Modelcheckers, dass die Flugsteuerungssoftware diese Invarianten unter allen modellierten Flugbedingungen respektiert — und so die Zulassungsreife gewährleistet.
.svg)
