Modellrahmen für KI-Governance aus Singapur

Welches sind die drei Editionen des Frameworks?

Singapur hat seine Richtlinien im Zuge des technologischen Fortschritts kontinuierlich erweitert. Das ursprüngliche Model AI Governance Framework wurde 2019 von der Infocomm Media Development Authority und der Personal Data Protection Commission herausgegeben, gefolgt von einer zweiten Edition im Jahr 2020. Diese deckte die interne Governance, die menschliche Beteiligung an Entscheidungsprozessen, das Betriebsmanagement und die Kommunikation mit Stakeholdern ab. Im Jahr 2024 folgte eine Edition für generative KI, die sich mit Halluzinationen, Provenienz, Urheberrecht und den systemischen Risiken befasste, die mit Basismodellen einhergehen. Am 22. Januar 2026 stellte die IMDA auf dem Weltwirtschaftsforum ein Model AI Governance Framework für Agentische KI vor, das auf Systeme abzielt, die mit begrenzter Aufsicht planen und agieren.

Warum ist die agentische Edition von Bedeutung?

Die früheren Editionen gehen davon aus, dass ein Modell ein Ergebnis liefert, auf das ein Mensch anschließend reagiert. Agentische Systeme schließen diese Lücke: Das System wählt seine eigenen Schritte aus, nutzt Tools und führt Aktionen mit nachgelagerten Konsequenzen aus. Das Framework von 2026 befasst sich mit den Kontrollmechanismen, die sich daraus ergeben, einschließlich des Ausmaßes der Autonomie, die einem Agenten gewährt wird, der Begrenzung und Protokollierung seiner Aktionen, der Frage, wie Menschen sinnvoll in den Prozess eingebunden bleiben und wie die Rechenschaftspflicht bei der Interaktion mehrerer Agenten zugewiesen wird. Organisationen, die ihre KI-Governance auf den Editionen von 2019 oder 2024 aufgebaut haben, werden feststellen, dass diese Kontrollen das Verhalten von Agenten nicht abdecken.

Ist das Framework rechtlich bindend?

Nein. Singapur hat kein allgemeines KI-Gesetz erlassen, das mit dem KI-Gesetz der EU (EU AI Act) vergleichbar wäre, und das Model AI Governance Framework ist eine freiwillige Richtlinie. Seine Wirkung beruht auf der Akzeptanz, nicht auf der Durchsetzung. Branchenregulierungsbehörden – allen voran die Monetary Authority of Singapore mit ihren FEAT-Prinzipien für Finanzdienstleistungen – formulieren ihre eigenen Anforderungen, und in regulierten Sektoren tätige Unternehmen erfüllen in der Regel beide Vorgaben gleichzeitig. Der übliche Ansatz besteht darin, das Framework als Mindeststandard für interne Richtlinien zu betrachten und die Branchenvorschriften darauf aufzubauen.

In welcher Beziehung steht AI Verify zu dem Framework?

AI Verify ist die Test- und Qualitätssicherungsseite desselben Programms. Es bietet Organisationen die Möglichkeit, die Anforderungen des Frameworks nachzuweisen, indem es Prozessprüfungen anhand von Governance-Prinzipien mit technischen Tests am System selbst kombiniert. Es wird als Open-Source-Projekt von der AI Verify Foundation, einer gemeinnützigen Tochtergesellschaft der IMDA, gepflegt. Das Framework beschreibt, wie eine solide Governance aussieht; AI Verify ist das Instrument, mit dem ein Unternehmen dies nachweist – was besonders dann von Bedeutung ist, wenn ein Kunde oder eine Regulierungsbehörde einen Beleg verlangt.

Wer sollte es nutzen?

Das Framework ist branchenneutral und länderübergreifend anwendbar konzipiert, sodass auch Organisationen außerhalb Singapurs es als strukturierte Checkliste nutzen, selbst wenn es dort keine rechtliche Bindungskraft besitzt. Es ist besonders nützlich für Unternehmen, die im gesamten asiatisch-pazifischen Raum tätig sind und ein einheitliches Governance-Vokabular benötigen, das sich auf mehrere nationale Regelungen übertragen lässt, sowie für alle, die agentische Systeme einsetzen und einen etablierten Referenzpunkt für Autonomie- und Kontrollmechanismen suchen.