Data Science
Die Zahlen sind eindeutig, aber wer freigibt und wo diese Entscheidung festgehalten wird, ist es nicht.
KI-Gremium
Sie liest sich gut, aber nichts zeigt, welche Systeme sie betrifft oder wer prüft.
Agentenplattform
Eine einzige Einstellungsänderung, und die menschliche Prüfung, die Ihre Richtlinie verspricht, ist weg.
So läuft es heuteWie es sein sollte
- So läuft es heute
Prinzipien vereinbart, dann als Richtlinie abgelegt
Wie es sein solltePrinzipien fest in die Prüfung jedes Systems eingebaut
- So läuft es heute
Eine Ethikprüfung, egal für welchen Einsatz
Wie es sein solltePrüftiefe, die mit dem Risiko für die Betroffenen steigt
- So läuft es heute
Model Cards, die die erste Version beschreiben
Wie es sein sollteDokumentation, die sich mit dem Modell ändert
- So läuft es heute
Aufsicht, ausgelegt auf KI, die nur berät
Wie es sein sollteMenschliche Kontrollen, die auch noch greifen, wenn Agenten handeln können
Führt mehr Prozess nicht nur dazu, dass Teams ihn umgehen?
Nicht, wenn die Tiefe zur Tragweite passt. Ihre Prüfer klassifizieren jedes System, und ein Tool mit geringer Tragweite erhält weniger Kontrollen als eines, das über Menschen entscheidet. Entwickler beantworten nur, was für sie gilt, und die gründliche Prüfung findet dort statt, wo Ihre Prinzipien sie vorsehen.
Wir testen Modelle bereits in unseren eigenen Tools. Ist das doppelte Arbeit?
Nein. Testen Sie weiter dort, wo Ihre Data Scientists arbeiten. Enzai übernimmt den nächsten Schritt: Hängen Sie den Bericht zum Bias-Test, ein ausgefülltes Formular oder am System bzw. an seinen Modellen erfasste Metriken als Nachweis an die Kontrolle an, die sie belegen, und ein Prüfer gibt ihn frei. Ihre Tools liefern die Ergebnisse, Enzai bewahrt den Nachweis und wer ihn akzeptiert hat.
Nimmt die Automatisierung jemals den Menschen aus dem Prozess?
Nur dort, wo Ihre eigenen Regeln festlegen, dass keine Prüfung nötig ist. Jede Freigabe wartet auf einen namentlich benannten Prüfer, und die Dokumentation zeigt, wer wann entschieden hat. Bei Agenten, die mit Enzai verbunden sind, wird eine Aktion, die nicht zu den freigegebenen Tools eines Agenten gehört, blockiert, bevor sie ausgeführt wird. Der Agent kann mit Begründung Zugriff anfordern, und ein Mensch entscheidet.
Landen unsere sensiblen Testdaten in Enzai?
Nein. Sie hängen an, was die Kontrolle belegt, etwa einen Testbericht oder die Metriken, die Sie erfassen möchten, und die Rohdaten bleiben, wo sie sind. Enzai dokumentiert, was getestet wurde, was sich gezeigt hat und wer es freigegeben hat, nicht die Daten, auf denen der Test lief.
Unsere Prinzipien stehen. Was tun wir zuerst?
Fassen Sie sie als eigenes Rahmenwerk mit eigenen Kontrollen und Klassifizierungen und wenden Sie es auf die wenigen Systeme an, bei denen am meisten auf dem Spiel steht. Hängen Sie die bereits vorhandenen Nachweise an, geben Sie jeder Kontrolle einen Verantwortlichen und weiten Sie es System für System aus. Ändern sich Ihre Prinzipien, entscheiden Sie, wann jedes System auf die neue Version wechselt.
Wenn jemand fragt, woher wir das wissen, können wir es zeigen?
Jede Kontrolle enthält ihre Nachweise und den Prüfer, der sie freigegeben hat. Jedes Risiko trägt zwei Bewertungen Ihrer Prüfer, vor und nach der Risikobehandlung, sowie die Minderungsmaßnahmen, die den Unterschied erklären. Interne und externe Berichte entstehen direkt aus dieser Dokumentation. Ob das den Ansprüchen einer Aufsichtsbehörde genügt, beurteilt diese selbst, aber niemand muss die Geschichte nachträglich rekonstruieren.
Der Einstieg
