‘KI-Systeme’ sind das definierte Konzept in KI-Gesetzen, Standards und Rahmenwerken in der EU und den USA. Die Definitionen von ‚KI-System‘ bieten jedoch den Praktikern keine klaren Richtlinien zur Interpretation der Definition.

Der EU AI Act definiert ein KI-System als:

„ein maschinenbasiertes System, das so konzipiert ist, dass es mit unterschiedlichen Autonomiestufen arbeitet und nach der Implementierung Anpassungsfähigkeit zeigen kann und das, für explizite oder implizite Ziele, aus den erhaltenen Eingaben ableitet, wie Ausgaben wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erzeugt werden können, die physische oder virtuelle Umgebungen beeinflussen können“

‍

Unterscheidet sich ein KI-System von einem KI-Anwendungsfall?

KI-Systeme können mehrere KI-Modelle, Datensätze und nicht-KI-basierte Technologiebestandteile umfassen, die spezifische Aufgaben erfüllen. Zusätzlich sind KI-Systeme von KI-Anwendungsfällen zu unterscheiden, da ein KI-System dieselbe Aufgabe in unterschiedlichen Anwendungsfällen erfüllen kann, wodurch unterschiedliche Risiken entstehen.

Ein Beispiel: Ein KI-System, das mehrere Modelle zur Computer Vision, Datensätze und nicht-KI-basierte Technologiebestandteile nutzt, um Sportausrüstung in Videos zu identifizieren, kann verwendet werden, um Kommentare zu Sportveranstaltungen zu liefern oder um Sportausrüstung in der Check-in-Linie an Flughäfen zu identifizieren und den Kundenservice zu alarmieren. Jeder dieser Anwendungsfälle würde unterschiedliche Risiken mit sich bringen.

‍

Ist ein KI-System eine Plattform, ein Produkt oder ein Service?

Angesichts der Definition des EU AI Act von KI-System (basierend auf der Definition der OECD und grob im Einklang mit denen im NIST AI RMF und dem Colorado AI Act) haben Praktiker oft Schwierigkeiten, die Grenzen eines KI-Systems zu ziehen. Es könnte eine Plattform (eine technologische Umgebung, in der Menschen bestimmte Aufgaben erledigen können – zum Beispiel eine interne Instanz von GPT-4, um Mitarbeitern bei der Entwicklung von Anwendungen zu helfen), ein Produkt (zum Beispiel ein Smart-Hearing-Gerät für Senioren) oder ein Service (zum Beispiel ein Empfehlungssystem, um zu bestimmen, welche Videos als Nächstes angesehen werden sollten) beschreiben.

‍

Können zwei KI-Systeme viele der gleichen Komponenten teilen?

Digital fortgeschrittene Unternehmen pflegen oft wichtige zentralisierte Datensätze, die von verschiedenen Teams auf unterschiedliche Weise genutzt werden können. Diese Unternehmen haben oft mehrere KI-Systeme, die auf denselben Datensätzen oder Modellen basieren. Praktiker in diesen Unternehmen könnten es als herausfordernd empfinden, Compliance-Dokumentation auf der Ebene der KI-Systeme zu entwickeln, da es signifikante Überschneidungen in den Komponenten verschiedener KI-Systeme gibt.

‍

‍

Wie Unternehmen anfangen können

Eine Definition von KI-System annehmen:

Unternehmen sollten intern eine Definition von ‚KI-System‘ annehmen, basierend auf den Jurisdiktionen, in denen sie tätig sind. Zum Beispiel könnte ein Unternehmen, das sich hauptsächlich auf die EU konzentriert, intern die Definition des EU AI Act von KI-System verwenden und sicherstellen, dass diese in den zugehörigen internen Richtlinien, wie Datenschutz, Datenverwaltung, Informationssicherheit und Risikomanagement, widerspiegelt wird.

KI-Systeme mit vielen Nutzern, sensiblen Nutzungen und klareren KI-Elementen inventarisieren:

‍Die Erstellung eines KI-Inventars wird zukünftig für die Compliance erforderlich sein. Es kann jedoch eine überwältigende Aufgabe sein, ein Inventar aller KI-Systeme in einem Unternehmen zu erstellen. Praktiker können zunächst KI-Systeme inventarisieren, die viele Nutzer, sensible Nutzungen (wie im Bereich Beschäftigung, Bildung, Gesundheit oder Finanzen) und klare KI-Elemente (wie maschinelles Lernen und generative KI-Systeme) haben, bevor sie zu anderen KI-Systemen übergehen.

Software und Automatisierung nutzen:

‍Die Nachverfolgung der Beziehungen zwischen KI-Systemen, Modellen, Datensätzen und Anwendungsfällen sowie die Entwicklung von Compliance-Dokumentation erfordern zweckmäßige Werkzeuge. Enzai hilft Unternehmen, Informationen auf Ebene des KI-Systems, des Modells, des Datensatzes und des Anwendungsfalls zu importieren und nahtlos Compliance-Dokumentation auf Ebene des KI-Systems zu generieren. Es bietet auch KI-Risiko-Dashboards auf Unternehmensebene, Lückenanalysen für verschiedene Jurisdiktionen und automatisierte Berichtserstellung.

Enzai ist da, um zu helfen

Das Produkt von Enzai kann Ihrem Unternehmen dabei helfen, sich mit dem EU AI Act, dem Colorado AI Act, dem NIST AI RMF, ISO/IEC 42001 und anderen globalen Regulierungs- und Assurance-Regimes abzustimmen. Um mehr zu erfahren, nehmen Sie hier Kontakt auf.