„KI-Systeme“ sind der definierte Begriff in KI-Gesetzen, Standards und Rahmenwerken in der EU und den USA. Die Definitionen von „KI-System“ geben Fachleuten jedoch keine klare Orientierung, wie die Definition auszulegen ist.

Der EU AI Act definiert ein KI-System wie folgt:

„ein maschinenbasiertes System, das darauf ausgelegt ist, mit unterschiedlichen Autonomiegraden zu arbeiten, nach der Bereitstellung Adaptivität aufweisen kann und das für explizite oder implizite Ziele aus den empfangenen Eingaben ableitet, wie Ausgaben wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen zu erzeugen sind, die physische oder virtuelle Umgebungen beeinflussen können“

‍

Unterscheidet sich ein KI-System von einem KI-Anwendungsfall?

KI-Systeme können mehrere KI-Modelle, Datensätze und Nicht-KI-Technologieelemente umfassen, die bestimmte Aufgaben erfüllen. Darüber hinaus unterscheiden sich KI-Systeme von KI-Anwendungsfällen, da ein KI-System dieselbe Aufgabe in unterschiedlichen Anwendungsfällen erfüllen kann, was zu unterschiedlichen Risiken führt.

Beispielsweise kann ein KI-System, das mehrere Computer-Vision-Modelle, Datensätze und Nicht-KI-Technologieelemente nutzt, um Sportgeräte in Videos zu identifizieren, verwendet werden, um Kommentare zu Sportveranstaltungen bereitzustellen oder um Sportgeräte an der Check-in-Schlange an Flughäfen zu identifizieren, damit Mitarbeitende im Kundenservice alarmiert werden. Jeder dieser Anwendungsfälle würde unterschiedliche Risiken mit sich bringen.

‍

Ist ein KI-System eine Plattform, ein Produkt oder eine Dienstleistung?

Angesichts der Definition von KI-System im EU AI Act (die auf der Definition der OECD basiert und grob mit den Definitionen im NIST AI RMF und im Colorado AI Act übereinstimmt) fällt es Fachleuten oft schwer, die Grenzen eines KI-Systems klar abzugrenzen. Es kann eine Plattform beschreiben (eine technologische Umgebung, in der Menschen bestimmte Aufgaben erledigen können – beispielsweise eine interne Instanz von GPT-4, die Mitarbeitende bei der Entwicklung von Anwendungen unterstützt), ein Produkt (beispielsweise ein intelligentes Hörgerät für Senioren) oder eine Dienstleistung (beispielsweise ein Empfehlungssystem dafür, welche Videos als Nächstes angesehen werden sollten).

‍

Können zwei KI-Systeme viele derselben Komponenten gemeinsam nutzen?

Digital reife Unternehmen unterhalten häufig wichtige zentralisierte Datensätze, die von verschiedenen Teams auf unterschiedliche Weise genutzt werden können. Diese Unternehmen verfügen oft über mehrere KI-Systeme, die auf dieselben Datensätze oder Modelle zurückgreifen. Fachleuten in diesen Unternehmen kann es schwerfallen, auf Ebene des KI-Systems Compliance-Dokumentationen zu erstellen, da sich die Komponenten verschiedener KI-Systeme erheblich überschneiden.

‍

‍

Wie Unternehmen den Einstieg schaffen können

Eine Definition von KI-System übernehmen:

Unternehmen sollten intern eine Definition von „KI-System“ übernehmen, die auf den Rechtsräumen basiert, in denen sie tätig sind. Beispielsweise könnte ein Unternehmen mit Schwerpunkt auf der EU intern die Definition von KI-System aus dem EU AI Act verwenden und sicherstellen, dass sie sich in den zugehörigen internen Richtlinien widerspiegelt, etwa in den Bereichen Datenschutz, Daten-Governance, Informationssicherheit und Risikomanagement.

KI-Systeme mit vielen Nutzern, sensiblen Anwendungsbereichen und klareren KI-Elementen inventarisieren:

‍Ein KI-Inventar wird für die künftige Compliance unerlässlich sein. Allerdings ist die Erstellung eines Inventars aller KI-Systeme innerhalb eines Unternehmens eine anspruchsvolle Aufgabe. Fachleute können zunächst KI-Systeme inventarisieren, die viele Nutzer, sensible Anwendungsbereiche (wie Beschäftigung, Bildung, Gesundheit oder Finanzen) und klare KI-Elemente (wie Machine Learning und generative KI-Systeme) aufweisen, bevor sie sich weiteren KI-Systemen widmen.

Software und Automatisierung nutzen:

‍Die Nachverfolgung der Beziehungen zwischen KI-Systemen, Modellen, Datensätzen und Anwendungsfällen sowie die Erstellung von Compliance-Dokumentationen erfordern passgenaue Werkzeuge. Enzai hilft Unternehmen dabei, Informationen auf Ebene von KI-Systemen, Modellen, Datensätzen und Anwendungsfällen zu importieren und Compliance-Dokumentationen auf Ebene des KI-Systems nahtlos zu generieren. Zudem bietet Enzai KI-Risikodashboards auf Unternehmensebene, Gap-Analysen für unterschiedliche Rechtsräume und eine automatisierte Berichterstellung.

Enzai ist hier, um zu helfen

Das Produkt von Enzai kann Ihrem Unternehmen dabei helfen, sich mit dem EU AI Act, dem Colorado AI Act, dem NIST AI RMF, ISO/IEC 42001 und weiteren globalen Regulierungs- und Assurance-Rahmenwerken in Einklang zu bringen. Um mehr zu erfahren, nehmen Sie hier Kontakt auf.

Enzai ist die führende Enterprise-KI-Governance-Plattform, die speziell entwickelt wurde, um Organisationen den Übergang von abstrakten Richtlinien zu operativer Aufsicht zu ermöglichen. Unsere Plattform für KI-Risikomanagement bietet die spezialisierte Infrastruktur, die erforderlich ist, um agentische KI-Governance zu steuern, ein umfassendes KI-Inventar zu pflegen und die Einhaltung des EU AI Act sicherzustellen. Durch die Automatisierung komplexer Workflows versetzt Enzai Unternehmen in die Lage, die Einführung von KI mit Zuversicht zu skalieren und zugleich die Ausrichtung an globalen Standards wie ISO 42001 und NIST beizubehalten.