„KI-Systeme“ sind der definierte Begriff in den KI-Gesetzen, -Standards und -Rahmenwerken in der EU und den USA. Die Definitionen von „KI-Systemen“ bieten Praktikern jedoch keine klare Orientierung für die Interpretation dieser Definition.

Das EU-KI-Gesetz definiert ein KI-System wie folgt:

„ein maschinengestütztes System, das für einen physischen oder virtuellen Betrieb mit unterschiedlichem Grad an Autonomie ausgelegt ist und das nach seiner Inbetriebnahme eine Anpassungsfähigkeit aufweisen kann und das für explizite oder implizite Ziele aus den erhaltenen Eingaben ableitet, wie Ausgaben wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen generiert werden, die physische oder virtuelle Umgebungen beeinflussen können“

‍

Unterscheidet sich ein KI-System von einem KI-Anwendungsfall?

KI-Systeme können mehrere KI-Modelle, Datensätze und Nicht-KI-Technologieelemente umfassen, die bestimmte Aufgaben erfüllen. Zudem unterscheiden sich KI-Systeme von KI-Anwendungsfällen, da ein KI-System dieselbe Aufgabe in verschiedenen Anwendungsfällen erfüllen kann, was wiederum unterschiedliche Risiken birgt.

Beispielsweise kann ein KI-System, das mehrere Computer-Vision-Modelle, Datensätze und Nicht-KI-Technologieelemente zur Erkennung von Sportgeräten in Videos nutzt, verwendet werden, um Sportveranstaltungen zu kommentieren oder um Sportgeräte am Check-in-Schalter an Flughäfen zu identifizieren, um den Kundenservice zu benachrichtigen. Jeder dieser Anwendungsfälle würde mit unterschiedlichen Risiken einhergehen.

‍

Ist ein KI-System eine Plattform, ein Produkt oder eine Dienstleistung?

Angesichts der Definition eines KI-Systems im EU-KI-Gesetz (die auf der Definition der OECD basiert und weitgehend mit den Definitionen im NIST AI RMF und dem Colorado AI Act übereinstimmt) fällt es Praktikern oft schwer, die Grenzen eines KI-Systems abzustecken. Es könnte sich um eine Plattform handeln (eine Technologieumgebung, in der Menschen bestimmte Aufgaben erledigen können – beispielsweise eine interne Instanz von GPT-4 zur Unterstützung von Mitarbeitern bei der Anwendungsentwicklung), ein Produkt (beispielsweise ein intelligentes Hörgerät für Senioren) oder eine Dienstleistung (beispielsweise ein Empfehlungssystem für das nächste anzusehende Video).

‍

Können zwei KI-Systeme viele der gleichen Komponenten nutzen?

Digital fortgeschrittene Unternehmen unterhalten oft wichtige zentralisierte Datensätze, die von verschiedenen Teams auf unterschiedliche Weise genutzt werden können. Diese Unternehmen verfügen häufig über mehrere KI-Systeme, die auf dieselben Datensätze oder Modelle zugreifen. Praktikern in diesen Unternehmen fällt es unter Umständen schwer, Compliance-Dokumentationen auf KI-Systemebene zu erstellen, da sich die Komponenten verschiedener KI-Systeme erheblich überschneiden.

‍

‍

Wie Unternehmen den Einstieg finden können

Einführung einer Definition für KI-Systeme:

Unternehmen sollten intern eine Definition für „KI-Systeme“ festlegen, die auf den Rechtsräumen basiert, in denen sie tätig sind. Beispielsweise könnte ein Unternehmen, das sich hauptsächlich auf die EU konzentriert, intern die Definition eines KI-Systems aus dem EU-KI-Gesetz verwenden und sicherstellen, dass diese in den entsprechenden internen Richtlinien (z. B. zu Datenschutz, Data Governance, Informationssicherheit und Risikomanagement) berücksichtigt wird.

Inventarisierung von KI-Systemen mit vielen Nutzern, sensiblen Anwendungen und eindeutigen KI-Elementen:

‍Die Erstellung eines KI-Inventars wird künftig für die Compliance unerlässlich sein. Die Erstellung eines Inventars aller KI-Systeme innerhalb eines Unternehmens ist jedoch eine anspruchsvolle Aufgabe. Praktiker können zunächst KI-Systeme inventarisieren, die viele Nutzer haben, in sensiblen Bereichen eingesetzt werden (wie Beschäftigung, Bildung, Gesundheit oder Finanzen) und klare KI-Elemente aufweisen (wie maschinelles Lernen und generative KI-Systeme), bevor sie sich anderen KI-Systemen widmen.

Nutzung von Software und Automatisierung:

‍Die Nachverfolgung der Beziehungen zwischen KI-Systemen, Modellen, Datensätzen und Anwendungsfällen sowie die Erstellung von Compliance-Dokumenten erfordern maßgeschneiderte Tools. Enzai unterstützt Unternehmen dabei, Informationen auf der Ebene von KI-Systemen, Modellen, Datensätzen und Anwendungsfällen zu importieren und Compliance-Dokumente nahtlos auf KI-Systemebene zu generieren. Zudem bietet es KI-Risiko-Dashboards auf Unternehmensebene, Gap-Analysen für verschiedene Rechtsräume und eine automatisierte Berichterstellung.

Enzai steht Ihnen zur Seite

Das Produkt von Enzai unterstützt Ihr Unternehmen bei der Einhaltung des EU-KI-Gesetzes, des Colorado AI Act, des NIST AI RMF, der ISO/IEC 42001 und anderer globaler Regulierungs- und Zertifizierungsrahmenwerke. Um mehr zu erfahren, setzen Sie sich hier mit uns in Verbindung.

Enzai ist die führende Plattform für KI-Governance in Unternehmen, die speziell dafür entwickelt wurde, Organisationen beim Übergang von abstrakten Richtlinien zur operativen Aufsicht zu unterstützen. Unsere KI-Risikomanagement-Plattform bietet die spezialisierte Infrastruktur, die für die Verwaltung der agentischen KI-Governance, die Führung eines umfassenden KI-Inventars und die Gewährleistung der Konformität mit dem EU-KI-Gesetz erforderlich ist. Durch die Automatisierung komplexer Arbeitsabläufe versetzt Enzai Unternehmen in die Lage, die Einführung von KI vertrauensvoll zu skalieren und gleichzeitig die Ausrichtung an globalen Standards wie ISO 42001 und NIST beizubehalten.