Die KI-Revolution

Obwohl KI keineswegs neu ist (Alan Turings wegweisendes Papier über Rechenmaschinen und Intelligenz wurde erstmals 1950 veröffentlicht), haben wir in den letzten Jahren ein exponentielles Wachstum sowohl bei den Fähigkeiten von KI als auch bei deren Einführung erlebt. Die Gründe dafür liegen auf der Hand: Innovative KI-Technologien haben praktisch jede Branche revolutioniert, vom Gesundheitswesen über Finanzdienstleistungen bis hin zu Kreativbranchen. 

Die jüngsten Fortschritte im Bereich der generativen KI – mit der Veröffentlichung von Modellen wie GPT-4 von OpenAI, Gemini von Google und Llama von Meta – haben diesen Trend nur noch beschleunigt, da diese Technologien immer breiter zugänglich werden. Doch mit dem erleichterten Zugang steigen auch die Risiken: Deepfakes und Fehlinformationen, algorithmische Voreingenommenheit und Diskriminierung sowie Bedenken hinsichtlich der Sicherheit und des Datenschutzes sind nur einige davon.    

‍

Die Bedeutung von Standards

Neue Technologien, die das Potenzial haben, unsere Lebensweise grundlegend zu verändern, bergen auch erhebliche Risiken. Wenn wir auf die Geschichte zurückblicken und analysieren, wie sich verschiedene Technologien so tief in unser modernes Leben integriert haben, zeichnet sich ein klares Muster ab. Um echtes Vertrauen in diese neuen Systeme aufzubauen, wurden Standards etabliert – sei es durch Regulierung oder durch Marktkonventionen.

Beispielsweise hat die Erfindung kommerzieller Stromnetze in den 1880er Jahren die Gesellschaft grundlegend verändert und eine Steigerung von Produktivität, Effizienz und Wirtschaftswachstum ermöglicht. Allerdings setzte Elektrizität die Menschen auch Gefahren wie Stromschlägen und Bränden aus, was zu Verletzungen und Todesfällen führte. Um die Jahrhundertwende wurden die ersten Richtlinien zur elektrischen Sicherheit im Vereinigten Königreich eingeführt, um die Risiken dieser neuen Technologie zu beherrschen und Unfälle zu vermeiden. Darauf folgte eine Reihe von Elektrizitätsstandards, die sicherstellten, dass Installationen ordnungsgemäß ausgeführt und gewartet wurden, um Brandrisiken auszuschließen. Die Standardisierung der Stromversorgung und -installation ermöglichte die flächendeckende Nutzung von Elektrizität – bis Ende der 1930er Jahre verfügten zwei Drittel der britischen Haushalte über Strom, verglichen mit nur 6 % im Jahr 1919.

Ein jüngeres Beispiel betrifft die Informationssicherheit. Die Verbreitung des Internets in den letzten 30 Jahren hat eine florierende Technologiebranche hervorgebracht und die Art und Weise, wie Unternehmen geführt und Dienstleistungen angeboten werden, erfolgreich revolutioniert. Dennoch hat das Internet neben anderen Risiken auch zu einer explosionsartigen Zunahme der Cyberkriminalität geführt. Die Bedrohungen reichen von Phishing-Angriffen über schwerwiegende Datenschutzverletzungen bis hin zu Cyber-Terrorismus, wobei neue Formen der Cyberkriminalität regelmäßig Schlagzeilen machen. 

‍

Als Reaktion auf diese Risiken wurden Standards für die Informationssicherheit entwickelt. Der Standard ISO/IEC 27001 bietet Organisationen „eine Anleitung für die Einrichtung, Implementierung, Aufrechterhaltung und kontinuierliche Verbesserung eines Informationssicherheits-Managementsystems“. Obwohl ISO/IEC 27001 ein Standard und keine gesetzliche Vorschrift ist, hat er sich in allen Branchen, die auf Informationssysteme angewiesen sind oder digitale Aufzeichnungen führen, als weithin anerkannt und gefordert etabliert. 

Es gibt unzählige weitere Beispiele – von Autos und Flugzeugen bis hin zur Lebensmittelsicherheit und Medizinprodukten. Im Laufe der Zeit haben Standards stets den Rahmen für die sichere Einführung innovativer Technologien gebildet. Sie ermöglichten deren Entfaltung, während sie gleichzeitig dazu beitrugen, die damit verbundenen Risiken zu minimieren und zu steuern. Warum sollte das bei der Entwicklung der KI anders sein?

‍

Welche Vorteile bieten Standards im KI-Bereich?

Standards haben daher das Potenzial, sicherzustellen, dass KI dieselben positiven Auswirkungen auf die Welt hat wie andere bahnbrechende Technologien zuvor. Um jedoch zu gewährleisten, dass diese Standards effektiv sind, müssen wir zunächst die Arten von Risiken betrachten, die sie mindern sollen. Im Folgenden haben wir einige der wichtigsten Aspekte aufgeführt.

‍

1. Minderung von Voreingenommenheit, Diskriminierung oder Schäden für Einzelpersonen

KI-Systeme nutzen riesige Datenmengen, um Entscheidungen zu treffen, die Menschen in einer Vielzahl von Bereichen betreffen – von der Personaleinstellung über die Kreditvergabe bis hin zur Strafzumessung, Einwanderung und der Gewährung von Sozialleistungen. Algorithmen werden mit Datensätzen trainiert, aus denen sie lernen, wie die korrekten Ergebnisse aussehen sollten. Der Einsatz von KI kann die Entscheidungsfindung beschleunigen, sodass beispielsweise Behörden mehr Asyl- oder Leistungsanträge im gleichen Zeitraum bearbeiten können, was Rückstände abbaut und die Zufriedenheit mit den Dienstleistungen steigert. 

Untersuchungen haben jedoch gezeigt, dass Algorithmen mitunter menschliche Vorurteile reproduzieren oder gar verstärken, insbesondere gegenüber Minderheiten. Eine Untersuchung des Guardian aus dem Jahr 2023 deckte auf, dass einige Tools der britischen Regierung diskriminierende Ergebnisse lieferten, was dazu führte, dass Dutzenden von Menschen grundlos die Sozialleistungen entzogen wurden. Voreingenommenheit und Diskriminierung setzen Organisationen enormen Reputationsrisiken sowie kostspieligen Gerichtsverfahren aus. 

Standards ermöglichen es Organisationen, potenzielle algorithmische Voreingenommenheit frühzeitig zu erkennen und zu kennzeichnen, sodass sie korrigiert werden kann, bevor ein Schaden entsteht. Beispielsweise enthalten das NIST AI Risk Management Framework und ISO 42001 (beide werden unten näher erläutert) Anforderungen zur Bewertung des Risikos von Voreingenommenheit und zur Überprüfung der Qualität der verwendeten Datensätze. Eine gängige Anforderung ist eine erste Risikobewertung, die sich auf die dem Kontext des KI-Systems innewohnende Wahrscheinlichkeit von Voreingenommenheit konzentriert – d. h. auf historische oder strukturelle Benachteiligungen bestimmter demografischer Gruppen, die von den Algorithmen reproduziert werden könnten. 

‍

2. Erhöhte Transparenz und Rechenschaftspflicht

Es muss nachvollziehbar sein, wie, wann und zu welchen Zwecken ein KI-System eingesetzt wird. Dies sollte in einer Sprache erklärt werden, die für eine Vielzahl von Stakeholdern verständlich ist. Leider ist den Nutzern nicht immer bewusst, dass eine Entscheidung (beispielsweise die Bewilligung eines Kreditantrags) von einem KI-System getroffen wurde. Selbst wenn ihnen der Einsatz von KI bekannt ist, fehlen meist ausreichende Informationen darüber, wie das System zu dieser Entscheidung gelangt ist.

Da KI-Systeme mit einem hohen Maß an Autonomie arbeiten, können sie Entscheidungen auf eine Weise treffen, die von den Entwicklern weder beabsichtigt noch vorhergesehen wurde. Rechenschaftspflicht ist hierbei der Schlüssel, da sie hilft, Risiken frühzeitig zu identifizieren – beispielsweise durch Prüfverfahren wie Folgenabschätzungen. Standards stellen sicher, dass Einzelpersonen und Organisationen die Verantwortung für die Handlungen und Entscheidungen von KI-Systemen übernehmen und dass stets ein Mensch die Kontrolle behält (Human-in-the-Loop).

Standards verlangen häufig, dass Organisationen Informationen über ihre KI-Systeme dokumentieren, einschließlich der Datenquellen, Anwendungsfälle, Entscheidungsprozesse, Leistungsbenchmarks und potenziellen Einschränkungen. Diese Informationen sind unerlässlich, um die Funktionsweise und Leistung der Algorithmen zu verstehen und zu kommunizieren. Viele Standards erhöhen die Transparenz durch Produktkennzeichnungen, die den Nutzer darauf hinweisen, dass er mit einem KI-System interagiert. Der Leitfaden zur KI-Richtlinie von Enzai bietet wertvolle Ratschläge zur Implementierung von Transparenz- und Rechenschaftsmaßnahmen über den gesamten Lebenszyklus eines KI-Systems hinweg.
‍

3. Optimiertes Risikomanagement

KI bietet enorme Chancen, birgt jedoch auch viele Risiken. Dazu gehören unter anderem das Risiko von Halluzinationen (wenn große Sprachmodelle falsche Informationen generieren), Verletzungen des geistigen Eigentums und Verstöße gegen den Datenschutz. Ein effektives Risikomanagement reduziert die Wahrscheinlichkeit negativer Auswirkungen, hilft Organisationen, Vertrauen bei Stakeholdern aufzubauen, und schützt deren guten Ruf.

Risikoregister und Risikobewertungen, die in KI-Governance-Standards üblich sind, ermöglichen es Organisationen, Risiken im Zusammenhang mit KI-Technologien systematisch zu identifizieren, zu bewerten und zu mindern.  

‍

4. Erhöhte Sicherheit und Zuverlässigkeit

Da KI-Systeme in vielen kritischen Bereichen eingesetzt werden – wie dem Gesundheitswesen, der nationalen Sicherheit und der Infrastruktur –, besteht ein dringender Bedarf an Zuverlässigkeit und Sicherheit. Die KI-Systeme sollten technisch sicher sein, wie beabsichtigt funktionieren und resistent gegen Sicherheitsbedrohungen wie Cyberangriffe sein. Nach Angaben des National Institute of Standards and Technology (NIST) können „Angreifer KI-Systeme gezielt manipulieren oder gar ‚vergiften‘, um Fehlfunktionen hervorzurufen“.

Durch die Festlegung von Kriterien für Leistung, Genauigkeit, Skalierbarkeit und Resilienz können Organisationen robuste und zuverlässige KI-Systeme entwickeln, die Angriffen besser standhalten und diese im Ernstfall frühzeitig erkennen. 

‍

5. Einhaltung von Gesetzen und Vorschriften

Organisationen müssen die relevanten Gesetze und Vorschriften für den Einsatz von KI-Technologien einhalten. Obwohl neue Gesetze speziell zur Bewältigung von KI-Risiken eingeführt werden, wie etwa das KI-Gesetz der EU (EU AI Act), darf die bestehende Gesetzgebung nicht einfach ignoriert werden, nur weil ein Produkt oder eine Dienstleistung eine KI-Komponente enthält. Datenschutzgesetze, Verbraucherschutzvorschriften, Antidiskriminierungsgesetze und branchenspezifische Regelungen sind bereits in Kraft. Eine Nichteinhaltung kann zu rechtlichen Schritten, Geldstrafen, Sanktionen und Reputationsschäden führen. 

Standards sind im Gegensatz zu gesetzlichen Vorschriften nicht zwingend vorgeschrieben, erleichtern jedoch die Einhaltung bestehender Regulierung und stellen sicher, dass Organisationen Best Practices in ihrem jeweiligen Bereich anwenden. KI-spezifische Standards können Leistungskennzahlen, Risikobewertungen, Analysen von Anwendungsfällen und viele andere Maßnahmen abdecken, um ein effektives Risikomanagement zu gewährleisten und eine nachprüfbare Dokumentation der Entscheidungsfindung zu erstellen.

‍

6. Stärkung des öffentlichen Vertrauens

Ein höheres öffentliches Vertrauen kann zu einer besseren Akzeptanz und höheren Nutzungsraten von KI-Technologien führen. Zudem stärkt es die Beziehungen zu den Stakeholdern und sichert einen Wettbewerbsvorteil auf dem Markt, da die Öffentlichkeit ethischen Erwägungen und Vertrauenswürdigkeit großen Wert beimisst. Damit KI die gewünschte Reichweite erzielen und die positive Kraft in der Welt entfalten kann, die wir uns alle erhoffen, muss sie sich das Vertrauen der Öffentlichkeit verdienen. Die Etablierung hoher Standards für die Entwicklung, Bereitstellung und Nutzung dieser Technologie kann dies ermöglichen.

‍

Standards und KI-Governance-Frameworks 

Glücklicherweise gibt es mittlerweile eine Reihe verschiedener Standards im KI-Bereich, die Organisationen dabei helfen können, die oben genannten Risiken zu bewältigen. Einige der weltweit führenden Standardisierungsgremien, wie das National Institute for Standards in Technology (NIST), das Institute of Electrical and Electronics Engineers (IEEE) und die Internationale Organisation für Normung (ISO), haben kürzlich Frameworks veröffentlicht, mit denen Organisationen hohe Standards für ihre KI-Programme etablieren können. 

Im Folgenden haben wir eine kurze Übersicht über einige dieser Frameworks zusammengestellt.

ISO/IEC JTC 1/SC 42

Die ISO hat zusammen mit der Internationalen Elektrotechnischen Kommission (IEC) eine gemeinsame technische Arbeitsgruppe eingerichtet, um Standards im Bereich der KI zu entwickeln. Dies mündete in der Veröffentlichung der ISO 42001. Diese Standards, die es Organisationen ermöglichen, ein effektives KI-Managementsystem (AIMS) einzuführen, decken verschiedene Aspekte der KI ab, darunter Terminologie, ethische Erwägungen und Evaluierungsmethoden. 

Das Team arbeitet derzeit an einem neuen Standard – ISO 42006. Dieser wird Richtlinien für Auditoren enthalten, um effektiv zu messen, wie konform einzelne Organisationen mit den Anforderungen der ISO 42001 sind. Dieser Auditierungsprozess wird es Organisationen ermöglichen, regelmäßige Zertifizierungen über ihre Konformität zu erhalten (ähnlich dem zuvor beschriebenen Prozess für Informationssicherheit unter ISO 27001).

‍

Hinweis: Enzai war eine der ersten Organisationen weltweit, die ein umfassendes KI-Managementsystem in vollständiger Übereinstimmung mit den Anforderungen der ISO 42001 angeboten hat.

NIST AI Risk Management Framework

Das National Institute of Standards and Technology (NIST) in den USA hat ein Risikomanagement-Framework speziell für KI-Systeme entwickelt. Dieses Framework bietet Leitlinien zur Identifizierung, Bewertung und Minderung von Risiken im Zusammenhang mit KI-Technologien und ist in vier Kernfunktionen der KI-Governance unterteilt: (1) Regeln (Govern); (2) Zuordnen (Map); (3) Messen (Measure); und (4) Verwalten (Manage). Viele Organisationen in Nordamerika haben das NIST AI Risk Management Framework als ihren Leitstern übernommen.

Wir haben einen Blogbeitrag verfasst, der die Anforderungen des NIST AI RMF näher erläutert – siehe hier. Unsere KI-Governance-Lösung stellt sicher, dass Organisationen in voller Übereinstimmung mit diesen Anforderungen agieren können.

OECD-KI-Prinzipien

Einer der prominentesten frühen Versuche, eine Basis für hohe Standards im KI-Bereich zu schaffen, ging von der Organisation für wirtschaftliche Zusammenarbeit und Entwicklung (OECD) aus. Die OECD hat im Mai 2019 eine Reihe praktischer und flexibler Prinzipien für die verantwortungsvolle Entwicklung und Nutzung von KI verabschiedet (deren Definition von KI inzwischen weitgehend in den endgültigen Text des EU-KI-Gesetzes übernommen wurde). Die KI-Prinzipien der OECD umfassen wertebasierte Grundsätze wie Transparenz, Fairness und Rechenschaftspflicht sowie Empfehlungen für politische Entscheidungsträger.

Über diese Prinzipien hinaus verfügt das AI Policy Observatory der OECD über einen Katalog von Tools und Metriken, die Organisationen bei der Entwicklung und Nutzung vertrauenswürdiger KI unterstützen sollen, darunter auch die KI-Governance-Plattform von Enzai. 

World Ethical Data Foundation (WEDF) „Me-We-It“: Ein offener Standard

Der offene Standard der WEDF ist ein kostenloses, interaktives Online-Forum, das drei Ziele verfolgt: (1) Beratung für die Entwicklung ethischerer KI zu bieten, um der Branche zu einem Neustart auf einem gesunden Fundament zu verhelfen; (2) der Öffentlichkeit den Prozess der Entwicklung von KI-Systemen verständlich zu machen; und (3) einen Raum zu schaffen, in dem die Öffentlichkeit der KI- und Data-Science-Gemeinschaft frei Fragen stellen kann. 

Das Framework ist in die drei Bereiche „Me“ (Ich), „We“ (Wir) und „It“ (Es) unterteilt. Die WEDF beschreibt sie wie folgt: „Me“ sind „die Fragen, die sich jeder Einzelne, der an der KI arbeitet, vor Beginn und während des Prozesses selbst stellen sollte“. „We“ sind „die Fragen, die sich die Gruppe stellen sollte – insbesondere, um die erforderliche Diversität zu definieren, um menschliche Voreingenommenheit so weit wie möglich zu reduzieren“. „It“ sind „die Fragen, die wir dem Einzelnen und der Gruppe in Bezug auf das erstellte Modell und die Auswirkungen, die es auf unsere Welt haben kann, stellen sollten“.

Einführung von KI-Governance-Standards

‍

Wenn Ihre Organisation die Implementierung von KI-Governance-Standards anstrebt oder bestehende Praktiken verbessern möchte, kann der Anfang schwerfallen. Unsere „Start Fast“-Methode bietet Ihnen in drei einfachen Schritten alles, was Sie benötigen: (1) Erstellung oder Auswahl von Richtlinien und Bewertungen; (2) Aufbau Ihres KI-Registers; und (3) Beginn Ihrer Bewertungen. Die Enzai-Plattform bietet vorgefertigte Richtlinien und Bewertungs-Frameworks direkt out of the box, damit Sie erstklassige Standards etablieren können, die Sie von Ihren Mitbewerbern abheben. 

‍

Wenn Sie mehr darüber erfahren möchten, wie Enzai Ihre Organisation bei der Einführung von KI-Governance-Standards und der Einhaltung künftiger Vorschriften unterstützen kann, kontaktieren Sie uns noch heute.

‍

Enzai ist die führende Plattform für Enterprise-KI-Governance, die speziell dafür entwickelt wurde, Organisationen beim Übergang von abstrakten Richtlinien zur operativen Aufsicht zu unterstützen. Unsere KI-Risikomanagement-Plattform bietet die spezialisierte Infrastruktur, die für die Verwaltung der agentischen KI-Governance, die Führung eines umfassenden KI-Inventars und die Gewährleistung der Konformität mit dem EU-KI-Gesetz erforderlich ist. Durch die Automatisierung komplexer Workflows versetzt Enzai Unternehmen in die Lage, die Einführung von KI vertrauensvoll zu skalieren und gleichzeitig die Ausrichtung an globalen Standards wie ISO 42001 und NIST zu wahren.