Die KI-Revolution

Obwohl KI nichts Neues ist (Alan Turings bahnbrechende Arbeit über Rechenmaschinen und Intelligenz wurde erstmals 1950 veröffentlicht), haben wir in den vergangenen Jahren ein exponentielles Wachstum sowohl der Fähigkeiten von KI als auch ihrer Verbreitung gesehen. Es ist offensichtlich, warum: Innovative KI-Technologien haben praktisch jede Branche revolutioniert, von dem Gesundheitswesen über Finanzdienstleistungen bis hin zu den Kreativbranchen. 

Die neuesten Fortschritte in der generativen KI - mit der Veröffentlichung von Modellen wie OpenAIs GPT-4, Googles Gemini und Metas Llama - haben diesen Trend weiter beschleunigt, da diese Technologien zunehmend leichter zugänglich werden. Doch mit größerem Zugang gehen auch erhöhte Risiken einher: Deepfakes und Desinformation, algorithmische Verzerrungen und Diskriminierung, Sicherheits- und Datenschutzbedenken, neben anderen.    

‍

Die Bedeutung von Standards

Neue Formen von Technologie, die das Potenzial haben, die Art und Weise zu verändern, wie wir leben, bringen auch erhebliche Risiken mit sich. Wenn wir einen Blick in die Geschichte werfen und analysieren, wie verschiedene Technologien so tief in unser modernes Leben integriert wurden, zeigt sich ein Muster. Um in diesen neuen Systemen tatsächlich Vertrauen zu schaffen, wurden Standards entweder durch Regulierung oder durch Marktpraktiken etabliert.

So transformierte beispielsweise die Erfindung kommerzieller elektrischer Systeme in den 1880er-Jahren die Gesellschaft grundlegend und ermöglichte höhere Produktivität, Effizienz und Wirtschaftswachstum. Gleichzeitig setzte Elektrizität Menschen Gefahren wie Stromschlägen und Bränden aus, was zu Verletzungen und Todesfällen führte. Um die Jahrhundertwende wurden die ersten elektrischen Sicherheitsrichtlinien im Vereinigten Königreich eingeführt, um die Risiken dieser neuen Technologie zu steuern und Unfälle zu verhindern. Es folgte eine Reihe von Elektrizitätsnormen, die sicherstellten, dass Installationen fachgerecht errichtet und gewartet wurden, um Brandrisiken zu vermeiden. Die Standardisierung der Stromversorgung und der Installation ermöglichte die weitverbreitete Einführung von Elektrizität - bis Ende der 1930er-Jahre verfügten zwei Drittel der britischen Haushalte über Strom, gegenüber 6 % im Jahr 1919.

Ein jüngeres Beispiel betrifft die Informationssicherheit. Die Ausweitung des Internets in den vergangenen 30 Jahren schuf eine florierende Technologiebranche und hat die Art und Weise, wie Unternehmen geführt und Dienstleistungen angeboten werden, erfolgreich verändert. Zugleich führte das Internet unter anderem zu einem explosionsartigen Anstieg von Cyberkriminalität. Bedrohungen reichen von Phishing-Angriffen bis hin zu schwerwiegenden Datenpannen und Cyberterrorismus, wobei neue Formen der Cyberkriminalität regelmäßig Schlagzeilen machen. 

‍

Als Reaktion auf diese Risiken wurden Informationssicherheitsstandards entwickelt. Der ISO/IEC 27001 Standard bietet Organisationen „Leitlinien für die Einrichtung, Umsetzung, Aufrechterhaltung und fortlaufende Verbesserung eines Informationssicherheits-Managementsystems.“ Auch wenn ISO/IEC 27001 ein Standard und keine Regulierung ist, hat er sich branchenübergreifend, insbesondere in Organisationen, die auf Informationssysteme angewiesen sind oder digitale Aufzeichnungen führen, weitgehend durchgesetzt und ist dort erforderlich. 

Es gibt unzählige weitere Beispiele - von Autos und Flugzeugen bis hin zu Lebensmittelsicherheit und Medizinprodukten. Über die Jahrhunderte hinweg haben Standards einen Rahmen für die sichere Einführung innovativer Technologien geschaffen, damit diese gedeihen können, während ihre Risiken gleichzeitig gemindert und gesteuert werden. Warum sollte die Entwicklung von KI anders sein?

‍

Welche Vorteile bieten Standards im KI-Bereich?

Standards haben daher das Potenzial sicherzustellen, dass KI denselben positiven Einfluss auf die Welt hat wie andere transformative Technologien. Damit diese Standards jedoch wirksam sind, müssen wir zunächst die Arten von Risiken betrachten, die sie mindern sollen. Nachfolgend haben wir einige der wichtigsten Aspekte aufgeführt.

‍

1. Minderung von Verzerrungen, Diskriminierung oder Schäden für Einzelpersonen

KI-Systeme nutzen umfangreiche Datenmengen, um Entscheidungen zu treffen, die Menschen bei einer Vielzahl von Aufgaben betreffen - von Einstellungen über Kreditvergabe bis hin zu strafrechtlichen Urteilen, Einwanderungsverfahren und der Gewährung von Sozialleistungen. Algorithmen werden anhand von Datensätzen trainiert, aus denen sie lernen, wie die korrekten Ergebnisse aussehen sollten. Der Einsatz von KI kann Entscheidungen beschleunigen, sodass beispielsweise die Regierung mehr Asyl- oder Leistungsanträge in derselben Zeit bearbeiten kann, Rückstände reduziert und die Zufriedenheit mit ihren Dienstleistungen steigt. 

Studien haben jedoch gezeigt, dass Algorithmen mitunter menschliche Vorurteile reproduzieren oder verstärken, insbesondere gegenüber Minderheiten. Eine Untersuchung des Guardian aus dem Jahr 2023 ergab Hinweise darauf, dass einige der Tools der britischen Regierung diskriminierende Ergebnisse lieferten, wodurch Dutzenden von Menschen ihre Leistungen ohne Grund entzogen wurden. Verzerrungen und Diskriminierung setzen Organisationen erheblichen Reputationsrisiken sowie kostspieligen Klagen aus. 

Standards ermöglichen es Organisationen, potenzielle algorithmische Verzerrungen frühzeitig zu erkennen und zu kennzeichnen, damit sie korrigiert werden können, bevor ein Schaden entsteht. So enthalten beispielsweise das NIST AI Risk Management Framework und ISO 42001 (die beide unten ausführlicher behandelt werden) Anforderungen zur Bewertung des Verzerrungsrisikos und zur Prüfung der Qualität der verwendeten Datensätze. Eine häufige Anforderung ist eine anfängliche Risikobewertung, die sich auf die Möglichkeit von Verzerrungen konzentriert, die im Kontext des KI-Systems angelegt sind, d. h. auf historische oder strukturelle Benachteiligungen bestimmter demografischer Gruppen, die die Algorithmen reproduzieren könnten. 

‍

2. Mehr Transparenz und Rechenschaftspflicht

Menschen sollten verstehen, wie, wann und zu welchen Zwecken ein KI-System eingesetzt wird. Dies sollte in einer Sprache erläutert werden, die für ein breites Spektrum von Interessengruppen verständlich ist. Leider ist Nutzern nicht immer bewusst, dass hinter einer bestimmten Entscheidung ein KI-System steht (beispielsweise bei der Genehmigung eines Kreditantrags). Selbst wenn ihnen bewusst ist, dass KI eingesetzt wird, fehlen meist ausreichende Informationen darüber, wie das System zu dieser Entscheidung gelangt ist.

Da KI-Systeme mit einem hohen Maß an Autonomie arbeiten, können sie Entscheidungen auf Arten treffen, die die Entwickler nicht beabsichtigt oder vorhergesehen haben. Rechenschaftspflicht ist entscheidend, da sie helfen kann, Risiken frühzeitig zu erkennen - beispielsweise durch Assurance-Techniken wie Wirkungsanalysen. Standards stellen sicher, dass Einzelpersonen und Organisationen Verantwortung für die Handlungen und Entscheidungen von KI-Systemen übernehmen und dass stets ein Mensch eingebunden ist.

Standards verlangen häufig, dass Organisationen Informationen über ihre KI-Systeme dokumentieren, einschließlich Datenquellen, Anwendungsfällen, Entscheidungsprozessen, Leistungskennzahlen und potenziellen Einschränkungen. Diese Informationen sind entscheidend, um zu verstehen und zu vermitteln, wie die Algorithmen funktionieren und wie ihre Leistung ist. Viele Standards erhöhen die Transparenz durch die Förderung von Produktkennzeichnung, bei der Nutzer darüber informiert werden, dass sie mit einem KI-System interagieren. Enzais KI-Policy-Leitfaden bietet wertvolle Hinweise dazu, wie Transparenz- und Rechenschaftsmaßnahmen über den gesamten Lebenszyklus eines KI-Systems hinweg implementiert werden können.
‍

3. Verbesserte Risikosteuerung

KI bietet große Chancen, ist jedoch mit zahlreichen Risiken verbunden. Dazu zählen unter anderem das Risiko von Halluzinationen (wenn große Sprachmodelle falsche Informationen erzeugen), Verletzungen geistigen Eigentums und Verstöße gegen den Datenschutz. Wirksames Risikomanagement verringert die Wahrscheinlichkeit negativer Ergebnisse und hilft Organisationen, Vertrauen bei Stakeholdern aufzubauen und ihren guten Ruf zu wahren.

Risikoregister und Risikobewertungen, die in KI-Governance-Standards üblich sind, ermöglichen es Organisationen, mit KI-Technologien verbundene Risiken zu identifizieren, zu bewerten und zu mindern.  

‍

4. Verbesserte Sicherheit und Zuverlässigkeit

Da KI-Systeme in vielen kritischen Bereichen eingesetzt werden - Gesundheitswesen, nationale Sicherheit und Infrastruktur sind nur einige Beispiele - besteht ein hoher Bedarf an Zuverlässigkeit und Sicherheit. Die KI-Systeme sollten technisch sicher sein, wie vorgesehen funktionieren und gegen Sicherheitsbedrohungen wie Cyberangriffe widerstandsfähig sein. Laut dem National Institute of Standards and Technology (NIST),  „Angreifer können KI-Systeme absichtlich verwirren oder sogar „vergiften“, damit sie fehlerhaft funktionieren“.

Durch die Festlegung von Kriterien für Leistung, Genauigkeit, Skalierbarkeit und Resilienz können Organisationen robuste und zuverlässige KI-Systeme entwickeln, die Angriffen besser standhalten und diese, falls sie doch auftreten, frühzeitig erkennen können. 

‍

5. Einhaltung von Gesetzen und Vorschriften

Organisationen müssen die einschlägigen Gesetze und Vorschriften zur Nutzung von KI-Technologien einhalten. Zwar entstehen neue Gesetze, die speziell auf KI-Risiken abzielen, wie etwa der EU AI Act, doch bestehende Rechtsvorschriften können nicht einfach ignoriert werden, nur weil das Produkt/ die Dienstleistung einen KI-Anteil enthält. Datenschutzgesetze, Verbraucherschutzvorschriften, Antidiskriminierungsgesetze und branchenspezifische Regelungen sind bereits vorhanden. Verstöße können zu rechtlichen Auseinandersetzungen, Geldbußen, Strafen und Reputationsschäden führen. 

Standards sind nicht in derselben Weise verpflichtend wie Regulierungen, ermöglichen jedoch die Einhaltung bestehender Vorschriften und stellen zugleich sicher, dass Organisationen bewährte Praktiken in ihrem jeweiligen Bereich übernehmen. KI-spezifische Standards können unter anderem Leistungskennzahlen, Risikobewertungen, Anwendungsfallanalysen und viele weitere Maßnahmen abdecken, um ein wirksames Risikomanagement sicherzustellen und eine prüfbare Dokumentation der Entscheidungsfindung zu schaffen.

‍

6. Gestärktes öffentliches Vertrauen

Ein gestärktes öffentliches Vertrauen kann zu höheren Akzeptanz- und Einführungsraten von KI-Technologien führen, ebenso wie zu stärkeren Beziehungen zu Stakeholdern und einem Wettbewerbsvorteil am Markt, da die Öffentlichkeit ethische Überlegungen und Vertrauenswürdigkeit schätzt. Damit KI in dem Umfang zum Einsatz kommt und zu jener Kraft für das Gute in der Welt wird, die wir uns alle wünschen, muss sie sich das Vertrauen der Öffentlichkeit verdienen. Hohe Standards dafür zu setzen, wie die Technologie entwickelt, bereitgestellt und genutzt wird, kann dies ermöglichen.

‍

Standards und KI-Governance-Rahmenwerke 

Glücklicherweise gibt es mittlerweile eine Reihe unterschiedlicher Standards im KI-Bereich, die Organisationen dabei helfen können, die oben beschriebenen Risiken zu navigieren. Einige der weltweit führenden Normungsorganisationen, wie das National Institute for Standards in Technology (NIST), das Institute of Electrical and Electronics Engineers (IEEE) und die International Organization for Standardization (ISO), haben kürzlich Rahmenwerke veröffentlicht, mit denen Organisationen hohe Standards für ihre KI-Programme einführen können. 

Nachfolgend geben wir einen kurzen Überblick über einige davon.

ISO/IEC JTC 1/SC 42

ISO hat zusammen mit der International Electrotechnical Commission (IEC) eine gemeinsame technische Arbeitsgruppe eingerichtet, um Standards für KI zu entwickeln, was in der Veröffentlichung von ISO 42001 mündete. Diese Standards, die es Organisationen ermöglichen, ein wirksames KI-Managementsystem (AIMS)  zu implementieren, decken verschiedene Aspekte von KI ab, darunter Terminologie, ethische Erwägungen und Bewertungsmethoden. 

Das Team arbeitet nun an einem neuen Standard - ISO 42006 - der Leitlinien für Auditoren festlegen wird, damit diese die Konformität einzelner Organisationen mit den Anforderungen von ISO 42001 wirksam messen können, und dieser Prüfprozess wird es Organisationen ermöglichen, regelmäßige Zertifizierungen zu erhalten, die ihre Konformität bestätigen (ähnlich dem Verfahren im Bereich der Informationssicherheit nach ISO 27001, das weiter oben ausführlicher beschrieben wurde).

‍

Hinweis: Enzai gehörte weltweit zu den ersten Organisationen, die ein umfassendes KI-Managementsystem anboten, das vollständig den Anforderungen von ISO 42001 entspricht.

NISTs KI-Risikomanagementrahmenwerk

Das National Institute of Standards and Technology (NIST) in den Vereinigten Staaten hat speziell für KI-Systeme ein Risikomanagementrahmenwerk entwickelt. Dieses Rahmenwerk bietet Leitlinien zur Identifizierung, Bewertung und Minderung von mit KI-Technologien verbundenen Risiken und ist in vier Bereiche der zentralen Funktionen der KI-Governance unterteilt: (1) Steuern; (2) Abbilden; (3) Messen; und (4) Verwalten. Viele Organisationen in Nordamerika haben das NIST AI Risk Management Framework zu ihrem Nordstern gemacht.

Wir haben einen Blogbeitrag mit den Anforderungen des NIST AI RMF erstellt - siehe hier. Unsere KI-Governance-Lösung stellt sicher, dass Organisationen diese Anforderungen vollständig einhalten können.

OECDs KI-Grundsätze

Eine der bekanntesten frühen Bemühungen, eine Ausgangsbasis für hohe Standards im KI-Bereich zu schaffen, kam von der Organisation für wirtschaftliche Zusammenarbeit und Entwicklung (OECD). Die OECD verabschiedete im Mai 2019 eine Reihe praktischer und flexibler Grundsätze für die verantwortungsvolle Entwicklung und Nutzung von KI (und ihre Definition von KI wurde inzwischen weitgehend in den endgültigen Text des EU AI Act übernommen). Zu den KI-Grundsätzen der OECD gehören wertebasierte Prinzipien wie Transparenz, Fairness und Rechenschaftspflicht sowie Empfehlungen für politische Entscheidungsträger.

Über diese Grundsätze hinaus verfügt das OECD AI Policy Observatory über einen Katalog von Tools und Metriken, die Organisationen bei der Entwicklung und Nutzung vertrauenswürdiger KI unterstützen sollen, einschließlich Enzais KI-Governance-Plattform. 

„Me-We-It“ der World Ethical Data Foundation (WEDF): Ein offener Standard

Der offene Standard der WEDF ist ein kostenloses, live stattfindendes Online-Forum mit drei Zielen: (1) Beratung zum Aufbau ethischerer KI, damit die Branche auf einer gesunden Grundlage neu starten kann; (2) der Öffentlichkeit das Verständnis des Prozesses zur Entwicklung von KI-Systemen zu erleichtern; und (3) einen Raum zu schaffen, in dem die Öffentlichkeit der KI- und Data-Science-Community frei jede Frage stellen kann. 

Das Rahmenwerk ist in drei Abschnitte unterteilt, „Me“, „We“ und „It“. Die WEDF beschreibt sie wie folgt: „Me“ sind „die Fragen, die jede einzelne Person , die an der KI arbeitet, sich selbst stellen sollte, bevor sie beginnt und während sie den Prozess durchläuft“. „We“ sind „die Fragen, die die Gruppe sich selbst stellen sollte - insbesondere, um die Vielfalt zu definieren, die erforderlich ist, um so viel menschliche Verzerrung wie möglich zu reduzieren. „It“ sind „die Fragen, die wir Einzelpersonen und die Gruppe stellen sollten, da sie sich auf das zu erstellende Modell und die Auswirkungen beziehen, die es auf unsere Welt haben kann“.

Einführung von KI-Governance-Standards

‍

Wenn Ihre Organisation KI-Governance-Standards implementieren oder bestehende Praktiken verbessern möchte, kann es schwierig sein zu wissen, wo man anfangen soll. Unsere Start-Fast-Methode enthält in drei einfachen Schritten alles, was Sie benötigen: (1) Richtlinien und Bewertungen erstellen oder auswählen; (2) Ihr KI-Register aufbauen; und (3) mit Ihren Bewertungen beginnen. Die Enzai-Plattform stellt sofort einsatzbereite Richtlinien und Bewertungsrahmenwerke zur Verfügung, damit Sie erstklassige Standards einführen können, die Sie von Ihren Mitbewerbern abheben. 

‍

Wenn Sie mehr darüber erfahren möchten, wie Enzai Ihrer Organisation helfen kann, KI-Governance-Standards einzuführen und kommende Regulierung einzuhalten, kontaktieren Sie uns noch heute.

‍

Enzai ist die führende KI-Governance für Unternehmen-Plattform, die speziell dafür entwickelt wurde, Organisationen den Übergang von abstrakten Richtlinien zu operativer Aufsicht zu ermöglichen. Unsere Plattform für KI-Risikomanagement bietet die spezialisierte Infrastruktur, die erforderlich ist, um agentische KI-Governance zu steuern, ein umfassendes KI-Inventar zu pflegen und die Konformität mit dem EU AI Act sicherzustellen. Durch die Automatisierung komplexer Workflows befähigt Enzai Unternehmen, die Einführung von KI mit Zuversicht zu skalieren und gleichzeitig die Ausrichtung an globalen Standards wie ISO 42001 und NIST aufrechtzuerhalten.