Organisationen müssen den KI-Vorschriften entsprechen, durchsetzbare Gesetze mit klaren Konsequenzen bei Nichtbefolgung. Aber warum sollten Organisationen Standards für die KI-Governance übernehmen?
•
•
10 Minuten Lesezeit
Themen
Die Revolution der KI
Obwohl KI nichts Neues ist (Alan Turings wegweisende Arbeit zu Computing Machinery and Intelligence wurde erstmals 1950 veröffentlicht), haben wir in den vergangenen Jahren ein exponentielles Wachstum sowohl der Fähigkeiten von KI als auch ihrer Verbreitung erlebt. Der Grund liegt auf der Hand: Innovative KI-Technologien haben praktisch jede Branche revolutioniert, von Gesundheitswesen über Finanzdienstleistungen bis hin zu Kreativbranchen.
Die jüngsten Fortschritte in der generativen KI – mit der Einführung von Modellen wie GPT-4 von OpenAI, Gemini von Google und Llama von Meta – haben diesen Trend weiter beschleunigt, da diese Technologien immer breiter verfügbar werden. Mit dem erweiterten Zugang steigen jedoch auch die Risiken: Deepfakes und Desinformation, algorithmische Verzerrungen und Diskriminierung, Sicherheits- und Datenschutzbedenken sowie weitere.
Die Bedeutung von Standards
Neue Technologien, die das Potenzial haben, unsere Lebensweise grundlegend zu verändern, bringen auch erhebliche Risiken mit sich. Wenn wir im Rückblick betrachten, wie unterschiedliche Technologien so tief in unseren modernen Alltag integriert wurden, zeigt sich ein Muster. Um Vertrauen in diese neuen Systeme wirklich zu etablieren, wurden Standards entweder durch Regulierung oder durch Marktpraktiken festgelegt.
So hat beispielsweise die Einführung kommerzieller elektrischer Systeme in den 1880er-Jahren die Gesellschaft grundlegend verändert und Produktivität, Effizienz und wirtschaftliches Wachstum gesteigert. Gleichzeitig setzte Elektrizität Menschen Gefahren wie Stromschlägen und Bränden aus, die Verletzungen und Todesfälle verursachten. Um die Risiken dieser neuen Technologie zu steuern und Unfälle zu verhindern, wurden zu Beginn des 20. Jahrhunderts die ersten elektrischen Sicherheitsrichtlinien im Vereinigten Königreich eingeführt. Darauf folgte eine Reihe von Elektrizitätsstandards, die sicherstellten, dass Anlagen ordnungsgemäß errichtet und gewartet wurden, um Brandrisiken zu vermeiden. Die Standardisierung der Stromversorgung und der Installation ermöglichte die weite Verbreitung von Elektrizität – bis Ende der 1930er-Jahre verfügten zwei Drittel der britischen Haushalte über Elektrizität, gegenüber 6 % im Jahr 1919.
Ein jüngeres Beispiel betrifft die Informationssicherheit. Der Ausbau des Internets in den vergangenen 30 Jahren hat eine florierende Technologiebranche hervorgebracht und die Art und Weise, wie Unternehmen geführt und Dienstleistungen erbracht werden, erfolgreich verändert. Gleichzeitig führte das Internet unter anderem zu einem starken Anstieg von Cyberkriminalität. Die Bedrohungen reichen von Phishing-Angriffen bis hin zu schwerwiegenden Datenschutzverletzungen und Cyberterrorismus, wobei neue Formen von Cyberkriminalität regelmäßig für Schlagzeilen sorgen.
Als Reaktion auf diese Risiken wurden Standards für Informationssicherheit entwickelt. Der Standard ISO/IEC 27001 bietet Organisationen „Leitlinien zur Einrichtung, Implementierung, Aufrechterhaltung und fortlaufenden Verbesserung eines Informationssicherheits-Managementsystems“. Obwohl ISO/IEC 27001 ein Standard und keine Regulierung ist, hat er sich branchenübergreifend als weithin anerkannt und erforderlich etabliert – insbesondere in Bereichen, die auf Informationssysteme angewiesen sind oder digitale Aufzeichnungen führen.
Es gibt zahllose weitere Beispiele – von Autos und Flugzeugen bis hin zu Lebensmittelsicherheit und Medizinprodukten. Über die Jahrhunderte hinweg haben Standards einen Rahmen für die sichere Einführung innovativer Technologien geschaffen, sodass diese sich entfalten konnten, während ihre Risiken gleichzeitig gemindert und gesteuert wurden. Warum sollte die Entwicklung von KI anders sein?
Welche Vorteile bieten Standards im Bereich der KI?
Standards haben daher das Potenzial, sicherzustellen, dass KI denselben positiven Einfluss auf die Welt hat wie andere transformative Technologien. Damit diese Standards wirksam sind, müssen wir jedoch zunächst die Arten von Risiken betrachten, die sie mindern sollen. Im Folgenden haben wir einige der wichtigsten Aspekte dargestellt.
1. Minderung von Verzerrungen, Diskriminierung oder Schäden für Einzelpersonen
KI-Systeme nutzen große Datenmengen, um Entscheidungen zu treffen, die Menschen bei einer Vielzahl von Aufgaben betreffen – von der Einstellung über die Kreditvergabe bis hin zu strafrechtlichen Urteilen, Einwanderung und der Gewährung von Sozialleistungen. Algorithmen werden auf Datensätzen trainiert, aus denen sie lernen, wie die korrekten Ergebnisse aussehen sollten. Der Einsatz von KI kann Entscheidungsprozesse beschleunigen, sodass beispielsweise die Regierung in derselben Zeit mehr Asyl- oder Leistungsanträge bearbeiten kann, was Rückstände reduziert und die Zufriedenheit mit den Dienstleistungen erhöht.
Allerdings hat sich gezeigt, dass Algorithmen menschliche Vorurteile mitunter reproduzieren oder sogar verstärken, insbesondere gegenüber Minderheiten. Eine Untersuchung des Guardian aus dem Jahr 2023 ergab Hinweise darauf, dass einige der Tools der britischen Regierung diskriminierende Ergebnisse erzeugten, was dazu führte, dass Dutzenden von Menschen zu Unrecht ihre Leistungen entzogen wurden. Verzerrungen und Diskriminierung setzen Organisationen erheblichen Reputationsrisiken aus und können zudem kostspielige Klagen nach sich ziehen.
Standards ermöglichen es Organisationen, potenzielle algorithmische Verzerrungen frühzeitig zu erkennen und zu kennzeichnen, damit sie korrigiert werden können, bevor ein Schaden entsteht. So enthalten beispielsweise das NIST AI Risk Management Framework und ISO 42001 (die weiter unten ausführlicher behandelt werden) Anforderungen zur Bewertung des Verzerrungsrisikos und zur Prüfung der Qualität der verwendeten Datensätze. Eine gängige Anforderung ist eine initiale Risikobewertung mit Fokus auf die Möglichkeit einer im Kontext des KI-Systems inhärenten Verzerrung, also auf historische oder strukturelle Benachteiligungen bestimmter demografischer Gruppen, die die Algorithmen replizieren könnten.
2. Mehr Transparenz und Rechenschaftspflicht
Menschen sollten verstehen, wie, wann und für welche Zwecke ein KI-System eingesetzt wird. Dies sollte in einer Sprache erläutert werden, die für eine breite Palette von Stakeholdern zugänglich ist. Leider ist Nutzern nicht immer bewusst, dass hinter einer bestimmten Entscheidung ein KI-System steht (beispielsweise hinter der Genehmigung eines Kreditantrags). Selbst wenn ihnen der Einsatz von KI bekannt ist, liegen in der Regel nicht genügend Informationen darüber vor, wie das System zu dieser Entscheidung gelangt ist.
Da KI-Systeme mit einem hohen Maß an Autonomie arbeiten, können sie Entscheidungen auf eine Weise treffen, die die Entwickler nicht beabsichtigt oder vorhergesehen haben. Rechenschaftspflicht ist entscheidend, da sie dazu beitragen kann, Risiken frühzeitig zu identifizieren – etwa durch Assurance-Techniken wie Auswirkungsanalysen. Standards stellen sicher, dass Einzelpersonen und Organisationen Verantwortung für die Handlungen und Entscheidungen von KI-Systemen übernehmen und dass stets ein Mensch eingebunden ist.
Standards verlangen häufig, dass Organisationen Informationen über ihre KI-Systeme dokumentieren, darunter Datenquellen, Anwendungsfälle, Entscheidungsprozesse, Leistungsbenchmarks und potenzielle Einschränkungen. Diese Informationen sind entscheidend, um zu verstehen und zu kommunizieren, wie die Algorithmen funktionieren und wie sie sich verhalten. Viele Standards erhöhen die Transparenz, indem sie eine Produktkennzeichnung fördern, durch die dem Nutzer bewusst gemacht wird, dass er mit einem KI-System interagiert. Enzais Leitfaden für KI-Richtlinien bietet wertvolle Hinweise zur Umsetzung von Maßnahmen für Transparenz und Rechenschaftspflicht über den gesamten Lebenszyklus eines KI-Systems hinweg.
3. Verbessertes Risikomanagement
KI bietet große Chancen, bringt jedoch auch zahlreiche Risiken mit sich. Dazu zählen unter anderem Halluzinationen (wenn große Sprachmodelle falsche Informationen erzeugen), Verletzungen des geistigen Eigentums und Verstöße gegen den Datenschutz. Ein wirksames Risikomanagement verringert die Wahrscheinlichkeit negativer Ergebnisse und hilft Organisationen, Vertrauen bei Stakeholdern aufzubauen und einen guten Ruf zu bewahren.
Risikoregister und Risikoanalysen, die in Standards für die KI-Governance häufig vorkommen, ermöglichen es Organisationen, mit KI-Technologien verbundene Risiken zu identifizieren, zu bewerten und zu mindern.
4. Verbesserte Sicherheit und Zuverlässigkeit
Da KI-Systeme in vielen kritischen Bereichen eingesetzt werden – Gesundheitswesen, nationale Sicherheit und Infrastruktur sind nur einige Beispiele –, besteht ein starker Bedarf an Zuverlässigkeit und Sicherheit. Die KI-Systeme sollten technisch sicher sein, wie vorgesehen funktionieren und widerstandsfähig gegenüber Sicherheitsbedrohungen wie Cyberangriffen sein. Nach Angaben des National Institute of Standards and Technology (NIST) „können Angreifer KI-Systeme absichtlich verwirren oder sogar ‚vergiften‘, um Fehlfunktionen zu verursachen“.
Indem Kriterien für Leistung, Genauigkeit, Skalierbarkeit und Resilienz festgelegt werden, können Organisationen robuste und zuverlässige KI-Systeme entwickeln, die Angriffe besser abwehren und diese im Fall ihres Auftretens frühzeitig erkennen können.
5. Einhaltung von Gesetzen und Vorschriften
Organisationen müssen die relevanten Gesetze und Vorschriften zur Nutzung von KI-Technologien einhalten. Zwar kommen neue Gesetze hinzu, die speziell auf KI-Risiken abzielen, wie etwa der EU AI Act, doch bestehende Rechtsvorschriften dürfen nicht einfach ignoriert werden, nur weil das Produkt bzw. die Dienstleistung eine KI-Komponente enthält. Datenschutzgesetze, Verbraucherschutzvorschriften, Antidiskriminierungsgesetze und branchenspezifische Regelungen sind bereits in Kraft. Die Nichteinhaltung kann zu rechtlichen Auseinandersetzungen, Geldbußen, Strafen und Reputationsschäden führen.
Standards sind nicht in derselben Weise verpflichtend wie Vorschriften, ermöglichen jedoch die Einhaltung bestehender Regelungen und stellen gleichzeitig sicher, dass Organisationen in ihrem jeweiligen Bereich bewährte Verfahren übernehmen. KI-spezifische Standards können Aspekte wie Leistungskennzahlen, Risikobewertungen, Anwendungsfallanalysen und viele weitere Maßnahmen abdecken, um ein wirksames Risikomanagement sicherzustellen und eine prüfbare Dokumentation der Entscheidungsfindung zu schaffen.
6. Gestärktes öffentliches Vertrauen
Gestärktes öffentliches Vertrauen kann zu höheren Akzeptanz- und Einführungsraten von KI-Technologien führen sowie zu stärkeren Beziehungen mit Stakeholdern und einem Wettbewerbsvorteil am Markt, da die Öffentlichkeit ethische Überlegungen und Vertrauenswürdigkeit schätzt. Damit KI im großen Maßstab zum erhofften positiven Faktor in der Welt werden kann, muss sie öffentliches Vertrauen verdienen. Hohe Standards für die Entwicklung, Bereitstellung und Nutzung der Technologie können dazu beitragen.
Standards und KI-Governance-Frameworks
Glücklicherweise steht heute eine Reihe unterschiedlicher Standards im KI-Bereich zur Verfügung, die Organisationen dabei helfen können, die oben beschriebenen Risiken zu bewältigen. Einige der weltweit führenden Standardisierungsorganisationen, darunter das National Institute for Standards in Technology (NIST), das Institute of Electrical and Electronics Engineers (IEEE) und die International Organization for Standardization (ISO), haben jüngst Frameworks veröffentlicht, mit denen Organisationen hohe Standards für ihre KI-Programme etablieren können.
Im Folgenden geben wir einen kurzen Überblick über einige davon.
ISO/IEC JTC 1/SC 42
ISO hat gemeinsam mit der International Electrotechnical Commission (IEC) eine gemeinsame technische Arbeitsgruppe eingerichtet, um Standards im Bereich KI zu entwickeln, die in der Veröffentlichung von ISO 42001 mündete. Diese Standards, die Organisationen die Einführung eines wirksamen KI-Managementsystems (AIMS) ermöglichen, decken verschiedene Aspekte der KI ab, darunter Terminologie, ethische Überlegungen und Bewertungsmethoden.
Das Team arbeitet derzeit an einem neuen Standard – ISO 42006 –, der die Leitlinien für Auditoren festlegen wird, um die Konformität einzelner Organisationen mit den Anforderungen von ISO 42001 wirksam zu bewerten. Dieser Prüfprozess wird es Organisationen ermöglichen, regelmäßig Zertifizierungen darüber zu erhalten, dass sie konform sind (vergleichbar mit dem Prozess im Bereich Informationssicherheit nach ISO 27001, der weiter oben ausführlicher beschrieben wurde).
Hinweis: Enzai war eines der ersten Unternehmen weltweit, das ein umfassendes KI-Managementsystem in voller Übereinstimmung mit den Anforderungen von ISO 42001 angeboten hat.
NISTs KI-Risikomanagement-Framework
Das National Institute of Standards and Technology (NIST) in den Vereinigten Staaten hat ein Rahmenwerk für das Risikomanagement speziell für KI-Systeme entwickelt. Dieses Framework bietet Leitlinien zur Identifizierung, Bewertung und Minderung von Risiken im Zusammenhang mit KI-Technologien und ist in vier Bereiche gegliedert, die die Kernfunktionen der KI-Governance abbilden: (1) Govern; (2) Map; (3) Measure; und (4) Manage. Viele Organisationen in Nordamerika haben das NIST AI Risk Management Framework als ihren Leitstern übernommen.
Wir haben einen Blogbeitrag zu den Anforderungen des NIST AI RMF erstellt – siehe hier. Unsere KI-Governance-Lösung stellt sicher, dass Organisationen diese Anforderungen vollständig einhalten können.
Die KI-Prinzipien der OECD
Einer der bekanntesten frühen Versuche, einen Ausgangspunkt für hohe Standards im KI-Bereich zu schaffen, kam von der Organisation für wirtschaftliche Zusammenarbeit und Entwicklung (OECD). Die OECD verabschiedete im Mai 2019 einen Satz praktischer und flexibler Grundsätze für die verantwortungsvolle Entwicklung und Nutzung von KI (und ihre KI-Definition wurde inzwischen weitgehend vom endgültigen Text des EU AI Act übernommen). Zu den KI-Prinzipien der OECD gehören wertebasierte Grundsätze wie Transparenz, Fairness und Rechenschaftspflicht sowie Empfehlungen für politische Entscheidungsträger.
Über die Grundsätze hinaus verfügt das OECD AI Policy Observatory über einen Katalog von Tools und Kennzahlen, die Organisationen bei der Entwicklung und Nutzung vertrauenswürdiger KI unterstützen sollen, darunter Enzais KI-Governance-Plattform.
World Ethical Data Foundation (WEDF) „Me-We-It“: Ein offener Standard
Der offene Standard der WEDF ist ein kostenloses, öffentliches Online-Forum mit drei Zielen: (1) Beratung zur Entwicklung ethischerer KI, um der Branche einen Neustart auf einer gesunden Grundlage zu ermöglichen; (2) Unterstützung der Öffentlichkeit beim Verständnis des Prozesses zur Entwicklung von KI-Systemen; und (3) Schaffung eines Raums, in dem die Öffentlichkeit der KI- und Data-Science-Community frei alle Fragen stellen kann.
Das Framework ist in drei Bereiche unterteilt: „Me“, „We“ und „It“. Die WEDF beschreibt sie wie folgt: „Me“ sind „die Fragen, die jede einzelne Person, die an der KI arbeitet, sich selbst stellen sollte, bevor sie beginnt und während sie den Prozess durchläuft“. „We“ sind „die Fragen, die die Gruppe sich selbst stellen sollte – insbesondere, um die Diversität zu definieren, die erforderlich ist, um menschliche Verzerrungen so weit wie möglich zu reduzieren. „It“ sind „die Fragen, die wir einzelnen Personen und der Gruppe stellen sollten, da sie sich auf das entstehende Modell und die Auswirkungen beziehen, die es auf unsere Welt haben kann“.
Einführung von KI-Governance-Standards
Wenn Ihr Unternehmen KI-Governance-Standards einführen oder bestehende Praktiken verbessern möchte, kann es schwierig sein zu wissen, wo man beginnen soll. Unsere Start-Fast-Methode enthält alles, was Sie benötigen, in drei einfachen Schritten: (1) Richtlinien und Bewertungen erstellen oder auswählen; (2) Ihr KI-Register aufbauen; und (3) mit Ihren Bewertungen beginnen. Die Enzai-Plattform bietet sofort einsatzbereite Richtlinien und Bewertungsrahmen, damit Sie Best-in-Class-Standards einführen können, die Sie von Ihren Mitbewerbern abheben..
Wenn Sie mehr darüber erfahren möchten, wie Enzai Ihr Unternehmen bei der Einführung von KI-Governance-Standards und der Einhaltung künftiger Regulierung unterstützen kann, kontaktieren Sie uns noch heute.
Ermöglichen Sie Ihrer Organisation die Einführung, Steuerung und Überwachung von KI mit unternehmensgerechtem Vertrauen. Entwickelt für regulierte Organisationen, die im großen Maßstab operieren.