Die KI-Revolution

Obwohl KI nichts Neues ist (Alan Turings grundlegendes Papier zu Rechenmaschinen und Intelligenz wurde erstmals 1950 veröffentlicht), haben wir in den letzten Jahren ein exponentielles Wachstum sowohl der Fähigkeiten als auch der Akzeptanz von KI erlebt. Es gibt keinen Zweifel, warum: Innovative KI-Technologien haben nahezu jede Branche revolutioniert, von der Gesundheitsversorgung bis zu Finanzdienstleistungen und kreativen Industrien. 

Die neuesten Fortschritte in der generativen KI - mit der Veröffentlichung von Modellen wie Open AIs GPT-4, Googles Gemini und Metas Llama - haben diesen Trend nur beschleunigt, da diese Technologien zunehmend zugänglich werden. Mit dem erhöhten Zugang gehen jedoch auch erhöhte Risiken einher: Deepfakes und Fehlinformationen, algorithmische Voreingenommenheit und Diskriminierung, Sicherheits- und Datenschutzbedenken und andere.    

‍

Die Bedeutung von Standards

Neue Formen der Technologie, die das Potenzial haben, unser Leben zu verändern, bringen auch viele Risiken mit sich. Wenn wir in die Geschichte zurückblicken und versuchen, zu analysieren, wie verschiedene Technologien so tief in unser modernes Leben integriert wurden, zeigt sich ein Muster. Um wirklich Vertrauen in diese neuen Systeme zu schaffen, wurden Standards entweder durch Regulierung oder durch Marktpraxis etabliert.

Ein Beispiel ist die Erfindung kommerzieller elektrischer Systeme in den 1880er Jahren, die die Gesellschaft völlig veränderte und zu höherer Produktivität, Effizienz und wirtschaftlichem Wachstum führte. Elektrizität brachte jedoch auch Gefahren wie Stromschläge und Brände mit sich, die Verletzungen und Todesfälle verursachten. Um die Risiken dieser neuen Technologie zu bewältigen und Unfälle zu vermeiden, wurden zu Beginn des 20. Jahrhunderts die ersten elektrischen Sicherheitsrichtlinien im Vereinigten Königreich eingeführt. Es folgte eine Flut von Elektrostandards, die sicherstellten, dass Installationen ordnungsgemäß konstruiert und gewartet wurden, um Brandrisiken zu vermeiden. Die Standardisierung der Stromversorgung und Installation ermöglichte die weit verbreitete Nutzung von Elektrizität - bis Ende der 1930er Jahre hatten zwei Drittel der britischen Haushalte Strom, verglichen mit 6 % im Jahr 1919.

Ein jüngeres Beispiel betrifft die Informationssicherheit. Die Expansion des Internets in den letzten 30 Jahren hat eine florierende Tech-Industrie geschaffen und die Art und Weise, wie Unternehmen geführt werden und Dienstleistungen angeboten werden, erfolgreich verändert. Doch das Internet führte auch zu einer Explosion von Cyberkriminalität und anderen Risiken. Bedrohungen können von Phishing-Angriffen bis zu schweren Datenschutzverletzungen und Cyber-Terrorismus reichen, wobei regelmäßig neue Arten von Cyberkriminalität Schlagzeilen machen. 

‍

Als Reaktion auf diese Risiken wurden Informationssicherheitsstandards entwickelt. Der ISO/IEC 27001-Standard bietet Organisationen „Leitlinien zur Einrichtung, Implementierung, Aufrechterhaltung und kontinuierlichen Verbesserung eines Informationssicherheitsmanagementsystems.“ Obwohl ISO/IEC 27001 ein Standard und keine Regulierung ist, hat er sich in den Branchen, die auf Informationssysteme angewiesen sind oder digitale Aufzeichnungen führen, als weit verbreitet akzeptiert und gefordert etabliert. 

Es gibt unzählige weitere Beispiele - von Autos und Flugzeugen bis hin zu Lebensmittelsicherheit und Medizinprodukten. Im Laufe der Jahrhunderte haben Standards einen Rahmen für die sichere Einführung innovativer Technologien bereitgestellt und es ihnen ermöglicht, zu gedeihen, während sie daran gearbeitet haben, ihre Risiken zu mindern und zu verwalten. Warum sollte die Entwicklung der KI anders sein?

‍

Welche Vorteile haben Standards im Bereich der KI?

Standards haben daher das Potenzial, sicherzustellen, dass KI die gleiche positive Wirkung auf die Welt hat wie andere transformative Technologien. Damit diese Standards jedoch effektiv sind, müssen wir zunächst auf die Arten von Risiken schauen, die sie zu mindern versuchen sollten. Wir haben einige der wichtigsten Überlegungen unten dargelegt.

‍

1. Minderung von Voreingenommenheit, Diskriminierung oder Schaden für Individuen

KI-Systeme verwenden große Mengen an Daten, um Entscheidungen zu treffen, die Menschen in verschiedenen Aufgaben betreffen, von der Einstellung über Kreditvergabe bis hin zur strafrechtlichen Verurteilung, Einwanderung und der Bereitstellung von Sozialleistungen. Algorithmen werden auf Datensätzen trainiert, aus denen sie lernen, was die korrekten Ergebnisse sein sollten. Der Einsatz von KI kann die Entscheidungsfindung beschleunigen, sodass beispielsweise die Regierung mehr Asyl- oder Leistungsanträge in der gleichen Zeit bearbeiten kann, wodurch Rückstände reduziert und die Zufriedenheit mit ihren Diensten verbessert wird. 

Es gibt jedoch Beweise dafür, dass Algorithmen manchmal menschliche Vorurteile replizieren oder verschärfen, insbesondere gegenüber Minderheiten. Eine Untersuchung des Guardian im Jahr 2023 fand Beweise dafür, dass einige der Werkzeuge der britischen Regierung diskriminierende Ergebnisse produzierten, was dazu führte, dass Dutzende von Menschen ihre Leistungen grundlos verloren. Voreingenommenheit und Diskriminierung setzen Organisationen großen Reputationsrisiken aus, ebenso wie kostspieligen Klagen. 

Standards ermöglichen es Organisationen, potenzielle algorithmische Voreingenommenheit frühzeitig zu erkennen und zu kennzeichnen, sodass sie korrigiert werden kann, bevor Schaden entsteht. Beispielsweise enthalten das NIST AI Risk Management Framework und ISO 42001 (im Folgenden detaillierter erläutert) Anforderungen zur Bewertung des Risikos von Voreingenommenheit und zur Untersuchung der Qualität der verwendeten Datensätze. Eine häufige Anforderung ist eine anfängliche Risikobewertung, die sich auf die Möglichkeit von Voreingenommenheit im Kontext des KI-Systems konzentriert, d. h. die historischen oder strukturellen Benachteiligungen bestimmter demografischer Gruppen, die die Algorithmen replizieren könnten. 

‍

2. Erhöhte Transparenz und Verantwortlichkeit

Menschen sollten verstehen, wie, wann und für welche Zwecke ein KI-System verwendet wird. Dies sollte in einer Sprache erklärt werden, die für ein breites Spektrum von Interessengruppen zugänglich ist. Leider sind die Benutzer nicht immer darüber informiert, dass ein KI-System hinter einer bestimmten Entscheidung steht (zum Beispiel bei der Genehmigung eines Kreditantrags). Selbst wenn sie wissen, dass KI verwendet wird, gibt es normalerweise nicht genug Informationen darüber, wie das System zu dieser Entscheidung gelangt ist.

Da KI-Systeme mit einem hohen Maß an Autonomie arbeiten, können sie Entscheidungen auf eine Weise treffen, die die Entwickler nicht beabsichtigt oder vorhergesehen haben. Verantwortlichkeit ist der Schlüssel, da sie helfen kann, Risiken frühzeitig zu identifizieren - zum Beispiel durch Versicherungstechniken wie Auswirkungenabschätzungen. Standards stellen sicher, dass Einzelpersonen und Organisationen die Verantwortung über die Handlungen und Entscheidungen von KI-Systemen übernehmen und dass immer ein Mensch in den Prozess eingebunden ist.

Standards erfordern häufig, dass Organisationen Informationen über ihre KI-Systeme dokumentieren, einschließlich Datenquellen, Anwendungsfällen, Entscheidungsprozessen, Leistungsbenchmarks und potenziellen Einschränkungen. Diese Informationen sind entscheidend, um zu verstehen und zu kommunizieren, wie die Algorithmen funktionieren und wie sie abschneiden. Viele Standards erhöhen die Transparenz, indem sie Produktkennzeichnungen fördern, bei denen der Benutzer darüber informiert wird, dass er mit einem KI-System interagiert. Enzais AI-Richtlinien-Handbuch bietet wertvolle Ratschläge zur Implementierung von Transparenz- und Verantwortungsmaßnahmen während des gesamten Lebenszyklus des KI-Systems.
‍

3. Verbesserte Risikomanagement

KI bietet großartige Möglichkeiten, bringt aber auch viele Risiken mit sich. Diese Risiken umfassen Dinge wie das Risiko von Halluzinationen (wenn große Sprachmodelle falsche Informationen erzeugen), Verletzungen des geistigen Eigentums und Datenschutzverletzungen. Effektives Risikomanagement reduziert die Wahrscheinlichkeit negativer Ergebnisse und hilft Organisationen, das Vertrauen von Interessengruppen aufzubauen und einen guten Ruf zu wahren.

Risikoregister und Risikoanalysen, die in Standards zur KI-Governance üblich sind, ermöglichen es Organisationen, Risiken im Zusammenhang mit KI-Technologien zu identifizieren, zu bewerten und zu mindern.  

‍

4. Verbesserte Sicherheit und Zuverlässigkeit

Da KI-Systeme für viele kritische Bereiche verwendet werden - Gesundheitswesen, nationale Sicherheit und Infrastruktur sind einige Beispiele - besteht ein starker Bedarf an Zuverlässigkeit und Sicherheit. Die KI-Systeme sollten technisch sicher sein, wie beabsichtigt funktionieren und widerstandsfähig gegen Sicherheitsbedrohungen wie Cyberangriffe sein. Laut dem National Institute of Standards and Technology (NIST),  "können Gegner absichtlich KI-Systeme verwirren oder sogar 'vergiften', um sie zum Fehlverhalten zu bringen".

Durch die Festlegung von Anforderungen an Leistung, Genauigkeit, Skalierbarkeit und Widerstandsfähigkeit können Organisationen robuste und zuverlässige KI-Systeme entwickeln, die Angriffe besser widerstehen können und die Angriffe frühzeitig erkennen können, falls sie auftreten sollten. 

‍

5. Einhaltung von Gesetzen und Vorschriften

Organisationen müssen die relevanten Gesetze und Vorschriften einhalten, die die Nutzung von KI-Technologien regeln. Während es neue Gesetze gibt, die speziell auf KI-Risiken eingehen, wie das EU-KI-Gesetz, können bestehende Vorschriften nicht einfach ignoriert werden, nur weil das Produkt oder die Dienstleistung ein KI-Element enthält. Datenschutzgesetze, Verbraucherschutzvorschriften, Antidiskriminierungsgesetze und branchenspezifische Vorschriften sind alle bereits in Kraft. Nichteinhaltung kann zu rechtlichen Herausforderungen, Geldstrafen, Sanktionen und Reputationsschäden führen. 

Standards sind nicht in der gleichen Weise verpflichtend wie Vorschriften, aber sie ermöglichen die Einhaltung bestehender Vorschriften, während sie sicherstellen, dass Organisationen in ihrem jeweiligen Bereich die beste Praxis annehmen. KI-spezifische Standards können Dinge wie Leistungskennzahlen, Risikoanalysen, Anwendungsfallanalysen und viele andere Maßnahmen abdecken, um ein effektives Risikomanagement zu gewährleisten und eine prüfbare Aufzeichnung der Entscheidungsfindung zu schaffen.

‍

6. Erhöhtes öffentliches Vertrauen

Erhöhtes öffentliches Vertrauen kann zu besseren Akzeptanz- und Nutzungsraten von KI-Technologien sowie zu stärkeren Beziehungen mit Interessengruppen und einem Wettbewerbsvorteil auf dem Markt führen, da die Öffentlichkeit ethischen Überlegungen und Vertrauenswürdigkeit großen Wert beimisst. Damit KI das Ausmaß erreicht und die positive Kraft in der Welt ist, die wir uns alle wünschen, muss sie das öffentliche Vertrauen gewinnen. Hohe Standards bei der Entwicklung, Bereitstellung und Nutzung der Technologie können dies ermöglichen.

‍

Standards und Rahmenwerke für die KI-Governance 

Glücklicherweise stehen mittlerweile eine Reihe verschiedener Standards im KI-Bereich zur Verfügung, die Organisationen dabei helfen können, die oben dargelegten Risiken zu navigieren. Einige der weltweit führenden Standardisierungsorganisationen, wie das National Institute for Standards in Technology (NIST), das Institute of Electrical and Electronics Engineers (IEEE) und die International Organization for Standardization (ISO), haben kürzlich Rahmenwerke veröffentlicht, die Organisationen zur Adaption hoher Standards in ihren KI-Programmen nutzen können. 

Im Folgenden haben wir einen kurzen Überblick über einige dieser Standards gegeben.

ISO/IEC JTC 1/SC 42

ISO hat zusammen mit der International Electrotechnical Commission (IEC) eine gemeinsame technische Arbeitsgruppe eingerichtet, um Standards in der KI zu entwickeln, und dies hat in der Veröffentlichung von ISO 42001 gipfelt. Diese Standards, die es Organisationen ermöglichen, ein effektives KI-Managementsystem (AIMS) zu implementieren, decken verschiedene Aspekte der KI ab, einschließlich Terminologie, ethische Überlegungen und Bewertungsmethoden. 

Das Team arbeitet derzeit an einem neuen Standard - ISO 42006 - der die Richtlinien für Prüfer festlegen wird, um zu messen, wie konform einzelne Organisationen mit den Anforderungen von ISO 42001 sind, und dieser Prüfprozess wird es Organisationen ermöglichen, regelmäßige Zertifizierungen zu erlangen, dass sie in Übereinstimmung sind (ähnlich dem Prozess der Informationssicherheit unter ISO 27001, wie vorher ausführlicher beschrieben).

‍

Anmerkung: Enzai war eines der ersten Unternehmen weltweit, das ein umfassendes KI-Managementsystem im Einklang mit den Anforderungen von ISO 42001 anbot.

NISTs KI-Risikomanagement-Rahmenwerk

Das National Institute of Standards and Technology (NIST) in den Vereinigten Staaten hat ein Risikomanagement-Rahmenwerk speziell für KI-Systeme entwickelt. Dieses Rahmenwerk bietet Leitlinien zur Identifizierung, Bewertung und Minderung von Risiken im Zusammenhang mit KI-Technologien und ist in vier Abschnitte für die Kernfunktionen der KI-Governance unterteilt: (1) Govern; (2) Map; (3) Measure; und (4) Manage. Viele Organisationen in Nordamerika haben das NIST KI-Risikomanagement-Rahmenwerk als ihren Leitstern übernommen.

Wir haben einen Blog vorbereitet, der die Anforderungen des NIST KI RMF darlegt - siehe hier. Unsere Lösung zur KI-Governance stellt sicher, dass Organisationen in voller Übereinstimmung mit diesen Anforderungen arbeiten können.

OECDs KI-Prinzipien

Eine der prominentesten frühen Bemühungen zur Etablierung eines Baselines für hohe Standards im Bereich der KI kam von der Organisation für wirtschaftliche Zusammenarbeit und Entwicklung (OECD). Die OECD hat im Mai 2019 einen Satz praktischer und flexibler Prinzipien zur verantwortungsvollen Entwicklung und Nutzung von KI angenommen (und ihre Definition von KI wurde weitgehend vom endgültigen Text des EU-KI-Gesetzes übernommen). Die KI-Prinzipien der OECD umfassen wertbasierte Prinzipien wie Transparenz, Fairness und Verantwortlichkeit sowie Empfehlungen für politische Entscheidungsträger.

Über die Prinzipien hinaus hat das OECD-KI-Policy Observatorium ein Werkzeug- und Metrikverzeichnis entwickelt, das Organisationen hilft, vertrauenswürdige KI zu entwickeln und zu nutzen, einschließlich Enzais KI-Governance-Plattform. 

World Ethical Data Foundation (WEDF)'s ‚Me-We-It‘: Ein offener Standard

Der offene Standard der WEDF ist ein kostenloses, live-online Forum, das mit drei Zielen gestaltet wurde: (1) Beratung zur Entwicklung ethischerer KI, um der Branche zu helfen, auf gesunden Grundlagen neu zu starten; (2) der Öffentlichkeit zu helfen, den Prozess des Aufbaus von KI-Systemen zu verstehen; und (3) einen Raum zu schaffen, in dem das Publikum der KI- und Datenwissenschaftsgemeinschaft frei Fragen stellen kann. 

Das Rahmenwerk ist in drei Abschnitte unterteilt, ‚Me‘, ‚We‘ und ‚It‘. Die WEDF beschreibt sie wie folgt: ‚Me‘ sind 'die Fragen, die jede Einzelperson, die an der KI arbeitet, sich selbst stellen sollte bevor sie beginnt und während sie den Prozess durchläuft'. ‚We‘ sind 'die Fragen, die sich die Gruppe stellen sollte insbesondere, um die erforderliche Vielfalt zu definieren, um so viele menschliche Vorurteile wie möglich zu reduzieren. ‚It‘ sind 'die Fragen, die wir Einzelpersonen und der Gruppe stellen sollten, da sie sich auf das erstellte Modell und die Auswirkungen, die es auf unsere Welt haben könnte, beziehen'.

Einführung von Standards zur KI-Governance

‍

Wenn Ihr Unternehmen daran interessiert ist, Standards zur KI-Governance umzusetzen oder bestehende Praktiken zu verbessern, kann es schwierig sein, zu wissen, wo man anfangen soll. Unsere Start Fast-Methode enthält alles, was Sie in drei einfachen Schritten benötigen: (1) Erstellen oder Auswählen von Richtlinien und Bewertungen; (2) Erstellen Ihres KI-Registers; und (3) Beginnen Ihrer Bewertungen. Die Enzai-Plattform bietet sofort verfügbare Richtlinien und Bewertungsrahmen, um Ihnen zu ermöglichen, Best-in-Class-Standards zu übernehmen, die Sie von Ihren Mitbewerbern abheben. 

‍

Wenn Sie daran interessiert sind, mehr darüber zu erfahren, wie Enzai Ihrem Unternehmen helfen kann, Standards für die KI-Governance zu übernehmen und mit kommenden Vorschriften in Einklang zu stehen, kontaktieren Sie uns noch heute.

‍