BELFAST, IRLAND; BARCELONA, SPANIEN; 22. November 2022:- Citibeats, eine ethisch ausgerichtete Social-Intelligence-Plattform, ist eine Partnerschaft mit Enzai Technologies, einer Plattform für KI-Governance, eingegangen, um seine KI-Governance-Verfahren im Vorfeld der neuen europäischen Regulierungen im Bereich der künstlichen Intelligenz zu verbessern.

Als ethisch ausgerichtetes KI-Scale-up ist die Implementierung robuster Governance- und Transparenzstandards für Citibeats ein überaus wichtiges Ziel. Die Genauigkeit und Vertrauenswürdigkeit seiner zugrunde liegenden KI-Systeme ist entscheidend, um seinen Kunden über die Citibeats-Plattform wertvolle gesellschaftliche Erkenntnisse zu liefern. Dies kann durch effektive Datenschutzkontrollen, Bias-Analysen und Transparenzverfahren erreicht werden. Obwohl viele dieser Schutzmaßnahmen im Entwurf des Gesetzes über künstliche Intelligenz der Europäischen Union (dem „EU AIA“) vorgesehen sind, können sie in der Praxis schwer umzusetzen sein. Um sicherzustellen, dass das Unternehmen den Goldstandard in der globalen KI-Governance erfüllt, wollte Citibeats seine KI-Anwendungen am Goldstandard für verantwortungsvolle KI messen.

Die neuartige KI-Governance-Plattform von Enzai ermöglicht es Organisationen, die erforderlichen Governance-Verfahren einzurichten und diese wichtigen Prinzipien in die Praxis umzusetzen. Als Ergebnis der Arbeit auf der Enzai-Plattform war Citibeats in der Lage, robuste und effektive Governance-Kontrollen zu etablieren, um die Entwicklung sicherer und vertrauenswürdiger KI zu beschleunigen. Die Plattform hat es Citibeats ermöglicht, seine Systeme an im Entstehen begriffenen Vorschriften sowie an internationalen Richtlinien, Standards und Rahmenwerken zu messen.

Das EU AIA

Das EU AIA stellt den weltweit ersten Versuch dar, eine horizontale Regulierung von KI-Systemen zu implementieren. Aufgrund des „Brüssel-Effekts“ wird prognostiziert, dass es sich weltweit als De-facto-Standardsetter etablieren wird. Analysten erwarten derzeit, dass das EU AIA Ende 2024 in Kraft treten wird, und ethisch ausgerichtete Unternehmen sind nun bestrebt, sich einen Vorsprung zu verschaffen. Viele der Anforderungen des Gesetzes, wie die Verpflichtung zur Einrichtung eines Risikomanagementsystems und zur Führung einer technischen Dokumentation, sind unabhängig vom regulatorischen Imperativ sinnvoll. Mit der Reifung des KI-Bereichs werden diese Kontrollen (die über die Enzai-Plattform schnell und effektiv implementiert werden können) für jedes Unternehmen, das KI entwickelt, unverzichtbar werden. Weitere Informationen zum EU AIA sowie eine Übersicht über die neuesten vorgeschlagenen Aktualisierungen finden Sie hier.

Nach der kürzlichen Einführung seiner eigenen Ethical AI Community ist die Annahme der Vorschläge der Europäischen Union zur Regulierung von KI-Technologien ein wichtiger Meilenstein auf dem Weg von Citibeats zu einer sicheren und vertrauenswürdigen KI.  „KI ist ein sehr mächtiges Werkzeug und darf nicht auf die leichte Schulter genommen werden. Sie beeinflusst unser tägliches Leben in jeder Hinsicht, und wir müssen sicherstellen, dass wir es richtig machen und es für alle fair gestalten. Aber das ist keine Anstrengung eines Einzelnen, eines Unternehmens oder auch nur eines Landes. Nur durch eine gemeinsame Anstrengung der Gemeinschaft aus der ganzen Welt werden wir in der Lage sein, ein besseres Fundament für unsere Gesellschaft aufzubauen. Und das reicht vom Algorithmus und den Daten bis hin zur Governance und dem Recht. Das ist eindeutig etwas Großes, größer als Citibeats, und wir sind dankbar, diejenigen zu sein, die dies initiieren“, sagte Abby Seneor, CTO von Citibeats.

Durchführung der Konformitätsbewertung

Die Artikel 16 und 43 des Entwurfs des EU AIA verpflichten Organisationen, die bestimmte Arten von KI entwickeln, eine Konformitätsbewertung durchzuführen. Das Ziel einer Konformitätsbewertung besteht darin, sicherzustellen, dass ein bestimmtes System rechtlich konform, ethisch fundiert und technisch robust ist, was oft leichter gesagt als getan ist. Die regulatorische KI-Landschaft wird immer komplexer, da derzeit eine Vielzahl globaler Standards entsteht. Diese können oft verwirrend und schwer in handlungsrelevante Erkenntnisse zu übersetzen sein.

Das Team hinter Enzai besteht aus erfahrenen Juristen, die in einigen der weltweit besten Anwaltskanzleien tätig waren und führend auf dem Gebiet des KI-Risikomanagements sind. Über die Enzai-Plattform war Citibeats in der Lage, sich durch eine Reihe globaler Standards (wie das CapAI-Assessment, das NIST-Risikomanagement-Framework, die britischen Standards zur algorithmischen Transparenz usw.) zu navigieren, um sein System in den fünf wichtigsten Lebenszyklusphasen zu bewerten: Design, Entwicklung, Evaluierung, Betrieb und Außerbetriebnahme. Die Enzai-Plattform hat Citibeats dabei geholfen, diese ethischen Prinzipien in handlungsrelevante Erkenntnisse zu übersetzen, mit denen überprüft werden kann, ob ein System mit den grundlegenden Werten und Rechten der EU übereinstimmt.

Unter Rückgriff auf führende Rahmenwerke zur Durchführung der Analyse konnte Citibeats eine wichtige Compliance-Überprüfung durchführen und als Ergebnis dieses Evaluierungsprozesses drei wichtige Governance-Ergebnisse erzielen:

1. ein internes Überprüfungsprotokoll, das dem Unternehmen einen klar definierten Governance-Rahmen für die Qualitätssicherung und das Risikomanagement zusammen mit der relevanten technischen Dokumentation bietet;

2. ein zusammenfassendes Datenblatt; und

3. eine Model Card, die an Kunden und Stakeholder als Nachweis für bewährte Praktiken und einen bewussten Umgang mit ethischen Fragen verteilt werden kann.

Die Implementierung eines solchen Governance-Prozesses bietet viele klare Vorteile. Erstens geht sie über die Rhetorik der „verantwortungsvollen KI“ hinaus und übersetzt schwer fassbare ethische Prinzipien in greifbare Kriterien, mit denen überprüft werden kann, ob ein System mit den grundlegenden europäischen Werten und Rechten übereinstimmt. Darüber hinaus ist sie ausreichend umfassend und ganzheitlich und deckt alle Phasen des KI-Lebenszyklus ab. Schließlich ermöglicht dieser ethisch geleitete Ansatz Citibeats, das Vertrauen und die Transparenz in KI-Technologien für seine Kunden weiter zu stärken. Durch den Einsatz der neuartigen Technologien von Enzai war Citibeats in der Lage, KI-Governance zu einem seiner stärksten Wettbewerbsvorteile zu machen!

„Dies richtig hinzubekommen, ist für das Ökosystem von entscheidender Bedeutung“, stellte Ryan Donnelly, einer der Gründer von Enzai, fest. „Die Etablierung von Vertrauen in KI ist von entscheidender Bedeutung, um sicherzustellen, dass diese Technologien ihr Potenzial entfalten können. Die Durchführung dieser Analyse im Vergleich zum EU AIA etabliert Citibeats eindeutig als frühen Marktführer im Bereich der ethischen KI.“

Nächste Schritte

Geeint durch den gemeinsamen Wunsch, das revolutionäre Potenzial der KI zum Wohle der Wirtschaft und der Gesellschaft insgesamt zu nutzen, freuen sich Citibeats und Enzai über die Möglichkeit, den KI-Governance-Prozess weiter zu verbessern. Im Laufe dieses Jahres beabsichtigen wir, ein gemeinsames Papier zu veröffentlichen, das unsere Erfahrungen bei der Implementierung einer KI-Governance-Struktur im Detail beschreibt.

+++++++++++++++++++++++++++++++

Über Citibeats

Citibeats ist eine Plattform für erweiterte Textanalyse, welche die Reaktionsfähigkeit auf die dringendsten Anliegen der Gesellschaft fördert, indem sie globalen Entscheidungsträgern datengestützte Erkenntnisse liefert.

Mit dem Fokus auf Nachhaltigkeit und soziale Risiken nutzt die Plattform künstliche Intelligenz, um die öffentliche Meinung online in Echtzeit und in großem Maßstab zu überwachen und zu interpretieren. Auf diese Weise bietet Citibeats öffentlichen Stellen, zwischenstaatlichen Organisationen und kommerziellen Unternehmen die schnellste und effizienteste Möglichkeit, sich verändernde gesellschaftliche Meinungen zu erkennen.

Die Algorithmen von Citibeats kombinieren Techniken der natürlichen Sprachverarbeitung und des maschinellen Lernens, um unstrukturierte Textdaten zu organisieren, zu anonymisieren und zu interpretieren. Diese Technologien ermöglichen es Citibeats, eine Fülle von digitalen Stimmen – die jeweils einzigartige Meinungen, Beschwerden und Empfehlungen äußern – in verständliche Indikatoren zu übersetzen, die es Organisationen ermöglichen, angesichts des gesellschaftlichen Wandels pragmatische und rechtzeitige Maßnahmen zu ergreifen.

Um mehr zu erfahren, wenden Sie sich bitte an Abby Seneor unter aseneor@citibeats.com.

Enzai ist die führende Plattform für Enterprise AI Governance, die speziell dafür entwickelt wurde, Unternehmen beim Übergang von abstrakten Richtlinien zur operativen Aufsicht zu unterstützen. Unsere KI-Risikomanagement-Plattform bietet die spezialisierte Infrastruktur, die für die Verwaltung von agentischer KI-Governance, die Führung eines umfassenden KI-Inventars und die Gewährleistung der Konformität mit dem EU AI Act erforderlich ist. Durch die Automatisierung komplexer Arbeitsabläufe versetzt Enzai Unternehmen in die Lage, die KI-Einführung mit Vertrauen zu skalieren und gleichzeitig die Übereinstimmung mit globalen Standards wie ISO 42001 und NIST zu wahren.