BELFAST, IRLAND; BARCELONA, SPANIEN; 22. November 2022:- Citibeats, eine ethikorientierte Social-Intelligence-Plattform, hat sich mit Enzai Technologies, einer Plattform für KI-Governance, zusammengeschlossen, um ihre KI-Governance-Verfahren im Vorfeld der neuen europäischen Vorschriften im Bereich der künstlichen Intelligenz weiter zu verbessern.

Als ethikorientiertes KI-Scale-up ist die Umsetzung robuster Governance- und Transparenzstandards für Citibeats ein überaus wichtiges Ziel. Die Genauigkeit und Vertrauenswürdigkeit der zugrunde liegenden KI-Systeme sind entscheidend, damit das Unternehmen seinen Kunden über die Citibeats-Plattform wertvolle soziale Erkenntnisse liefern kann. Dies lässt sich durch wirksame Datenschutzkontrollen, Bias-Analysen und Transparenzverfahren erreichen. Obwohl viele dieser Schutzmaßnahmen im Entwurf des Artificial Intelligence Act der Europäischen Union (der „EU AIA“) abgedeckt sind, können sie in der Praxis schwer umzusetzen sein. Um sicherzustellen, dass es den Goldstandard der globalen KI-Governance erfüllt, wollte Citibeats seine KI-Anwendungen am Goldstandard für verantwortungsvolle KI messen.

Die neuartige KI-Governance-Plattform von Enzai ermöglicht es Organisationen, die erforderlichen Governance-Verfahren zu etablieren und diese wichtigen Grundsätze in die Praxis umzusetzen. Durch die Arbeit mit der Enzai-Plattform war Citibeats in der Lage, robuste und wirksame Governance-Kontrollen einzuführen, um die Entwicklung sicherer und vertrauenswürdiger KI zu beschleunigen. Die Plattform hat Citibeats ermöglicht, seine Systeme an aufkommenden Vorschriften sowie an internationalen Richtlinien, Standards und Rahmenwerken zu messen.

Der EU AIA

Der EU AIA stellt den weltweit ersten Versuch dar, eine horizontale Regulierung von KI-Systemen einzuführen. Aufgrund des „Brussels Effect“ wird erwartet, dass er weltweit faktisch zum Standardsetzer wird. Analysten gehen derzeit davon aus, dass der EU AIA gegen Ende 2024 in Kraft treten wird, und auf Ethik ausgerichtete Unternehmen möchten sich nun einen Vorsprung verschaffen. Viele der Anforderungen des Gesetzes, etwa die Verpflichtung zur Einrichtung eines Risikomanagementsystems und zur Aufbewahrung technischer Dokumentation, sind unabhängig vom regulatorischen Zwang sinnvoll. Mit der Reifung des KI-Marktes werden diese Kontrollen (die sich mit der Enzai-Plattform schnell und effektiv umsetzen lassen) für jede Organisation, die KI entwickelt, unverzichtbar. Mehr über den EU AIA sowie einen Überblick über die jüngsten vorgeschlagenen Aktualisierungen finden Sie hier.

Nachdem Citibeats kürzlich seine eigene Community für ethische KI ins Leben gerufen hat, ist die Übernahme der Vorschläge der Europäischen Union zur Regulierung von KI-Technologien ein wichtiger Meilenstein auf dem Weg zu sicherer und vertrauenswürdiger KI.  „KI ist ein äußerst leistungsfähiges Werkzeug und darf nicht auf die leichte Schulter genommen werden. Sie beeinflusst unseren Alltag in jeder Hinsicht, und wir müssen sicherstellen, dass wir es richtig machen und es für alle fair gestalten. Doch dies ist keine Aufgabe des Einzelnen, eines Unternehmens oder gar eines Landes. Nur durch eine gemeinsame Anstrengung der weltweiten Community werden wir in der Lage sein, eine bessere Grundlage für unsere Gesellschaft zu schaffen. Und das erstreckt sich über alle Ebenen, von der algorithmischen und der Datenebene bis hin zu Governance und Recht. Das ist eindeutig etwas Großes, größer als Citibeats, und wir fühlen uns geehrt, dies als Erste anzustoßen“, sagte Abby Seneor, CTO von Citibeats.

Durchführung der Konformitätsbewertung

Die Artikel 16 und 43 des Entwurfs des EU AIA verpflichten Organisationen, die bestimmte Arten von KI entwickeln, eine Konformitätsbewertung durchzuführen. Ziel einer Konformitätsbewertung ist es, sicherzustellen, dass ein gegebenes System rechtlich konform, ethisch einwandfrei und technisch robust ist, was in der Praxis oft leichter gesagt als getan ist. Die regulatorische KI-Landschaft wird zunehmend komplexer; eine Vielzahl globaler Standards entsteht derzeit. Diese sind häufig verwirrend und schwer in umsetzbare Erkenntnisse zu übersetzen.

Das Team hinter Enzai besteht aus erfahrenen Juristinnen und Juristen, die bei einigen der weltweit renommiertesten Kanzleien gearbeitet haben und führend im Bereich des KI-Risikomanagements sind. Über die Enzai-Plattform konnte Citibeats eine Vielzahl globaler Standards berücksichtigen (etwa das CapAI-Assessment, das NIST-Risikomanagement-Framework, die algorithmischen Transparenzstandards des Vereinigten Königreichs usw.), um sein System entlang der fünf zentralen Lebenszyklusphasen zu bewerten: Design, Entwicklung, Evaluierung, Betrieb und Außerbetriebnahme. Die Enzai-Plattform hat Citibeats dabei unterstützt, diese ethischen Grundsätze in umsetzbare Erkenntnisse zu übersetzen, die genutzt werden können, um zu überprüfen, ob ein System mit den grundlegenden Werten und Rechten der EU im Einklang steht.

Auf der Grundlage führender Rahmenwerke zur Durchführung der Analyse war Citibeats in der Lage, eine wichtige Compliance-Prüfung durchzuführen und im Ergebnis dieses Bewertungsprozesses drei zentrale Governance-Ergebnisse zu erzeugen:

1. ein internes Prüfprotokoll, das einen klar definierten Governance-Rahmen für Qualitätssicherung und Risikomanagement sowie die zugehörige technische Dokumentation bietet;

2. ein zusammenfassendes Datenblatt; und

3. eine Modellkarte, die an Kunden und Stakeholder verteilt werden kann, als Nachweis guter Praxis und eines bewussten Umgangs mit ethischen Fragen.

Die Implementierung eines solchen Governance-Prozesses bietet viele klare Vorteile. Erstens geht er über die Rhetorik der „verantwortungsvollen KI“ hinaus und übersetzt schwer fassbare ethische Grundsätze in greifbare Kriterien, mit denen überprüft werden kann, ob ein System mit grundlegenden europäischen Werten und Rechten im Einklang steht. Darüber hinaus ist er ausreichend umfassend und ganzheitlich und deckt alle Phasen des KI-Lebenszyklus ab. Schließlich ermöglicht dieser ethisch geleitete Ansatz Citibeats, Vertrauen und Transparenz bei KI-Technologien für seine Kunden weiter voranzutreiben. Durch den Einsatz der neuartigen Technologien von Enzai konnte Citibeats KI-Governance in einen seiner stärksten Wettbewerbsvorteile verwandeln!

„Es richtig zu machen, ist entscheidend für das Ökosystem“, bemerkte Ryan Donnelly, einer der Gründer von Enzai. „Vertrauen in KI aufzubauen, ist unerlässlich, damit diese Technologien ihr Potenzial entfalten können, und diese Analyse im Abgleich mit dem EU AIA positioniert Citibeats eindeutig als frühen Vorreiter im Bereich der ethischen KI.“

Nächste Schritte

Verbunden durch den gemeinsamen Wunsch, das revolutionäre Potenzial von KI zum Vorteil von Wirtschaft und Gesellschaft insgesamt zu nutzen, freuen sich Citibeats und Enzai über die Möglichkeit, den KI-Governance-Prozess weiter zu verbessern. Im weiteren Verlauf dieses Jahres beabsichtigen wir, ein gemeinsames Whitepaper zu veröffentlichen, das unsere Erfahrungen bei der Implementierung einer KI-Governance-Struktur detailliert darlegt.

+++++++++++++++++++++++++++++++

Über Citibeats

Citibeats ist eine erweiterte Textanalyse-Plattform, die durch die Bereitstellung datengestützter Erkenntnisse für globale Entscheidungsträger die Reaktionsfähigkeit auf die drängendsten Anliegen der Gesellschaft fördert.

Mit einem Fokus auf Nachhaltigkeit und soziale Risiken nutzt die Plattform künstliche Intelligenz, um öffentliche Äußerungen online in Echtzeit und in großem Maßstab zu überwachen und zu interpretieren. Auf diese Weise bietet Citibeats Behörden, zwischenstaatlichen Organisationen und kommerziellen Unternehmen die schnellste und effizienteste Möglichkeit, sich wandelnde gesellschaftliche Meinungen zu erkennen.

Die Algorithmen von Citibeats kombinieren Techniken der Verarbeitung natürlicher Sprache und des maschinellen Lernens, um unstrukturierte Textdaten zu organisieren, zu anonymisieren und zu interpretieren. Diese Technologien ermöglichen es Citibeats, eine Vielzahl digitaler Stimmen – jede mit eigenen Meinungen, Anliegen und Empfehlungen - in leicht verständliche Indikatoren zu übersetzen, die Organisationen befähigen, inmitten gesellschaftlicher Veränderungen pragmatisch und zeitnah zu handeln.

Wenn Sie mehr erfahren möchten, wenden Sie sich bitte an Abby Seneor unter aseneor@citibeats.com.

Enzai ist die führende Enterprise-KI-Governance-Plattform, die speziell entwickelt wurde, um Unternehmen dabei zu unterstützen, von abstrakten Richtlinien zu operativer Aufsicht überzugehen. Unsere KI-Risikomanagement-Plattform bietet die spezialisierte Infrastruktur, die erforderlich ist, um agentische KI-Governance zu steuern, ein umfassendes KI-Inventar zu pflegen und die Konformität mit dem EU AI Act sicherzustellen. Durch die Automatisierung komplexer Workflows befähigt Enzai Unternehmen, die Einführung von KI mit Zuversicht zu skalieren und gleichzeitig die Ausrichtung an globalen Standards wie ISO 42001 und NIST aufrechtzuerhalten.