Förderung der Erklärbarkeit generativer KI-Systeme

The erklärability is a important factor for the vertrauenswürdigkeit eines KI-Systems. In a more mass is also a legal request. Dennoch ist es bekanntermaßen schwierig, die Funktionsweise generativer KI-Systeme zu verstehen und zu erklären.

Unternehmen, die bei der verantwortungsvollen Einführung von KI an vorderster Front stehen, investieren zunehmend erhebliche Ressourcen in die Erklärbarkeit von KI. JP Morgan has created an and equipped with resources Exzellenzzentrum für erklärbare KI, das ihre Bemühungen in anderen Bereichen wie Fairness, Rechenschaftspflicht und Einhaltung der Vorschriften beeinflusst. DARPA, die Forschungs- und Entwicklungsbehörde des US-Verteidigungsministeriums, hat große Anstrengungen um die Erklärbarkeit von KI in Bereichen wie Medizin und Verkehr zu verbessern.

Was ist also die Erklärbarkeit von KI und wie sollten Unternehmen sie für generative KI-Systeme einsetzen?

Was ist Erklärbarkeit?

Das NIST KI-Risikomanagement-Framework description Explorability as „a presentation of mechanisms that are the operation of KI-Systems below“. The central question by the erklärability of KI is also: „Why has the KI system provides a specific performance? “ Genauer gesagt, warum lieferte die Kombination von Modellen und Daten ein bestimmtes Ergebnis?

Es gibt viele potenzielle Zielgruppen für die Erklärbarkeit von KI. There are the development of the KI-Systems, the operation organizations, people operators, sales/customers, compliance teams, supervisors, affected endusers and the public. Ave this target groups preferred in the rule communication with different detail grade.

This reasons is something technical basis — the interpretierability. If erklärbarkeit is the „why“, is interpretierability the „Wie“.

Example for a bank credit

We take the example a bank that an AI system used, to allow credit agreements or cannot. In den Vereinigten Staaten muss eine Bank dem Antragsteller bei der Beantragung eines Kredits erklären, warum die Entscheidung getroffen wurde. With this statement soll nachgewiesen werden, dass genaue Informationen in einer Weise verwendet wurden, die den Entscheidungsprozessen der Bank entspricht. This give the request also the possible, unspecific information to check or the accuracy of the procedure.

Ein Kreditantragsteller bevorzugt wahrscheinlich klar kommunizierte Informationen wie „Ihre Kreditwürdigkeit lag 20 Punkte unter der automatischen Genehmigungsschwelle, und außerdem fehlt die von ihnen zur Verfügung stehende Vermögenswerte 8.000 USD, um den Kredit vollständig abzusichern. “

Um jedoch eine solche klare Aussage treffen zu können, muss das Daten- und KI-Team der Bank verstehen, wie die Dateneingaben und die Modelle, aus denen das KI-System besteht, zu den Results führen (KI-Interpretierbarkeit). Dies erfordert wiederum ein Verständnis dafür, wie die Modelle und Datensätze entwickelt wurden und welche Art von Steuerung sie während ihres gesamten Lebenszyklus unterworfen wurden.

Erklärbarkeit für Generative KI

Da generative KI-Systeme auf riesigen neuronalen Netzwerken basieren, die riesigen Datenmengen trainieren und verarbeiten, ist es schwer, ihre Funktionsweisen zu verstehen und zu erklären. The Developer of the power most generation KI-Systems have difficult to understand why their systems generate specific unspecific results, if they are required to specific wise.

Forscher haben verschiedene Herangehensweisen an dieses Problem ausgewählt, und Wissenschaftler haben diese Ansätze untersucht. Zum Beispiel hat Johannes Schneider von der Universität Liechtenstein entwickelte eine Taxonomie von research ansätzen zur erklärbarkeit generativer KI-Systeme.

Was bedeutet das für Praktiker?

Leadership forces within the organisations verstehen ihre Anwendungsfälle, die Bedeutung ihrer Auswirkungen und ihre regulatorischen Anforderungen am besten. This comments should include in the targets their efforts for generative KI Declarability. The standards are high, if more on the game — including in specific medical and financial application cases.

The functional übergreifende cooperation to care and development an quality documentation during the full life cycle each KI systems is an basic requirements for efforts to ki-erklärbarkeit. Darüber hinaus ist es wichtig, die Fähigkeit zu schaffen, die generativen KI-Erklärbarkeitsmethoden zu überwachen und anzuwenden, die für die gängigen KI-Anwendungen des Unternehmens relevant sind.

‍Enzai is here to help

The KI-GRC platform by Enzai can help your company, KI as best practices and new rules, standards and framework as the EU AI Act, the Colorado AI Act, the NIST AI RMF and ISO/IEC 42001. Um mehr zu erfahren, nHem, Contact with us on here.