Wie US-Staatsanwälte die Nutzung von KI durch Unternehmen bewerten werden

Am 23. September 2024 aktualisierte das US-Justizministerium (DOJ) seine Leitlinien für Staatsanwälte zur Bewertung von Programmen zur Einhaltung von Unternehmensvorgaben. Nicole M. Argentieri, eine leitende DOJ-Beamtin, stellte die aktualisierten Leitlinien während ihrer Ausführungen auf dem 23. Annual Compliance & Ethics Institute der Society of Corporate Compliance and Ethics in Texas vor. Die Leitlinien enthalten nun auch Erwägungen dazu, wie Unternehmen KI einsetzen und ihre Risiken steuern.

Welchen Zweck haben die Leitlinien?

Das DOJ veröffentlicht Leitlinien zur Bewertung von Unternehmens-Compliance-Programmen (ECCP), um DOJ-Staatsanwälten dabei zu helfen, zu beurteilen, ob das Compliance-Programm eines Unternehmens a) gut konzipiert ist, b) gewissenhaft umgesetzt wird und c) in der Praxis funktioniert.

Obwohl das ECCP für DOJ-Staatsanwälte verfasst ist und die darin enthaltenen Erwägungen rechtlich nicht bindend sind, ist das ECCP seit mehreren Jahren öffentlich zugänglich und hat in dieser Zeit Führungskräften und Compliance-Teams in Unternehmen als nützliche Orientierung gedient.

Während das überarbeitete ECCP viele neue Themen aufgreift, betreffen die wichtigsten Änderungen die Bereiche KI, aufkommende Technologien, die Rolle von Datenanalysen in Compliance-Programmen und den Schutz von Hinweisgebern.

Was sagt die überarbeitete Leitlinie zum Einsatz von KI?

Das ECCP gibt Staatsanwälten vor, bei der Bewertung der KI-Nutzung von Unternehmen unter anderem die folgenden Faktoren zu berücksichtigen: 

·  Verfügt das Unternehmen über ein Risikomanagementprogramm für den Einsatz von KI?

·  Werden Risikostufen KI-Systemen zugewiesen?

·  Geht das Unternehmen Risiken, die es beim Einsatz von KI identifiziert, wirksam an?

·  Überwacht das Unternehmen seine KI-Systeme, um sicherzustellen, dass sie wie vorgesehen funktionieren?

·  Werden Hochrisikosysteme angemessen durch Menschen beaufsichtigt?

·  Werden Mitarbeiter angemessen geschult, um KI-Systeme zu nutzen?

·  Nutzt das Compliance-Programm des Unternehmens Datenanalysen und Technologie in angemessener Weise, um sicherzustellen, dass es effektiv funktioniert?

·  Geht das Unternehmen Risiken durch Drittanbieter wirksam an?

·  Hat das Unternehmen seinem Compliance-Programm angemessene Ressourcen zugewiesen?

·  Ist das KI-Compliance-Programm angemessen dokumentiert?

Wie lautet der breitere Kontext?

Die überarbeiteten Leitlinien signalisieren ein anhaltendes DOJ-Interesse an der Nutzung von KI durch Unternehmen. In einer Rede im März in San Francisco betonte die stellvertretende Generalstaatsanwältin Lisa Monaco, dass es keine KI-Ausnahme von bestehenden Gesetzen gibt, kündigte an, „härtere Strafen“ für KI-Missbrauch zu verfolgen, und gab einen Ausblick auf die Änderungen des ECCP.

Zu Beginn dieses Jahres startete das DOJ außerdem seine Justice AI Initiative, eine Reihe von Zusammenkünften von „Akteuren aus der Zivilgesellschaft, der Industrie, der Wissenschaft und der Strafverfolgung“, um zu beleuchten, wie KI mit den Bemühungen des DOJ zusammenwirken wird.

Argentieris Ausführungen zum überarbeiteten ECCP lieferten weitere Einblicke in die Änderungen des DOJ und zeigten ein differenziertes Verständnis der potenziellen Auswirkungen generativer KI auf Unternehmen. Als Beispiel merkte sie an, dass „Staatsanwälte berücksichtigen werden, ob das Unternehmen anfällig für kriminelle Machenschaften ist, die durch neue Technologien ermöglicht werden, wie etwa falsche Genehmigungen und durch KI generierte Dokumentation.“

Enzai unterstützt Sie dabei

Die KI-GRC-Plattform von Enzai kann Ihrem Unternehmen dabei helfen, KI in Übereinstimmung mit bewährten Verfahren sowie neuen Vorschriften, Standards und Rahmenwerken wie dem EU AI Act, dem Colorado AI Act, dem NIST AI RMF und ISO/IEC 42001 einzusetzen. Wenn Sie mehr erfahren möchten, nehmen Sie hier Kontakt auf.

Enzai ist die führende Plattform für KI-Governance für Unternehmen, die speziell dafür entwickelt wurde, Organisationen beim Übergang von abstrakten Richtlinien zu operativer Aufsicht zu unterstützen. Unsere Plattform für das KI-Risikomanagement bietet die spezialisierte Infrastruktur, die erforderlich ist, um agentische KI-Governance zu verwalten, ein umfassendes KI-Inventar zu pflegen und die Einhaltung des EU AI Act sicherzustellen. Durch die Automatisierung komplexer Workflows ermöglicht Enzai Unternehmen, die Einführung von KI mit Zuversicht zu skalieren und dabei gleichzeitig die Ausrichtung an globalen Standards wie ISO 42001 und NIST zu wahren.