Vertrauenswürdige KI
KI-Systeme, die auf ethische, zuverlässige, sichere und an menschlichen Werten und gesellschaftlichen Normen ausgerichtete Weise konzipiert und betrieben werden.
Definition
Umfasst technische Robustheit, Fairness, Transparenz, Datenschutz und menschliche Aufsicht. Vertrauenswürdige KI-Programme definieren messbare Kriterien für jede Dimension (z. B. voreingenommene Schwellenwerte, Verfügbarkeitsgarantien), betten sie in Entwicklungspipelines ein (Folgenabschätzungen, Audits) und verfolgen ethische KPIs in Governance-Dashboards. Kontinuierliches Engagement der Interessengruppen, externe Audits und veröffentlichte Transparenzberichte stärken die Vertrauenswürdigkeit im Laufe der Zeit.
Real-World Example
Eine Regierung verwendet einen Vertrauensrahmen für ihre KI zur Arbeitslosenunterstützung: Sie verlangt formelle Ethiküberprüfungen, veröffentlicht ein Transparenz-Dashboard mit Modellfehlern und Vorurteilen, setzt bei Anspruchsüberschreibungen die Kontrolle von Anspruchsberechtigungen durch und gibt jährliche Prüfungen durch Dritte in Auftrag, um sicherzustellen, dass das System gegenüber Bürgern und Aufsichtsbehörden vertrauenswürdig bleibt.
.svg)
