KI-Systeme, die in einer Weise entworfen und betrieben werden, die ethisch, zuverlässig, sicher und im Einklang mit menschlichen Werten und gesellschaftlichen Normen steht.
Umfasst technische Robustheit, Fairness, Transparenz, Datenschutz und menschliche Aufsicht. Vertrauenswürdige KI-Programme definieren für jede Dimension messbare Kriterien (z. B. Verzerrungsschwellen, Verfügbarkeitsgarantien), verankern diese in den Entwicklungspipelines (Folgenabschätzungen, Audits) und verfolgen ethische KPIs in Governance-Dashboards. Kontinuierliche Einbindung von Stakeholdern, externe Audits und veröffentlichte Transparenzberichte stärken die Vertrauenswürdigkeit im Zeitverlauf.
Eine Regierung nutzt für ihre KI für Arbeitslosenleistungen einen Vertrauensrahmen: Sie verlangt formale Ethikprüfungen, veröffentlicht ein Transparenz-Dashboard mit Modellfehlern und Verzerrungen, setzt bei Überschreibungen der Anspruchsberechtigung eine Human-in-the-Loop-Kontrolle durch und beauftragt jährliche Audits durch unabhängige Dritte – so wird sichergestellt, dass das System für Bürgerinnen und Bürger sowie Aufsichtsbehörden vertrauenswürdig bleibt.
