‍Panel-Teilnehmer:

• Jamaur Bronner, Mitgründer, The Foregrounds

• Monika Viktorova, Product Manager Responsible Tech, Logistikbranche

• Jason Green-Lowe, Executive Director, Center for AI Policy

• Moderator: Var Shankar, Chief AI and Privacy Officer, Enzai

VS Einführung:

• Stellt die Diskussionsteilnehmer vor.

• Die Diskussion konzentriert sich auf KI-Politik und -Technologie im Hinblick auf ein dynamisches Jahr 2025.

Teil 1: Wohin entwickelt sich die KI im Jahr 2025?

MV:

• Das Negative:  Der Missbrauch generativer KI nimmt aufgrund der leichten Zugänglichkeit und sinkender Kosten zu. Beispiele hierfür sind: Klonen von Stimmen für Betrugszwecke, Erstellung von CSAM (Darstellungen sexuellen Missbrauchs von Kindern) und Desinformation in großem Stil. Böswillige Akteure nutzen die Technologie effektiv aus.  Auch in seriösen Organisationen kommt es zu öffentlichkeitswirksamen Fehlern, wie etwa Chatbots, die Falschinformationen verbreiten oder Lösungen außerhalb der Unternehmensrichtlinien anbieten (z. B. der Fall Air Canada).  Die Neigung generativer KI zu halluzinieren und Antworten an die Wünsche der Nutzer anzupassen, birgt Risiken.  Ein konkretes Beispiel ist Character.AI, wo Pro-Anorexie-Chatbots schutzbedürftige Teenager beeinflussen, was unzureichende Sicherheitsvorkehrungen verdeutlicht.

• Das Positive:  Generative KI treibt bedeutende Fortschritte in der wissenschaftlichen Forschung voran, insbesondere in der Naturwissenschaft und Medizin.  Die Vorhersage der Proteinfaltung (AlphaFold 2) ist hierfür ein Paradebeispiel, das das Design und die Entwicklung von Medikamenten beschleunigt.

• In Organisationen:  Generative KI wird branchenübergreifend in großem Umfang eingesetzt.  Vertriebs- und Marketingteams nutzen sie für die Erstellung von Inhalten und die personalisierte Ansprache. CRUD-Anwendungen im Finanzwesen und in anderen Bereichen verzeichnen enorme Produktivitätsgewinne, wenn generative KI (mit entsprechenden Sicherheitsvorkehrungen und menschlicher Aufsicht) zur Automatisierung von Berichten eingesetzt wird.  Retrieval-Augmented Generation ermöglicht die Interaktion mit riesigen Dokumentenarchiven und unterstützt so das Informationsmanagement.  Dabei ist die Aufklärung der Nutzer über Halluzinationen und die Überprüfung von Quellen jedoch unerlässlich.

• Wichtigste Erkenntnis: Das Potenzial zur Steigerung der Produktivität ist enorm, aber robuste Sicherheitsvorkehrungen, Nutzersensibilisierung und die Adressierung von Halluzinationen sind unerlässlich. Der ROI und die Preismodelle für Großunternehmen bleiben eine zentrale Frage.

JGL:

• Es gibt ein erhebliches ungenutztes Potenzial für technologische Innovationen, selbst ohne weitere Verbesserungen bei den Basismodellen. Organisationen müssen sich darauf konzentrieren, bestehende Modelle auszuschöpfen, neue Marktnischen zu erschließen und Interaktionsmethoden zu optimieren.  Derzeitige Interaktionen sind begrenzt (textbasiert, kurze Prompts, sofortige Antworten), aber künftige Interaktionen könnten größere Kontextfenster, KI-„Bedenkzeit“, Self-Prompting, multimediale Interaktion (Stimme, Video, Musik, Fahrzeugsteuerung) und die Integration mit Robotik für reale Anwendungen umfassen.

• Selbst eine vorübergehende Verlangsamung bei der Skalierung von Modellen wird den Fortschritt nicht dauerhaft aufhalten. Engpässe wie Strom, Daten und Finanzierung können das exponentielle Wachstum zwar beeinträchtigen, ein lineares Wachstum wird jedoch weiterhin erwartet.  Die Modelle für 2025 dürften deutlich leistungsfähiger sein als die Modelle für 2024.  Berichte über Leistungsplateaus könnten irreführend sein, da sich Unternehmen bezüglich ihrer Investitionen und tatsächlichen Fortschritte strategisch bedeckt halten.

Teil 2: Wohin entwickelt sich die Politik im Jahr 2025?

JGL:

• Unsicherheit in der US-Politik: Im Wahlkampf wurde kaum über KI gesprochen; das Wahlprogramm der Republikaner enthält lediglich eine kryptische Erwähnung der Ersetzung von Bidens KI-Präsidialverordnung durch eine KI, die auf „freier Meinungsäußerung und menschlichem Gedeihen“ basiert.‍

• Aspekt „Freie Meinungsäußerung“: Wahrscheinlicher Widerstand gegen Bedenken hinsichtlich Desinformation (die als Zensur wahrgenommen werden) und politische Korrektheit.‍

• Aspekt „Menschliches Gedeihen“: Bedeutung unklar; potenzielle Verbindungen zu Stellungnahmen des Vatikans zu KI sowie Arbeiten der Chicagoer Schule der Ökonomie zu Familienwohlfahrt und angemessener Beschäftigung.‍

• Vielfältige Berater: Der KI-Ansatz der Trump-Administration ist aufgrund des unterschiedlichen Beraterkreises bislang ungewiss.‍

• Hoffnungen: Fortführung der führenden Rolle der USA durch Initiativen wie das überparteiliche AI Safety Institute, die Zusammenarbeit mit innovativen Unternehmen bei Prüf- und Sicherheitsstandards sowie die Implementierung von Sicherheitsvorkehrungen.

MV:

• USA vs. EU: Die US-Präsidialverordnung setzt auf freiwillige Einhaltung, während das EU-KI-Gesetz strenge Strafen (Geldbußen in Millionenhöhe) vorsieht. Der Ansatz der EU könnte in Zukunft als Vorbild für ähnliche Strafen in der US-Politik dienen.

• Globale Regulierungslandschaft:  Ein fragmentiertes Umfeld mit entstehenden Vorschriften in China, Brasilien, Australien usw. führt zu Reibungsverlusten und Herausforderungen für Produktteams und Führungskräfte.  Multinationale Unternehmen müssen ihre Produkt-Roadmaps, Funktionsumfänge, die zugrunde liegende Architektur und Modelle anpassen, um die Vorgaben verschiedener Rechtsordnungen zu erfüllen.

• EU-Durchsetzung: Der Fokus der EU auf vielbeachtete Durchsetzungsverfahren und erhebliche Bußgelder unter der DSGVO könnte als Modell für die Durchsetzung des KI-Gesetzes dienen. Dies wird Auswirkungen darauf haben, wie Organisationen, insbesondere multinationale Konzerne, an die Produktentwicklung und -einführung herangehen.

Teil 3: Was bedeutet das für Organisationen und Praktiker?

JB:

• Weiterbildung und Anpassung:  Die Anpassung an KI erfolgt unbeständig und unzureichend, was Anlass zur Sorge gibt. Viele Unternehmen priorisieren generative KI auf strategischer Ebene, verfügen jedoch über keine Pläne zur Weiterbildung. Organisationen müssen sich auf KI-Ausbildung und Standardisierung konzentrieren.

• Messung des ROI:  Produktivitätsgewinne durch Tools wie Cursor und GitHub Copilot müssen im gesamten Unternehmen nachverfolgt und skaliert werden und dürfen nicht nur von einzelnen Entwicklern genutzt werden.

• Risikominderung: Eine nicht standardisierte Nutzung generativer KI setzt Organisationen erheblichen Risiken aus. Backwards-Testing, menschliche Aufsicht und sorgfältige Analysen sind hierbei entscheidend.

• Veränderung der Qualifikationsprofile:  Junior-Entwickler mit Zugang zu Tools für generative KI werden zu „KI-gestützten Entwicklern“, die sich auf kreative Problemlösung und Lösungsdesign konzentrieren. Dies erfordert Anpassungen bei Stellenbeschreibungen, HR-Praktiken und Leistungsbeurteilungen.

• Umgang mit Sorgen über den Verlust von Arbeitsplätzen:  Auch wenn einige Aufgabenbereiche neu verteilt werden, sollte der Fokus darauf liegen, KI als Wegbereiter zu nutzen. Verantwortungsbewusste Organisationen sollten Arbeitsplätze, Arbeitsabläufe und Stellenbeschreibungen neu gestalten, um neue Möglichkeiten zu schaffen und die menschliche Aufsicht effektiv einzubinden.

• ‍Organisatorische Auswirkungen/Best Practices: Viele Best Practices entstehen derzeit in Echtzeit, oft in finanzstarken Organisationen oder Fallstudien, und weniger in der traditionellen Beratung oder an Business Schools.

JB Fortsetzung: Quellen für Best Practices

• Anbieter von Basismodellen: Bildungsinitiativen wie die LLM University (Cohere) und ähnliche Bemühungen von OpenAI bieten wertvolle Ressourcen.

• Partner für KI-Ausbildung: Organisationen wie The Foregrounds tragen Fallstudien zusammen, bewerten Erfolge sowie Misserfolge und befragen Experten, um Best Practices zu verstehen und zu verbreiten.

• Interne Teams für KI-Ethik/Governance: Diese Teams treiben die Compliance, den verantwortungsvollen Einsatz und die funktionsübergreifende Abstimmung innerhalb von Organisationen voran.

• Regierungen und regierungsnahe Institutionen: Initiativen wie die National AI Strategy von Singapur und die Arbeit des Center for AI Policy beeinflussen globale Best Practices durch die Abstimmung von Stakeholdern.

JB Fortsetzung: Förderung des Unternehmertums

• Der Fokus der neuen US-Regierung auf die Förderung des Unternehmertums, gepaart mit potenziell steigenden Investitionen in Bereichen, die traditionell von konservativen Regierungen priorisiert werden (Verteidigung, fortschrittliche Fertigung), sowie der Einfluss von Persönlichkeiten wie Elon Musk deuten auf mögliche Verschiebungen in der Unternehmerlandschaft hin.‍

• Verteidigung: Unternehmen wie Anduril und Palantir dürften von vermehrten Chancen profitieren.‍

• Fortschrittliche Fertigung und Robotik: Fokus auf die Rückverlagerung von Fertigungskapazitäten (Onshoring), wobei KI gewerbliche Arbeitsplätze unterstützt, anstatt sie zu ersetzen. Unternehmen wie Figure und Elon Musks Aktivitäten im Bereich humanoider Robotik sind hierfür Beispiele. Dies bietet auch aus Sicht der industriellen Fertigung interessante Möglichkeiten.‍

• Kreativwirtschaft: Eine neue Welle von Unternehmern und Kreativen nutzt KI-Tools für die Musikgenerierung, Videoproduktion, Bilderstellung usw. Diese Personen entwickeln sich zu Experten für diese Tools – vergleichbar mit dem Aufstieg von Fachwissen bei SaaS-Produkten –, was die Einstiegshürden senkt und neues Unternehmertum fördert. Dies wird durch die Rationalisierung des Produktentwicklungslebenszyklus erreicht, was eine schnellere Iteration und Bereitstellung ermöglicht.‍

• Gesundheitswesen und Bildung: Obwohl in diesen Sektoren ein vielversprechendes Potenzial liegt, ist unklar, ob die neue Regierung angesichts historisch konservativer Ansätze eine breite Expansion von KI in diesen Bereichen unterstützen wird.

MV Fortsetzung: Kleinere Organisationen

• Vorteil generativer KI für Großorganisationen: Größere, multinational agierende Organisationen verfügen oft über mehr Daten und Ressourcen, was ihnen einen Vorteil bei der Entwicklung generativer KI verschafft. Sie sehen sich mit vielfältigen und teils widersprüchlichen regulatorischen Anforderungen konfrontiert (z. B. Präsidialverordnungen, das KI-Gesetz sowie Vorschriften in China, Brasilien, Australien). Die Bewältigung dieser fragmentierten Regulierungslandschaft erhöht die Komplexität bei der Produktentwicklung und -einführung.

• Strategien für kleinere Unternehmen und Unternehmer:

• Die Fähigkeiten generativer KI verstehen: Konzentration darauf, zu identifizieren, worin generative KI besonders stark ist und wie sie dem eigenen Unternehmen konkret nützen kann.‍

• Build vs. Buy (Eigenentwicklung vs. Zukauf): Fundierte Entscheidungen darüber treffen, ob KI-Lösungen intern entwickelt oder Standardprodukte genutzt werden sollen, die für kleinere Organisationen oft kostengünstiger sind.‍

• Beschaffung und Lieferantenmanagement: KI-Anbieter gründlich prüfen, wobei der Fokus nicht nur auf den technischen Fähigkeiten liegen sollte, sondern auch auf nachgelagerten Risiken, der Einhaltung gesetzlicher Vorschriften, der Cybersicherheit und rechtlichen Aspekten. Dies verringert die Abhängigkeit von internem Fachwissen und ermöglicht es kleineren Unternehmen, von spezialisierten Anbietern zu profitieren.‍

• Von größeren Organisationen lernen: Best Practices für die Beschaffung und das Lieferantenmanagement übernehmen, die bei größeren Organisationen zu beobachten sind. Dies hilft kleineren Unternehmen, die richtigen Lösungen auszuwählen und ihre Risiken effektiv zu steuern.‍

• Rolle der Regierungspolitik: Zuschüsse an NGOs können den Zugang zu Tools für generative KI im Sinne eines breiteren gesellschaftlichen Nutzens erleichtern und für fairere Wettbewerbsbedingungen sorgen. Dies kann Forschung, Entwicklung und den verantwortungsvollen Einsatz von KI in verschiedenen Sektoren unterstützen und potenziell Monopoleffekte abmildern. Dies fördert Innovation sowie Wettbewerb und verhindert die Dominanz weniger großer Akteure.

JGL Fortsetzung: Kollaboration von Mensch und KI

• Erhalt des menschlichen Einflusses:  Eine anspruchsvolle Aufgabe; KI wird oft als objektiv und vertrauenswürdig wahrgenommen, was dazu führt, dass man sich zu leichtfertig auf ihre Empfehlungen verlässt.  Ein reines „Human-in-the-Loop“-Modell reicht unter Umständen nicht aus.

• Integration menschlicher Rollen:  Menschliche Rollen müssen grundlegend in den Entscheidungsprozess integriert werden und dürfen nicht nur als finaler Freigabeschritt dienen.

• Orakel-KI:  KI nutzen, um Beschreibungen einer Situation bereitzustellen und relevante Informationen hervorzuheben, anstatt Empfehlungen für die endgültige Maßnahme abzugeben. Dies befähigt den Menschen, fundierte Entscheidungen auf der Grundlage von KI-generierten Erkenntnissen zu treffen.

• Aufgaben vs. Berufe:  KI glänzt bei der Automatisierung spezifischer Aufgaben, was nicht zwingend mit ganzen Berufsbildern übereinstimmt. Berufe sollten so umstrukturiert werden, dass Aufgaben, die am besten von Menschen erledigt werden, von solchen getrennt werden, die am besten für KI geeignet sind.  Dies schafft eine für beide Seiten vorteilhafte Zusammenarbeit und maximiert die jeweiligen Stärken. Langfristig bleibt jedoch die Sorge bestehen, dass im Zuge des KI-Fortschritts immer weniger rein menschliche Aufgaben verbleiben.

VS Fazit:

• Der Ansatz der Trump-Administration ist noch nicht absehbar.

• Das EU-KI-Gesetz wird Auswirkungen auf globale Organisationen haben.

• Organisationen müssen sich auf Ausbildung, Talentgewinnung/-entwicklung und eine angemessene menschliche Aufsicht konzentrieren.

Enzai ist die führende Plattform für Enterprise-KI-Governance, die speziell dafür entwickelt wurde, Organisationen beim Übergang von abstrakten Richtlinien zur operativen Aufsicht zu unterstützen. Unsere Plattform für KI-Risikomanagement bietet die spezialisierte Infrastruktur, die für die Verwaltung von agentischer KI-Governance, die Pflege eines umfassenden KI-Inventars und die Gewährleistung der Einhaltung des EU-KI-Gesetzes erforderlich ist. Durch die Automatisierung komplexer Arbeitsabläufe ermöglicht Enzai es Unternehmen, die Einführung von KI vertrauensvoll zu skalieren und gleichzeitig die Ausrichtung an globalen Standards wie ISO 42001 und NIST sicherzustellen.