Blog
•
8 Min. Lesezeit
Auf dem Podium:
Jamaur Bronner, Mitgründer, The Foregrounds
Monika Viktorova, Responsible Tech Product Manager, Logistikbranche
Jason Green-Lowe, Executive Director, Center for AI Policy
Moderation: Var Shankar, Chief AI and Privacy Officer, Enzai
Einführung durch VS:
Stellt die Teilnehmenden vor.
Im Mittelpunkt der Diskussion stehen KI-Politik und Technologie mit Blick auf ein dynamisches Jahr 2025.
Teil 1: Wohin entwickelt sich KI 2025?
MV:
Die Schattenseiten: Der Missbrauch generativer KI nimmt zu, weil sie leichter zugänglich und günstiger geworden ist. Beispiele sind Stimmklone für Betrugsmaschen, die Erzeugung von Darstellungen sexuellen Kindesmissbrauchs (CSAM) und Desinformation in großem Stil. Böswillige Akteure nutzen die Technologie wirksam aus. Selbst in seriösen Organisationen kommt es zu aufsehenerregenden Fehlschlägen, etwa wenn Chatbots Falschinformationen verbreiten oder Lösungen anbieten, die der Unternehmensrichtlinie widersprechen (z. B. der Fall Air Canada). Die Neigung generativer KI, zu halluzinieren und Antworten an die Wünsche der Nutzer anzupassen, birgt Risiken. Ein konkretes Beispiel ist Character.AI: Dort beeinflussen Chatbots, die Magersucht verherrlichen, gefährdete Jugendliche. Das zeigt, wie unzureichend die Leitplanken sind.
Die positiven Seiten: Generative KI treibt bedeutende Fortschritte in der wissenschaftlichen Forschung voran, insbesondere in den Naturwissenschaften und der Medizin. Ein Beispiel ist die Vorhersage der Proteinfaltung (AlphaFold 2), die das Design und die Entwicklung von Arzneimitteln beschleunigt.
In Organisationen: Generative KI wird branchenübergreifend breit eingesetzt. Vertriebs- und Marketingteams nutzen sie zur Erstellung von Inhalten und für die personalisierte Kundenansprache. CRUD-Anwendungen im Finanzbereich und anderswo erzielen enorme Produktivitätsgewinne, wenn generative KI (mit Leitplanken und menschlicher Aufsicht) Berichte automatisiert. Retrieval Augmented Generation ermöglicht die Interaktion mit umfangreichen Dokumentenbeständen und unterstützt so das Informationsmanagement. Entscheidend ist jedoch, Nutzer über Halluzinationen und die Prüfung von Quellen aufzuklären.
Kernaussage: Das Potenzial für Produktivitätssteigerungen ist enorm, doch robuste Leitplanken, die Schulung der Nutzer und der Umgang mit Halluzinationen sind unerlässlich. ROI und Preismodelle für große Organisationen bleiben eine zentrale Frage.
JGL:
Auch ohne weitere Verbesserungen bei Foundation Models besteht erhebliches ungenutztes Potenzial für technologische Innovation. Organisationen sollten aktuelle Modelle besser ausschöpfen, neue Marktnischen erschließen und Interaktionsformen „entfesseln“. Die heutigen Interaktionen sind begrenzt (textbasiert, kurze Prompts, sofortige Antworten). Künftig könnten sie größere Kontextfenster, „Denkzeit“ für die KI, Self-Prompting, multimediale Interaktion (Sprache, Video, Musik, Fahrzeugsteuerung) und die Integration mit Robotik umfassen, um in der realen Welt Wirkung zu entfalten.
Selbst eine vorübergehende Verlangsamung bei der Skalierung von Modellen wird den Fortschritt nicht dauerhaft aufhalten. Engpässe wie Strom, Daten und Finanzierung könnten exponentielles Wachstum bremsen, lineares Wachstum ist aber weiterhin zu erwarten. Die Modelle des Jahres 2025 dürften deutlich leistungsfähiger sein als die von 2024. Berichte über ein Leistungsplateau könnten irreführend sein, da Unternehmen sich zu ihren Investitionen und tatsächlichen Fortschritten aus strategischen Gründen bedeckt halten.
Teil 2: Wohin entwickelt sich die Politik 2025?
JGL:
Unsicherheit in der US-Politik: Im Wahlkampf spielte KI kaum eine Rolle. Das Wahlprogramm der Republikaner enthält nur einen kryptischen Hinweis, Bidens Executive Order zu KI durch eine KI zu ersetzen, die auf „Redefreiheit und menschlichem Gedeihen“ beruht.
Aspekt „Redefreiheit“: Wahrscheinlich Widerstand gegen Bedenken wegen Desinformation (die als Zensur wahrgenommen werden) und gegen politische Korrektheit.
Aspekt „menschliches Gedeihen“: Bedeutung unklar; mögliche Bezüge zu Äußerungen des Vatikans über KI sowie zu Arbeiten der Chicagoer Schule der Ökonomie über das Wohlergehen von Familien und geeignete Arbeitsplätze.
Heterogener Beraterkreis: Der KI-Kurs der Trump-Regierung ist bislang unklar, da ihr Beraterkreis sehr unterschiedlich zusammengesetzt ist.
Hoffnungen: Die USA behalten ihre Führungsrolle durch Initiativen wie das überparteiliche AI Safety Institute, durch die Zusammenarbeit mit innovativen Unternehmen bei Test- und Sicherheitsstandards und durch die Einführung von Sicherheitsleitplanken.
MV:
USA vs. EU: Die US-Executive-Order setzte auf freiwillige Compliance, während der EU AI Act strenge Sanktionen vorsieht (Bußgelder in Millionenhöhe). Der EU-Ansatz könnte ähnliche Sanktionen in der künftigen US-Politik anstoßen.
Globale Regulierungslandschaft: Das Umfeld ist uneinheitlich: In China, Brasilien, Australien und anderswo entstehen neue Vorschriften, was Reibung und Herausforderungen für Produktteams und Führungskräfte mit sich bringt. Multinationale Unternehmen müssen Produkt-Roadmaps, Funktionsumfang, zugrunde liegende Architektur und Modelle anpassen, um die Anforderungen verschiedener Rechtsordnungen zu erfüllen.
Durchsetzung in der EU: Der Fokus der EU auf öffentlichkeitswirksame Durchsetzungsverfahren und hohe Bußgelder nach der DSGVO könnte zum Vorbild für die Durchsetzung des AI Act werden. Das würde beeinflussen, wie Organisationen, insbesondere multinationale Konzerne, Produktentwicklung und Einführung angehen.
Teil 3: Was bedeutet das für Organisationen und Fachleute?
JB:
Weiterbildung und Anpassung: Die Anpassung an KI verläuft uneinheitlich und unzureichend, was Anlass zur Sorge gibt. Viele Unternehmen setzen strategisch auf generative KI, haben aber keine Pläne zur Weiterqualifizierung. Organisationen müssen sich auf KI-Schulung und Standardisierung konzentrieren.
ROI messen: Produktivitätsgewinne durch Tools wie Cursor und GitHub Copilot müssen erfasst und unternehmensweit skaliert werden, statt nur einzelnen Entwicklern zugutezukommen.
Risikominderung: Ein nicht standardisierter Einsatz generativer KI setzt Organisationen erheblichen Risiken aus. Backtesting, menschliche Aufsicht und sorgfältige Analyse sind entscheidend.
Veränderte Kompetenzprofile: Junior-Entwickler mit Zugang zu GenAI-Tools werden zu „KI-gestützten Entwicklern“, die sich auf kreative Problemlösung und Lösungsdesign konzentrieren. Das erfordert Anpassungen bei Stellenbeschreibungen, HR-Praktiken und Leistungsbeurteilungen.
Umgang mit Sorgen um Arbeitsplatzverluste: Auch wenn manche Aufgabenbereiche neu verteilt werden, sollte KI vor allem als Wegbereiter genutzt werden. Verantwortungsvolle Organisationen sollten Arbeitsplätze, Arbeitsabläufe und Stellenbeschreibungen neu denken, um neue Chancen zu schaffen und menschliche Aufsicht wirksam einzusetzen.
Folgen für Organisationen/Best Practices: Viele Best Practices entstehen in Echtzeit, oft in gut ausgestatteten Organisationen oder aus Fallstudien, und weniger aus klassischer Beratung oder Business Schools.
JB (Fortsetzung): Quellen für Best Practices
Anbieter von Foundation Models: Bildungsinitiativen wie die LLM University (Cohere) und ähnliche Angebote von OpenAI bieten wertvolle Ressourcen.
Partner für KI-Bildung: Organisationen wie The Foregrounds stellen Fallstudien zusammen, werten Erfolge und Misserfolge aus und befragen Fachleute, um Best Practices zu verstehen und zu verbreiten.
Interne Teams für KI-Ethik und Governance: Diese Teams treiben Compliance, verantwortungsvollen Einsatz und die funktionsübergreifende Abstimmung innerhalb von Organisationen voran.
Regierungen und regierungsnahe Institutionen: Initiativen wie Singapurs Nationale KI-Strategie und die Arbeit des Center for AI Policy prägen globale Best Practices, indem sie die Beteiligten auf eine gemeinsame Linie bringen.
JB (Fortsetzung): Förderung des Unternehmertums
Der Fokus der künftigen Regierung auf die Förderung des Unternehmertums, verbunden mit möglichen höheren Investitionen in Bereiche, die konservative Regierungen traditionell priorisieren (Verteidigung, fortschrittliche Fertigung), und dem Einfluss von Persönlichkeiten wie Elon Musk, deutet auf mögliche Verschiebungen in der Gründerlandschaft hin.
Verteidigung: Unternehmen wie Anduril und Palantir dürften mehr Chancen erhalten.
Fortschrittliche Fertigung und Robotik: Im Fokus steht die Rückverlagerung von Fertigungskapazitäten, wobei KI Arbeitsplätze in der Produktion unterstützt statt ersetzt. Beispiele sind Unternehmen wie Figure und Elon Musks Vorhaben im Bereich humanoider Robotik. Auch aus Sicht der industriellen Fertigung ergeben sich interessante Chancen.
Kreativbranche: Eine neue Generation von Gründern und Kreativen nutzt KI-Tools für Musikgenerierung, Videoproduktion, Bilderstellung und mehr. Diese Menschen werden zu Experten für diese Tools, ähnlich wie zuvor bei SaaS-Produkten. Das senkt die Einstiegshürden und fördert neues Unternehmertum. Möglich wird dies durch einen schlankeren Produktentwicklungszyklus, der schnellere Iterationen und Markteinführungen erlaubt.
Gesundheitswesen und Bildung: In diesen Sektoren gibt es spannendes Potenzial. Angesichts der traditionell konservativen Haltung ist jedoch unklar, ob die neue Regierung eine breite Ausweitung von KI in diesen Bereichen unterstützen wird.
MV (Fortsetzung): Kleinere Organisationen
GenAI-Vorteil für große Organisationen: Größere Organisationen mit multinationaler Präsenz verfügen oft über mehr Daten und Ressourcen, was ihnen bei der Entwicklung generativer KI einen Vorsprung verschafft. Zugleich sind sie mit vielfältigen und teils widersprüchlichen regulatorischen Anforderungen konfrontiert (z. B. Executive Orders, dem AI Act sowie Vorschriften in China, Brasilien und Australien). Diese fragmentierte Regulierungslandschaft macht Produktentwicklung und Einführung komplexer.
Strategien für kleinere Unternehmen und Gründer:
Die Fähigkeiten generativer KI verstehen: Ermitteln, worin generative KI besonders stark ist und welchen konkreten Nutzen sie für das eigene Geschäft bringt.
Make or Buy: Fundiert entscheiden, ob KI-Lösungen intern entwickelt oder Standardprodukte genutzt werden, die für kleinere Organisationen oft kostengünstiger sind.
Beschaffung und Lieferantenmanagement: KI-Anbieter gründlich prüfen, und zwar nicht nur auf ihre technischen Fähigkeiten, sondern auch auf nachgelagerte Risiken, die Einhaltung regulatorischer Vorgaben, Cybersicherheit und rechtliche Aspekte. Das verringert die Abhängigkeit von internem Fachwissen und ermöglicht es kleineren Unternehmen, von spezialisierten Anbietern zu profitieren.
Von größeren Organisationen lernen: Bewährte Verfahren für Beschaffung und Lieferantenmanagement aus größeren Organisationen übernehmen. So können kleinere Unternehmen die richtigen Lösungen auswählen und ihre Risiken wirksam steuern.
Rolle staatlicher Politik: Fördermittel für NGOs können den Zugang zu GenAI-Tools zum Nutzen der Gesellschaft erleichtern und für fairere Wettbewerbsbedingungen sorgen. Das kann Forschung, Entwicklung und einen verantwortungsvollen KI-Einsatz in verschiedenen Sektoren unterstützen und „Winner-takes-all“-Effekte abmildern. So werden Innovation und Wettbewerb gefördert und die Dominanz weniger großer Akteure verhindert.
JGL (Fortsetzung): Zusammenarbeit von Mensch und KI
Menschlichen Einfluss bewahren: Schwierig, denn KI gilt oft als objektiv und vertrauenswürdig, was dazu verleitet, sich zu sehr auf ihre Empfehlungen zu verlassen. Human-in-the-Loop reicht möglicherweise nicht aus.
Menschliche Rollen integrieren: Menschliche Rollen grundlegend in den Entscheidungsprozess einbauen, nicht nur als letzten Freigabeschritt.
Orakel-KI: KI nutzen, um die Lage zu beschreiben und relevante Informationen hervorzuheben, statt Empfehlungen für die endgültige Maßnahme abzugeben. So können Menschen auf Grundlage KI-gestützter Erkenntnisse fundierte Entscheidungen treffen.
Aufgaben vs. Stellen: KI ist besonders gut darin, bestimmte Aufgaben zu automatisieren, die nicht unbedingt ganzen Stellen entsprechen. Stellen sollten so umgestaltet werden, dass Aufgaben, die Menschen am besten erledigen, von denen getrennt werden, die KI am besten erledigt. Das schafft eine Zusammenarbeit, von der beide Seiten profitieren, und nutzt die Stärken beider optimal. Langfristig bleibt die Sorge, dass mit dem Fortschritt der KI immer weniger Aufgaben für Menschen bleiben.
Fazit von VS:
Der Kurs der Trump-Regierung ist noch unklar.
Der EU AI Act wird sich auf global tätige Organisationen auswirken.
Organisationen müssen auf Schulung, Talentgewinnung und -entwicklung sowie angemessene menschliche Aufsicht setzen.
Enzai ist die führende Plattform für KI-Governance in Unternehmen, eigens dafür entwickelt, Organisationen den Schritt von abstrakten Richtlinien zu operativer Aufsicht zu ermöglichen. Unsere Plattform für KI-Risikomanagement bietet die spezialisierte Infrastruktur, um Governance für agentische KI umzusetzen, ein umfassendes KI-Inventar zu pflegen und die Konformität mit dem EU AI Act sicherzustellen. Durch die Automatisierung komplexer Workflows ermöglicht Enzai Unternehmen, die Einführung von KI mit Zuversicht zu skalieren und dabei im Einklang mit globalen Standards wie ISO 42001 und NIST zu bleiben.
Seit 2023 nach ISO 27001 zertifiziert, jährlich von NQA auditiert
An der DSGVO ausgerichtete Datenverarbeitung
Kundendaten auf AWS in mehreren Regionen gehostet
Eigenes KI-Modell über eine private Verbindung nutzen
Finden Sie die KI, die Ihre Teams nutzen, prüfen Sie sie vor der Einführung, bewerten Sie sie anhand der geltenden Vorschriften und kontrollieren Sie, was Agenten tun dürfen. Entwickelt für regulierte Organisationen.



