‍Panelteilnehmende:

• Jamaur Bronner, Mitgründer, The Foregrounds

• Monika Viktorova, Responsible Tech Product Manager, Logistikbranche

• Jason Green-Lowe, Geschäftsführer, Center for AI Policy

• Moderator: Var Shankar, Chief AI and Privacy Officer, Enzai

Einführung von VS:

• Stellt die Diskussionsteilnehmenden vor.

• Die Diskussion konzentriert sich auf KI-Politik und Technologie und blickt auf ein dynamisches Jahr 2025.

Teil 1: Wohin entwickelt sich KI im Jahr 2025?

MV:

• Das Negative:  Der Missbrauch generativer KI nimmt aufgrund der hohen Zugänglichkeit und sinkender Kosten zu. Beispiele hierfür sind: Stimmenklonen für Betrugsmaschen, die Erstellung von CSAM sowie groß angelegte Desinformation. Akteure mit böswilligen Absichten nutzen die Technologie effektiv aus.  Selbst in legitimen Organisationen treten prominente Fehlschläge auf, etwa wenn Chatbots Falschinformationen liefern oder Lösungen vorschlagen, die außerhalb der Unternehmensrichtlinien liegen (z. B. im Fall Air Canada).  Die Neigung von GenAI zu Halluzinationen und die Anpassung von Antworten an die Wünsche der Nutzer schaffen Risiken.  Ein konkretes Beispiel ist Character.AI, wo pro-anorektische Chatbots verletzliche Jugendliche beeinflussen und damit unzureichende Schutzmechanismen verdeutlichen.

• Das Positive:  GenAI treibt erhebliche Fortschritte in der wissenschaftlichen Entdeckung voran, insbesondere in Wissenschaft und Medizin.  Die Vorhersage der Proteinfaltung (AlphaFold 2) ist ein Beispiel dafür und beschleunigt die Wirkstoffentwicklung und -forschung.

• In Organisationen:  GenAI wird branchenübergreifend in großem Umfang eingesetzt.  Vertriebs- und Marketingteams nutzen es für die Content-Erstellung und personalisierte Ansprache. CRUD-Anwendungen im Finanzwesen und anderswo erzielen enorme Produktivitätsgewinne, wenn GenAI (mit Schutzmechanismen und menschlicher Aufsicht) zur Automatisierung von Berichten eingesetzt wird.  Retrieval-Augmented Generation ermöglicht die Interaktion mit umfangreichen Dokumentenbeständen und unterstützt das Informationsmanagement.  Allerdings ist die Aufklärung der Nutzer über Halluzinationen und die Überprüfung von Quellen entscheidend.

• Wichtigste Erkenntnis: Das Potenzial zur Steigerung der Produktivität ist enorm, doch robuste Schutzmechanismen, Nutzeraufklärung und der Umgang mit Halluzinationen sind unerlässlich. ROI und Preismodelle für große Organisationen bleiben eine zentrale Frage.

JGL:

• Es gibt erhebliches ungenutztes Potenzial für technologische Innovationen, selbst ohne weitere Verbesserungen an Basismodellen. Organisationen müssen sich darauf konzentrieren, aktuelle Modelle besser zu nutzen, neue Marktnischen zu erschließen und Interaktionsmethoden zu „entriegeln“.  Die heutigen Interaktionen sind begrenzt (textbasiert, kurze Prompts, sofortige Antworten), doch künftige Interaktionen könnten größere Kontextfenster, KI-„Denkzeit“, Selbst-Prompting, Multimedia-Interaktion (Sprache, Video, Musik, Fahrzeugsteuerung) sowie die Integration mit Robotik für reale Wirkung umfassen.

• Selbst eine vorübergehende Verlangsamung der Modellskalierung wird den Fortschritt nicht auf Dauer bremsen. Engpässe wie Strom, Daten und Finanzierung können das exponentielle Wachstum beeinflussen, doch lineares Wachstum wird weiterhin erwartet.  Modelle aus dem Jahr 2025 werden voraussichtlich deutlich leistungsfähiger sein als Modelle aus dem Jahr 2024.  Berichte über Leistungsplateaus können irreführend sein, da Unternehmen ihre Investitionen und ihren tatsächlichen Fortschritt strategisch zurückhaltend kommunizieren.

Teil 2: Wohin entwickelt sich die Politik im Jahr 2025?

JGL:

• US-Politik: Unsicherheit: Im Wahlkampf gab es kaum Diskussionen über KI; lediglich einen kryptischen Hinweis im republikanischen Parteiprogramm, Bidens KI-Executive-Order durch KI zu ersetzen, die auf „Meinungsfreiheit und menschlichem Gedeihen“ beruht.‍

• Aspekt „Meinungsfreiheit“: Wahrscheinlich eine Gegenreaktion auf Bedenken hinsichtlich Desinformation (wahrgenommen als Zensur) und politischer Korrektheit.‍

• Aspekt „menschliches Gedeihen“: Die Bedeutung ist unklar;  mögliche Bezüge zu Äußerungen des Vatikans zu KI, zur Arbeit der Chicago School of Economics über Familienwohlfahrt und geeignete Arbeitsplätze.‍

• Vielfältige Berater: Der KI-Ansatz der Trump-Administration ist bislang aufgrund der heterogenen Beratergruppe unklar.‍

• Erwartungen: Eine fortgesetzte Führungsrolle der USA durch Initiativen wie das parteiübergreifende AI Safety Institute, die Zusammenarbeit mit innovativen Unternehmen bei Test- und Sicherheitsstandards sowie die Umsetzung von Sicherheitsleitplanken.

MV:

• USA vs. EU: Die US-Executive-Order konzentriert sich auf freiwillige Einhaltung, während der EU AI Act strenge Strafen vorsieht (Geldbußen in Millionenhöhe). Der EU-Ansatz könnte künftige US-Politik mit ähnlichen Strafen inspirieren.

• Globales Regulierungsumfeld:  Ein fragmentiertes Umfeld mit aufkommenden Regulierungen in China, Brasilien, Australien usw. schafft Reibungen und Herausforderungen für Produktteams und Führungskräfte.  Multinationale Unternehmen müssen Produkt-Roadmaps, Funktionsumfänge, die zugrunde liegende Architektur und Modelle anpassen, um verschiedenen Jurisdiktionen zu entsprechen.

• Durchsetzung in der EU: Der Schwerpunkt der EU auf prominente Durchsetzungsfälle und erhebliche Geldbußen unter der DSGVO könnte als Modell für die Durchsetzung des AI Act dienen und beeinflussen, wie Organisationen, insbesondere multinationale Unternehmen, Produktentwicklung und Bereitstellung angehen.

Teil 3: Was bedeutet dies für Organisationen und Praktiker?

JB:

• Weiterqualifizierung und Anpassung:  Die Anpassung an KI verläuft inkonsistent und unzureichend, was Anlass zur Sorge gibt. Viele Unternehmen priorisieren GenAI strategisch, verfügen jedoch über keine Weiterqualifizierungspläne. Organisationen müssen sich auf KI-Bildung und Standardisierung konzentrieren.

• ROI messen:  Produktivitätsgewinne aus Tools wie Cursor und GitHub Copilot müssen organisationsweit nachverfolgt und skaliert werden, nicht nur von einzelnen Entwicklern genutzt werden.

• Risikominderung: Nicht standardisierte Nutzung von GenAI setzt Organisationen erheblichen Risiken aus. Rückwärtstests, menschliche Aufsicht und sorgfältige Analysen sind entscheidend.

• Verschiebung der Kompetenzen:  Junior-Entwickler mit Zugriff auf GenAI-Tools werden zu „KI-gestützten Entwicklern“ und konzentrieren sich auf kreatives Problemlösen und Lösungsdesign. Dies erfordert Anpassungen bei Stellenbeschreibungen, HR-Praktiken und Leistungsbeurteilungen.

• Adressierung von Bedenken hinsichtlich Stellenverlagerungen:  Während einige Aufgaben umverteilt werden können, sollte der Fokus darauf liegen, KI als Enabler zu nutzen. Verantwortungsbewusste Organisationen sollten Arbeitsplätze, Workflows und Stellenbeschreibungen neu denken, um neue Möglichkeiten zu schaffen und menschliche Aufsicht wirksam einzusetzen.

• ‍Organisatorische Implikationen/Best Practices: Viele Best Practices entstehen in Echtzeit, oft aus gut ausgestatteten Organisationen oder Fallstudien, und nicht aus traditioneller Beratung oder Business Schools.

JB fortgesetzt: Quellen für Best Practices

• Provider von Basismodellen: Bildungsinitiativen wie LLM University (Cohere) und ähnliche Bemühungen von OpenAI bieten wertvolle Ressourcen.

• Partner für KI-Bildung: Organisationen wie The Foregrounds stellen Fallstudien zusammen, bewerten Erfolge und Misserfolge und befragen Expertinnen und Experten, um Best Practices zu verstehen und zu verbreiten.

• Interne Teams für KI-Ethik/Governance: Diese Teams treiben Compliance, verantwortungsvolle Bereitstellung und funktionsübergreifende Abstimmung innerhalb der Organisationen voran.

• Regierung und regierungsnahe Institutionen: Initiativen wie Singapurs National AI Strategy und die Arbeit des Center for AI Policy beeinflussen durch die Abstimmung mit Stakeholdern globale Best Practices.

JB fortgesetzt: Förderung des Unternehmertums

• Der Fokus der künftigen Administration auf der Förderung des Unternehmertums, verbunden mit möglichen zusätzlichen Investitionen in Bereichen, denen konservative Regierungen traditionell Priorität einräumen (Verteidigung, fortgeschrittene Fertigung), sowie dem Einfluss von Persönlichkeiten wie Elon Musk, deutet auf mögliche Veränderungen im unternehmerischen Umfeld hin.‍

• Verteidigung: Unternehmen wie Anduril und Palantir werden voraussichtlich von größeren Chancen profitieren.‍

• Fortgeschrittene Fertigung und Robotik: Fokus auf die Rückverlagerung von Fertigungskapazitäten ins Inland, wobei KI Blue-Collar-Jobs eher ermöglicht als ersetzt. Unternehmen wie Figure und Elon Musks Vorhaben in der humanoiden Robotik sind Beispiele. Dies eröffnet auch aus Sicht der industriellen Fertigung interessante Möglichkeiten.‍

• Kreativwirtschaft: Eine neue Welle von Unternehmern und Kreativen nutzt KI-Tools für Musikgenerierung, Videoproduktion, Bilderstellung usw. Diese Personen werden zu Expertinnen und Experten für diese Tools, ähnlich dem Aufstieg von Expertise bei SaaS-Produkten, was die Einstiegshürden senkt und neue Gründungen fördert. Dies wird durch die Straffung des Produktentwicklungszyklus erreicht und ermöglicht schnellere Iterationen und Bereitstellungen.‍

• Gesundheitswesen und Bildung: Obwohl diese Sektoren großes Potenzial bieten, ist unklar, ob die neue Administration angesichts historisch konservativer Ansätze eine breite Ausweitung von KI in diesen Bereichen unterstützen wird.

MV fortgesetzt: Kleinere Organisationen

• GenAI-Vorteil für große Organisationen: Größere Organisationen mit multinationaler Präsenz verfügen oft über mehr Daten und Ressourcen, was ihnen einen Vorteil bei der GenAI-Entwicklung verschafft. Sie sehen sich unterschiedlichen und teils widersprüchlichen regulatorischen Anforderungen gegenüber (z. B. Executive Orders, der AI Act und Regulierungen in China, Brasilien, Australien). Das Navigieren in diesem fragmentierten Regulierungsumfeld erhöht die Komplexität von Produktentwicklung und Bereitstellung.

• Strategien für kleinere Unternehmen und Unternehmer:

• GenAIs Fähigkeiten verstehen: Konzentrieren Sie sich darauf, zu identifizieren, worin GenAI besonders stark ist und wie es Ihrem Unternehmen konkret nützen kann.‍

• Build vs. Buy: Treffen Sie fundierte Entscheidungen darüber, ob KI-Lösungen intern entwickelt oder marktübliche Produkte genutzt werden sollen, die für kleinere Organisationen häufig kosteneffizienter sind.‍

• Beschaffung und Lieferantenmanagement: Prüfen Sie KI-Anbieter gründlich und achten Sie nicht nur auf technische Fähigkeiten, sondern auch auf Folgerisiken, regulatorische Compliance, Cybersicherheit und rechtliche Aspekte. Das reduziert die Abhängigkeit von internem Fachwissen und ermöglicht kleineren Unternehmen, von spezialisierten Anbietern zu profitieren.

• Von größeren Organisationen lernen: Übernehmen Sie bewährte Verfahren im Beschaffungs- und Anbietermanagement, die in größeren Organisationen beobachtet werden. Dies hilft kleineren Unternehmen, die passenden Lösungen auszuwählen und ihre Risiken wirksam zu steuern.

• Rolle der Regierungspolitik: Zuschüsse an NGOs können den Zugang zu GenAI-Tools zum breiteren gesellschaftlichen Nutzen erleichtern und für ein ausgewogeneres Wettbewerbsumfeld sorgen. Dies kann Forschung, Entwicklung und den verantwortungsvollen Einsatz von KI in unterschiedlichen Sektoren unterstützen und potenziell „Winner-take-all“-Effekte abmildern. Dadurch werden Innovation und Wettbewerb gefördert und eine Dominanz weniger großer Akteure verhindert.

JGL fortgesetzt: Zusammenarbeit zwischen Mensch und KI

• Menschlichen Einfluss bewahren:  Schwierig; KI wird häufig als objektiv und vertrauenswürdig wahrgenommen, wodurch es leicht fällt, sich zu sehr auf ihre Empfehlungen zu verlassen.  Human-in-the-loop ist möglicherweise unzureichend.

• Menschliche Rollen integrieren:  Verankern Sie menschliche Rollen grundlegend im Entscheidungsprozess, nicht nur als letzten Freigabeschritt.

• Orakel-KI:  Nutzen Sie KI, um Beschreibungen der Situation bereitzustellen und relevante Informationen hervorzuheben, statt Empfehlungen für die endgültige Maßnahme zu geben. So werden Menschen befähigt, auf Basis von KI-generierten Erkenntnissen fundierte Entscheidungen zu treffen.

• Aufgaben vs. Arbeitsplätze:  KI eignet sich hervorragend zur Automatisierung spezifischer Aufgaben, die nicht unbedingt mit ganzen Arbeitsrollen übereinstimmen. Gestalten Sie Stellen so um, dass sich Aufgaben, die am besten von Menschen erledigt werden, von denen trennen, die sich am besten für KI eignen.  Dies schafft eine Win-win-Zusammenarbeit und maximiert die Stärken beider Seiten. Langfristig bleibt die Sorge bestehen, dass mit dem Fortschritt der KI menschliche Aufgaben zurückgehen.

VS Fazit:

• Der Ansatz der Trump-Administration ist noch unklar.

• Der EU AI Act wird globale Organisationen beeinflussen.

• Organisationen müssen sich auf Bildung, Talentgewinnung und -entwicklung sowie auf angemessene menschliche Aufsicht konzentrieren.

Enzai ist die führende Plattform für KI-Governance im Enterprise-Umfeld, die speziell dafür entwickelt wurde, Organisationen dabei zu unterstützen, von abstrakter Politik zu operativer Aufsicht überzugehen. Unsere Plattform für KI-Risikomanagement bietet die spezialisierte Infrastruktur, die erforderlich ist, um Governance für agentische KI zu steuern, ein umfassendes KI-Inventar zu pflegen und die Einhaltung des EU AI Act sicherzustellen. Durch die Automatisierung komplexer Workflows befähigt Enzai Unternehmen, die Einführung von KI mit Zuversicht zu skalieren und dabei weiterhin mit globalen Standards wie ISO 42001 und NIST im Einklang zu bleiben.