KI- und Politiklandschaft - Ausblick auf 2025

‍Podiumsmitglieder:

• Jamaur Bronner, Co-Founder, The Foregrounds

• Monika Viktorova, Responsible Tech Product Manager, Logistikbranche

• Jason Green-Lowe, Executive Director, Center for AI Policy

• Moderator: Var Shankar, Chief AI and Privacy Officer, Enzai

Einführung durch VS:

• Stellt die Diskussionsteilnehmenden vor.

• Die Diskussion konzentriert sich auf KI-Politik und -Technologie mit Blick auf ein dynamisches Jahr 2025.

Teil 1: Wohin entwickelt sich die KI im Jahr 2025?

MV:

• Das Negative:  Der Missbrauch generativer KI nimmt aufgrund von Barrierefreiheit und sinkenden Kosten zu. Beispiele hierfür sind: Klonen von Stimmen für Betrugsmaschen, Erstellung von CSAM sowie Desinformation im großen Stil. Böswillige Akteure nutzen die Technologie effektiv aus.  Selbst in seriösen Unternehmen kommt es zu öffentlichkeitswirksamen Fehlern, etwa wenn Chatbots Fehlinformationen liefern oder Lösungen anbieten, die außerhalb der Unternehmensrichtlinien liegen (z. B. im Fall von Air Canada).  Die Neigung von GenAI zu halluzinieren und Antworten an die Wünsche der Nutzenden anzupassen, birgt Risiken.  Ein konkretes Beispiel ist Character.AI, wo Pro-Anorexie-Chatbots gefährdete Jugendliche beeinflussen, was unzureichende Schutzmaßnahmen verdeutlicht.

• Das Positive:  GenAI treibt signifikante Fortschritte in der wissenschaftlichen Entdeckung voran, insbesondere in der Wissenschaft und Medizin.  Die Vorhersage der Proteinfaltung (AlphaFold 2) ist hierfür ein Paradebeispiel und beschleunigt das Design sowie die Entwicklung von Medikamenten.

• In Unternehmen:  GenAI wird branchenübergreifend in großem Umfang eingesetzt.  Vertriebs- und Marketingteams nutzen die Technologie zur Inhaltserstellung und für personalisierte Kundenansprachen. CRUD-Anwendungen im Finanzwesen und in anderen Bereichen verzeichnen enorme Produktivitätssteigerungen, wenn GenAI (unter Einhaltung von Sicherheitsregeln und menschlicher Aufsicht) zur Automatisierung von Berichten eingesetzt wird.  Retrieval-Augmented Generation ermöglicht die Interaktion mit riesigen Dokumentenarchiven und unterstützt das Informationsmanagement.  Allerdings ist eine Aufklärung der Anwendenden über Halluzinationen und die Verifizierung von Quellen unerlässlich.

• Wichtigste Erkenntnis: Das Potenzial zur Steigerung der Produktivität ist enorm, aber robuste Schutzmaßnahmen, die Schulung der Nutzenden und die Bewältigung von Halluzinationen sind essenziell. ROI und Preismodelle für Großunternehmen bleiben eine zentrale Frage.

JGL:

• Es gibt auch ohne weitere Verbesserungen bei den Basismodellen ein erhebliches ungenutztes Potenzial für technologische Innovationen. Unternehmen müssen sich darauf konzentrieren, bestehende Modelle auszuschöpfen, neue Marktnischen zu erschließen und Interaktionsmethoden zu optimieren.  Die derzeitigen Interaktionen sind begrenzt (textbasiert, kurze Prompts, sofortige Antworten), doch künftige Interaktionen könnten größere Kontextfenster, KI-„Denkzeit“, eigenständiges Prompting, Multimedia-Interaktion (Stimme, Video, Musik, Fahrzeugsteuerung) und die Integration mit Robotik für reale Anwendungen umfassen.

• Selbst eine vorübergehende Verlangsamung bei der Skalierung der Modelle wird den Fortschritt nicht dauerhaft aufhalten. Engpässe wie Strom, Daten und Finanzierung könnten das exponentielle Wachstum beeinträchtigen, ein lineares Wachstum wird jedoch weiterhin erwartet.  Die Modelle von 2025 werden voraussichtlich deutlich leistungsfähiger sein als jene von 2024.  Berichte über Leistungsplateaus könnten irreführend sein, da Unternehmen sich bezüglich ihrer Investitionen und tatsächlichen Fortschritte strategisch bedeckt halten.

Teil 2: Wohin entwickelt sich die Politik im Jahr 2025?

JGL:

• Unsicherheit der US-Politik: Während des Wahlkampfs wurde kaum über KI gesprochen; das Parteiprogramm der Republikaner enthält lediglich eine kryptische Erwähnung, Bidens KI-Präsidialverordnung durch eine KI zu ersetzen, die auf „freier Meinungsäußerung und der Entfaltung des Menschen“ basiert.‍

• Aspekt der „freien Meinungsäußerung“: Wahrscheinlich Gegenwind bezüglich Bedenken über Desinformation (die als Zensur wahrgenommen werden) und politischer Korrektheit.‍

• Aspekt der „Entfaltung des Menschen“: Bedeutung unklar;  mögliche Verknüpfungen zu Stellungnahmen des Vatikans zu KI sowie Arbeiten der Chicagoer Schule der Nationalökonomie zu familiärer Wohlfahrt und angemessenen Arbeitsplätzen.‍

• Diverse Beraterkreis: Der Ansatz der Trump-Regierung in Bezug auf KI ist aufgrund eines breit gefächerten Beraterkreises bislang unklar.‍

• Erwartungen: Fortführung der Führungsrolle der USA durch Initiativen wie das parteiübergreifende AI Safety Institute, die Zusammenarbeit mit innovativen Unternehmen bei Tests und Sicherheitsstandards sowie die Implementierung von Sicherheitsleitplanken.

MV:

• USA vs. EU: Die US-Präsidialverordnung konzentrierte sich auf freiwillige Einhaltung, während das KI-Gesetz der EU strenge Strafen (Bußgelder in Millionenhöhe) vorsieht. Der EU-Ansatz könnte künftig als Vorbild für ähnliche Strafen in der US-Politik dienen.

• Globale Regulierungslandschaft:  Eine fragmentierte Landschaft mit aufkommenden Vorschriften in China, Brasilien, Australien usw. führt zu Reibungsverlusten und stellt Produktteams sowie Führungskräfte vor Herausforderungen.  Multinationale Unternehmen müssen Produkt-Roadmaps, Funktionsumfänge, zugrunde liegende Architekturen und Modelle anpassen, um den unterschiedlichen Rechtsprechungen gerecht zu werden.

• Durchsetzung in der EU: Der Fokus der EU auf öffentlichkeitswirksame Durchsetzungsfälle und erhebliche Bußgelder unter der DSGVO könnte als Modell für die Durchsetzung des KI-Gesetzes dienen. Dies hat Auswirkungen darauf, wie Organisationen, insbesondere multinationale Konzerne, an die Produktentwicklung und -bereitstellung herangehen.

Teil 3: Was bedeutet dies für Unternehmen und Praktiker?

JB:

• Weiterbildung und Anpassung:  Die Anpassung an KI erfolgt unbeständig und unzureichend, was Anlass zur Sorge gibt. Viele Unternehmen priorisieren GenAI strategisch, verfügen jedoch über keine Pläne zur Weiterbildung. Unternehmen müssen sich auf KI-Schulungen und Standardisierung konzentrieren.

• Messung des ROI:  Produktivitätssteigerungen durch Tools wie Cursor und GitHub Copilot müssen auf Unternehmensebene nachverfolgt und skaliert werden, anstatt sie nur von einzelnen Entwickelnden nutzen zu lassen.

• Risikominderung: Eine nicht standardisierte Nutzung von GenAI setzt Unternehmen erheblichen Risiken aus. Rückwärtstests, menschliche Aufsicht und sorgfältige Analysen sind von entscheidender Bedeutung.

• Veränderung der erforderlichen Fähigkeiten:  Junior-Entwickelnde mit Zugang zu GenAI-Tools werden zu „KI-gestützten Entwickelnden“, die sich auf kreative Problemlösung und Lösungsdesign konzentrieren. Dies erfordert Anpassungen bei Stellenbeschreibungen, HR-Praktiken und Leistungsbeurteilungen.

• Umgang mit Sorgen über den Verlust von Arbeitsplätzen:  Während einige Aufgabenbereiche neu verteilt werden können, sollte der Fokus darauf liegen, KI als Befähiger zu nutzen. Verantwortungsbewusste Unternehmen sollten Arbeitsplätze, Arbeitsabläufe und Stellenbeschreibungen neu gestalten, um neue Möglichkeiten zu schaffen und menschliche Aufsicht effektiv einzusetzen.

• ‍Unternehmensweite Implikationen/Best Practices: Viele Best Practices entstehen derzeit in Echtzeit – oft in finanzstarken Unternehmen oder durch Fallstudien statt über klassische Beratungsfirmen oder Business Schools.

JB fortfahrend: Quellen für Best Practices

• Anbieter von Basismodellen: Bildungsinitiativen wie die LLM University (Cohere) und ähnliche Bestrebungen von OpenAI bieten wertvolle Ressourcen.

• KI-Bildungspartner: Organisationen wie The Foregrounds tragen Fallstudien zusammen, bewerten Erfolge sowie Misserfolge und befragen Experten, um Best Practices zu verstehen und zu verbreiten.

• Interne KI-Ethik-/Governance-Teams: Diese Teams treiben die Compliance, die verantwortungsvolle Bereitstellung und die abteilungsübergreifende Abstimmung innerhalb von Unternehmen voran.

• Regierungen und regierungsnahe Institutionen: Initiativen wie die National AI Strategy von Singapur und die Arbeit des Center for AI Policy beeinflussen globale Best Practices durch die Abstimmung der beteiligten Akteure.

JB fortfahrend: Förderung des Unternehmertums

• Der Fokus der neuen Regierung auf die Förderung des Unternehmertums, gepaart mit potenziell steigenden Investitionen in Bereichen, die traditionell von konservativen Regierungen priorisiert werden (Verteidigung, fortschrittliche Fertigung), sowie der Einfluss von Persönlichkeiten wie Elon Musk, deutet auf mögliche Verschiebungen in der Gründerlandschaft hin.‍

• Verteidigung: Unternehmen wie Anduril und Palantir werden voraussichtlich von vermehrten Mandaten profitieren.‍

• Fortschrittliche Fertigung und Robotik: Fokus auf die Verlagerung von Produktionskapazitäten ins Inland, wobei KI gewerbliche Berufe unterstützt, statt sie zu ersetzen. Unternehmen wie Figure und Elon Musks Vorhaben im Bereich humanoider Robotik sind hierfür Beispiele. Dies bietet auch aus Sicht der industriellen Fertigung interessante Möglichkeiten.‍

• Kreativwirtschaft: Eine neue Welle von Unternehmern und Kreativen nutzt KI-Tools für Musikgenerierung, Videoproduktion, Bilderstellung etc. Diese Personen entwickeln sich zu Experten für diese Tools, vergleichbar mit dem Kompetenzzuwachs bei SaaS-Produkten, was die Markteintrittsbarrieren senkt und neues Unternehmertum fördert. Dies wird durch die Rationalisierung des Produktentwicklungslebenszyklus erreicht, was schnellere Iterationen und Bereitstellungen ermöglicht.‍

• Gesundheitswesen und Bildung: Obwohl es in diesen Sektoren spannendes Potenzial gibt, ist es angesichts historisch konservativer Ansätze ungewiss, ob die neue Regierung eine breite Expansion von KI in diesen Bereichen unterstützen wird.

MV fortfahrend: Kleinere Unternehmen

• GenAI-Vorteile für Großunternehmen: Größere Unternehmen mit globaler Präsenz verfügen oft über mehr Daten und Ressourcen, was ihnen einen Vorteil bei der GenAI-Entwicklung verschafft. Sie stehen verschiedenen und teils widersprüchlichen regulatorischen Anforderungen gegenüber (z. B. Präsidialverordnungen, das KI-Gesetz der EU sowie Vorschriften in China, Brasilien, Australien). Die Bewältigung dieser fragmentierten Regulierungslandschaft erhöht die Komplexität bei der Produktentwicklung und -bereitstellung.

• Strategien für kleinere Unternehmen und Start-ups:

• Die Fähigkeiten von GenAI verstehen: Konzentration darauf, zu identifizieren, worin GenAI sich auszeichnet und wie das eigene Unternehmen konkret davon profitieren kann.‍

• Build vs. Buy: Fundierte Entscheidungen darüber treffen, ob KI-Lösungen intern entwickelt oder Standardprodukte genutzt werden sollen, was für kleinere Organisationen oft kostengünstiger ist.‍

• Beschaffung und Lieferantenmanagement: Gründliche Überprüfung von KI-Anbietern, wobei der Fokus nicht nur auf technischen Fähigkeiten, sondern auch auf nachgelagerten Risiken, regulatorischer Compliance, Cybersicherheit und rechtlichen Aspekten liegen sollte. Dies verringert die Abhängigkeit von internem Fachwissen und ermöglicht es kleineren Unternehmen, von spezialisierten Dienstleistern zu profitieren.‍

• Von größeren Unternehmen lernen: Best Practices für Beschaffung und Lieferantenmanagement übernehmen, die in größeren Unternehmen erprobt wurden. Dies hilft kleineren Betrieben, die richtigen Lösungen auszuwählen und ihre Risiken effektiv zu steuern.‍

• Rolle der Regierungspolitik: Fördermittel für NGOs können den Zugang zu GenAI-Tools für einen breiteren gesellschaftlichen Nutzen erleichtern und für fairere Wettbewerbsbedingungen sorgen. Dies kann Forschung, Entwicklung und eine verantwortungsvolle KI-Bereitstellung in verschiedenen Sektoren unterstützen und potenziell „Winner-take-all“-Effekte abmildern. So werden Innovation und Wettbewerb gefördert und die Dominanz weniger Großakteure verhindert.

JGL fortfahrend: Kollaboration von Mensch und KI

• Aufrechterhaltung des menschlichen Einflusses:  Schwierig; KI wird oft als objektiv und vertrauenswürdig wahrgenommen, was dazu führt, dass man sich zu sehr auf ihre Empfehlungen verlässt.  Ein „Human-in-the-Loop“-Ansatz ist unter Umständen nicht ausreichend.

• Integration menschlicher Rollen:  Menschliche Aufgaben substanziell in den Entscheidungsprozess einbetten und nicht erst im Schritt der finalen Freigabe.

• Orakel-KI:  Nutzung von KI zur Beschreibung von Situationen und Hervorhebung relevanter Informationen, anstatt Empfehlungen für die letztendliche Handlung auszusprechen. Dies befähigt den Menschen, fundierte Entscheidungen auf der Grundlage von KI-generierten Erkenntnissen zu treffen.

• Aufgaben vs. Arbeitsplätze:  KI glänzt bei der Automatisierung spezifischer Aufgaben, was sich nicht zwingend mit ganzen Berufsbildern deckt. Arbeitsplätze sollten so umstrukturiert werden, dass Aufgaben, die am besten von Menschen erledigt werden, von jenen getrennt werden, die am besten für eine KI geeignet sind.  Dies schafft eine Win-Win-Kollaboration und maximiert die jeweiligen Stärken. Langfristig bleibt die Sorge bestehen, dass menschliche Aufgaben mit dem Fortschreiten der KI abnehmen.

VS Fazit:

• Der Ansatz der Trump-Regierung ist noch nicht absehbar.

• Das KI-Gesetz der EU wird globale Auswirkungen auf Unternehmen haben.

• Unternehmen müssen sich auf Weiterbildung, Talentakquise/-entwicklung und eine angemessene menschliche Aufsicht konzentrieren.

Enzai ist die führende Plattform für die KI-Governance in Unternehmen, die speziell dafür entwickelt wurde, Organisationen beim Übergang von abstrakten Richtlinien hin zur operativen Aufsicht zu unterstützen. Unsere Plattform für das KI-Risikomanagement bietet die spezialisierte Infrastruktur, die für die Verwaltung von agentischer KI-Governance, die Pflege eines umfassenden KI-Inventars und die Gewährleistung der Konformität mit dem EU-KI-Gesetz erforderlich ist. Durch die Automatisierung komplexer Arbeitsabläufe befähigt Enzai Unternehmen, die Einführung von KI souverän zu skalieren und gleichzeitig die Ausrichtung an globalen Standards wie ISO 42001 und NIST aufrechtzuerhalten.