‍Teilnehmer des Panels:

• Jamaur Bronner, Mitbegründer, The Foregrounds

• Monika Viktorova, Verantwortliche Technologiemanagerin für Produkte, Logistikbranche

• Jason Green-Lowe, Geschäftsführender Direktor, Center for AI Policy

• Moderator: Var Shankar, Chief AI and Privacy Officer, Enzai

Einführung von VS:

• Stellt die Panelteilnehmer vor.

• Die Diskussion konzentriert sich auf KI-Richtlinien und Technologie mit Blick auf ein dynamisches Jahr 2025.

Teil 1: Wohin geht die KI bis 2025?

MV:

• Das Schlechte:  Der Missbrauch von generativer KI nimmt aufgrund der Zugänglichkeit und geringerer Kosten zu. Beispiele: Stimmenklonen für Betrug, Erstellung von CSAM und großflächige Desinformation. Schädliche Akteure nutzen die Technologie effektiv aus.  Selbst in legitimen Organisationen kommen bedeutende Fehler vor, wie z.B. Chatbots, die Fehlinformationen geben oder Lösungen außerhalb der Unternehmensrichtlinien anbieten (z. B. Fall Air Canada).  Die Neigung von GenAI, Halluzinationen zu haben und Antworten an Benutzerwünsche anzupassen, birgt Risiken.  Ein spezifisches Beispiel ist Character.AI, wo pro-untergewichtige Chatbots anfällige Jugendliche beeinflussen und unzureichende Schutzmaßnahmen aufzeigen.

• Das Gute:  Generative KI treibt bedeutende Fortschritte in der wissenschaftlichen Entdeckung voran, insbesondere in Wissenschaft und Medizin.  Die Vorhersage der Proteinstruktur (AlphaFold 2) ist ein Beispiel dafür und beschleunigt das Design und die Entwicklung von Medikamenten.

• In Organisationen:  Generative KI wird umfassend in verschiedenen Branchen eingesetzt.  Vertriebs- und Marketingteams nutzen sie für die Inhaltserstellung und personalisierten Kontakt. CRUD-Anwendungen im Finanzwesen und anderswo verzeichnen enorme Produktivitätssteigerungen, wenn generative KI (mit Schutzmechanismen und menschlicher Aufsicht) zur Automatisierung von Berichten verwendet wird.  Retrieval-augmented Generation ermöglicht die Interaktion mit umfangreichen Dokumentbibliotheken und unterstützt das Informationsmanagement.  Doch ist die Benutzerbildung hinsichtlich Halluzinationen und Quellenverifizierung entscheidend.

• Wichtige Erkenntnis: Das Potenzial zur Produktivitätssteigerung ist enorm, aber robuste Schutzmaßnahmen, Benutzerbildung und das Ansprechen von Halluzinationen sind unerlässlich. ROI und Preismodelle für große Organisationen bleiben eine zentrale Frage.

JGL:

• Es gibt erhebliches ungenutztes Potenzial für technologische Innovation, selbst ohne weitere Verbesserungen in den Grundmodellen. Organisationen müssen sich darauf konzentrieren, bestehende Modelle auszunutzen, neue Marktnischen zu erkunden und Interaktionsmethoden zu "entfesseln".  Aktuelle Interaktionen sind begrenzt (textbasiert, kurze Eingaben, sofortige Antworten), aber zukünftige Interaktionen könnten größere Kontextfenster, KI-"Denkzeit", Selbstaufforderungen, Multimediainteraktion (Sprache, Video, Musik, Fahrzeugsteuerung) und die Integration mit Robotik für reale Auswirkungen umfassen.

• Sogar ein vorübergehender Rückgang bei der Skalierung von Modellen wird den Fortschritt nicht dauerhaft aufhalten. Engpässe wie Elektrizität, Daten und Finanzierung können das exponentielle Wachstum beeinflussen, aber lineares Wachstum wird weiterhin erwartet.  2025-Modelle werden voraussichtlich erheblich leistungsfähiger sein als Modelle von 2024.  Berichte über Leistungshochplateaus können irreführend sein, da Unternehmen strategisch schweigsam über ihre Investitionen und den wahren Fortschritt sind.

Teil 2: Wohin geht die Politik bis 2025?

JGL:

• Unsicherheit der US-Politik: Kaum Diskussion über KI während der Kampagne; nur eine kryptische Erwähnung in der republikanischen Plattform, ob Bidens KI-Dekret durch KI ersetzt werden soll, die auf "Redefreiheit und menschlichem Wohlstand" basiert.

• Aspekt "Redefreiheit": Wahrscheinlich Widerstand gegen Bedenken bezüglich Desinformation (wahrgenommen als Zensur) und politische Korrektheit.

• Aspekt "Menschlicher Wohlstand": Bedeutung unklar; mögliche Verbindungen zu vatikanischen Kommentaren zu KI, Arbeiten der Chicagoer Schule der Ökonomie zur Familienwohlsorge und geeigneten Arbeitsplätzen.

• Vielfältige Berater: Der Ansatz der Trump-Regierung zu KI ist bisher unklar, was auf eine diverse Beraterschar zurückzuführen ist.

• Hoffnungen: Fortgesetzte US-Führung durch Initiativen wie das parteiübergreifende KI-Sicherheitsinstitut, Zusammenarbeit mit innovativen Unternehmen bei der Erprobung und Sicherheitsstandards sowie Umsetzung von Sicherheitsvorkehrungen.

MV:

• USA vs. EU: US-Dekret konzentriert sich auf freiwillige Einhaltung, während der EU-KI-Gesetz strenge Strafen (Geldstraßen in Millionenhöhe) vorsieht. Der EU-Ansatz könnte ähnliche Strafen in zukünftiger US-Politik inspirieren.

• Globale regulatorische Landschaft:  Lückenhafte Umwelt mit entstehenden Regulierungen in China, Brasilien, Australien usw. schafft Friktionen und Herausforderungen für Produktteams und Führungskräfte.  Multinationale Unternehmen müssen Produktfahrpläne, Funktionssätze, zugrunde liegende Architekturen und Modelle anpassen, um die Anforderungen verschiedener Rechtsordnungen zu erfüllen.

• Durchsetzung in der EU: Der Fokus der EU auf hochkarätige Durchsetzungsfälle und erhebliche Bußgelder gemäß DSGVO könnte ein Modell für die Durchsetzung des KI-Gesetzes sein, die sich auf die Herangehensweise von Organisationen, insbesondere multinationaler Unternehmen, an Produktentwicklung und -bereitstellung auswirkt.

Teil 3: Was bedeutet das für Organisationen und Praktiker?

JB:

• Upskilling und Anpassung:  Die Anpassung an KI ist inkonsistent und unzureichend, was Bedenken hervorruft. Viele Unternehmen priorisieren strategisch die generative KI, aber es mangelt an Plänen zur Kompetenzsteigerung. Organisationen müssen sich auf KI-Bildung und Standardisierung konzentrieren.

• Messung von ROI:  Produktivitätsgewinne durch Werkzeuge wie Cursor und GitHub Copilot müssen organisationsweit verfolgt und skaliert werden, nicht nur von einzelnen Entwicklern genutzt werden.

• Risikominderung: Die nicht standardisierte Nutzung von generativer KI setzt Organisationen erheblichen Risiken aus. Rückwärtsprüfung, menschliche Aufsicht und sorgfältige Analyse sind entscheidend.

• Veränderung von Kompetenzprofilen:  Juniorentwickler mit Zugang zu generativen KI-Werkzeugen werden zu "KI-fähigen Entwicklern" und konzentrieren sich auf kreative Problemlösung und Lösungsdesign. Dies erfordert Anpassungen in Stellenbeschreibungen, HR-Praktiken und Leistungsbewertungen.

• Ansprechen von Bedenken zur Arbeitsplatzverlagerung:  Während einige Arbeitsfunktionen umverteilt werden können, sollte der Fokus auf der Nutzung von KI als Enabler liegen. Verantwortungsvolle Organisationen sollten Arbeitsplätze, Arbeitsabläufe und Stellenbeschreibungen neu denken, um neue Möglichkeiten zu schaffen und menschliche Aufsicht effektiv zu nutzen.

• ‍Organisatorische Implikationen/Best Practices: Viele Best Practices entstehen in Echtzeit, oft von gut ausgestatteten Organisationen oder Fallstudien, statt von traditionellen Beratungshäusern oder Wirtschaftshochschulen.

JB fortgesetzt: Quellen für Best Practices

• Anbieter von Grundmodellen: Bildungsinitiativen wie LLM University (Cohere) und ähnliche Bemühungen von OpenAI bieten wertvolle Ressourcen.

• AI-Bildungspartner: Organisationen wie The Foregrounds sammeln Fallstudien, bewerten Erfolge und Misserfolge und führen Expertengespräche, um Best Practices zu verstehen und zu verbreiten.

• Interne KI-Ethik-/Governance-Teams: Diese Teams treiben Compliance, verantwortungsvolle Einführung und funktionsübergreifende Ausrichtung in Organisationen voran.

• Regierungs- und regierungsnahe Institutionen: Initiativen wie die nationale KI-Strategie Singapurs und die Arbeit des Center for AI Policy beeinflussen globale Best Practices durch Abstimmung unter den Interessengruppen.

JB fortgesetzt: Förderung des Unternehmertums

• Der Fokus der zukünftigen Regierung auf die Förderung des Unternehmertums in Verbindung mit möglichen erhöhten Investitionen in Bereiche, die traditionell von konservativen Regierungen priorisiert werden (Verteidigung, fortschrittliche Fertigung) und der Einfluss von Persönlichkeiten wie Elon Musk deutet auf mögliche Verschiebungen in der unternehmerischen Landschaft hin.

• Verteidigung: Unternehmen wie Anduril und Palantir werden wahrscheinlich zunehmende Chancen sehen.

• Fortschrittliche Fertigung und Robotik: Der Fokus liegt auf der Rückverlagerung von Fertigungskapazitäten, wobei KI mehr als Ermöglichung denn als Ersatz für blaue Kragen-Jobs gedacht ist. Unternehmen wie Figure und Elon Musks Unternehmungen in humanoider Robotik sind Beispiele. Dies bietet auch aus industrieller Fertigungsperspektive interessante Möglichkeiten.

• Kreative Industrien: Eine neue Welle von Unternehmern und Kreativen nutzt KI-Werkzeuge zur Musikproduktion, Videoproduktion, Bildgestaltung usw. Diese Personen werden Experten in diesen Werkzeugen, ähnlich wie beim Aufkommen von Expertise in SaaS-Produkten, was die Zugangsbarriere senkt und neues Unternehmertum fördert. Dies wird durch die Straffung des Produktentwicklungszyklus erreicht, der schnellere Iterationen und Deployments ermöglicht.

• Gesundheitswesen und Bildung: Während es in diesen Sektoren aufregendes Potenzial gibt, bleibt unklar, ob die neue Regierung die breite Anwendung von KI in diesen Bereichen unterstützen wird, angesichts historisch konservativer Ansätze.

MV fortgesetzt: Kleinere Organisationen

• GenAI-Vorteil für große Organisationen: Größere Organisationen mit multinationalen Standbeinen verfügen oft über mehr Daten und Ressourcen, was ihnen einen Vorteil in der GenAI-Entwicklung verschafft. Sie stehen vor vielfältigen und manchmal widersprüchlichen regulatorischen Bedenken (z.B. Exekutivanordnungen, das KI-Gesetz und Regelungen in China, Brasilien, Australien). Die Navigation in dieser fragmentierten regulatorischen Landschaft erhöht die Komplexität für Produktentwicklung und -bereitstellung.

• Strategien für kleinere Unternehmen und Unternehmer:

• Verstehen der Fähigkeiten von GenAI: Fokus auf die Identifizierung, worin GenAI hervorragend ist und wie sie ihrem Unternehmen konkret zugute kommen kann.

• Build vs. Buy: Informierte Entscheidungen darüber treffen, ob KI-Lösungen intern entwickelt oder vorgefertigte Produkte genutzt werden sollen, die oft kosteneffektiver für kleinere Organisationen sind.

• Beschaffung und Anbietermanagement: KI-Anbieter gründlich prüfen, mit Fokus nicht nur auf technische Fähigkeiten, sondern auch auf nachgelagerte Risiken, regulatorische Compliance, Cybersicherheit und rechtliche Erwägungen. Dies verringert die Abhängigkeit von interner Expertise und ermöglicht es kleineren Unternehmen, von spezialisierten Anbietern zu profitieren.

• Von größeren Organisationen lernen: Best Practices im Beschaffungs- und Anbietermanagement übernehmen, die bei größeren Organisationen beobachtet werden. Dies hilft kleineren Unternehmen, die richtigen Lösungen auszuwählen und ihr Risiko effektiv zu managen.

• Rolle der Regierungspolitik: Zuschüsse an NGOs können den Zugang zu GenAI- Werkzeugen für breitere gesellschaftliche Zwecke erleichtern und ein ausgeglicheneres Spielfeld schaffen. Dies kann Forschung, Entwicklung und verantwortungsvolle Einführung von KI in verschiedenen Sektoren unterstützen und möglicherweise "Gewinner-alles"-Effekte mildern. Dies fördert Innovation und Wettbewerb, indem es verhindert, dass nur wenige große Akteure dominieren.

JGL fortgesetzt: Mensch-KI-Zusammenarbeit

• Aufrechterhaltung menschlichen Einflusses:  Schwierig; KI wird oft als objektiv und vertrauenswürdig wahrgenommen, was es leicht macht, sich zu sehr auf ihre Empfehlungen zu verlassen.  Mensch-in-der-Schleife könnte unzureichend sein.

• Integration menschlicher Rollen:  Menschliche Rollen grundsätzlich in den Entscheidungsprozess einbauen, nicht nur als finalen Genehmigungsschritt.

• Oracle AI:  KI zur Bereitstellung von Beschreibungen der Situation und zur Hervorhebung relevanter Informationen verwenden, anstatt Empfehlungen zur endgültigen Aktion zu geben. Dies ermöglicht es Menschen, informierte Entscheidungen basierend auf KI-generierten Erkenntnissen zu treffen.

• Aufgaben vs. Jobs:  KI eignet sich hervorragend zur Automatisierung spezifischer Aufgaben, die möglicherweise nicht mit ganzen Jobs übereinstimmen. Jobs umstrukturieren, um Aufgaben zu trennen, die am besten von Menschen erledigt werden, von denen, die am besten von KI erledigt werden.  Dies schafft eine Win-Win-Zusammenarbeit und maximiert die Stärken beider. Langfristig bleibt die Sorge über die Verringerung menschlicher Aufgaben mit dem Fortschritt der KI bestehen.

Schlussfolgerung von VS:

• Der Ansatz der Trump-Regierung ist noch unklar.

• Das EU-KI-Gesetz wird globale Organisationen beeinflussen.

• Organisationen müssen sich auf Bildung, Talentakquise/-entwicklung und angemessene menschliche Aufsicht konzentrieren.