Der Hype ist vorbei – KI ist hier

Dirk Hecker: Tatsächlich hat generative KI vor einem Jahr die Spitze des Gartner-Hype-Cycles erklommen. Nicht zu Unrecht, denn die neuen Modelle können eine völlig neue Klasse von Aufgabenstellungen lösen und damit Entwicklerinnen und Entwickler, Kreative und Wissensarbeiter in bisher ungekanntem Maß unterstützen.

Spano: Anders als bei früheren Hype-Themen formen sich bei KI im Rekordtempo Anwendungsfelder und viel Substanz wird sichtbar. Teilen Sie diese Beobachtung? 

Hecker: Der Hype ist vorbei, KI ist hier! Ein untrügliches Zeichen dafür sind die NVIDIA-Aktien, deren Börsenwert in den letzten Monaten unglaubliche Kurssprünge erlebt hat und der gerade jetzt im Juni wieder einen neuen Höchststand erreicht hat. NVIDIA ist Stand heute das wertvollste Unternehmen der Welt. Dahinter steht eine hohe Nachfrage nach Rechenkapazität, und die bedeutet, dass in Zukunft noch sehr viel mehr KI-Modelle trainiert und eingesetzt werden.

Allerdings muss man auch sagen: KI ist nicht erst seit dem Hype um ChatGPT „hier“. Wir arbeiten auch am Fraunhofer IAIS schon seit vielen Jahren an Technologien der künstlichen Intelligenz, die bei unseren Kunden rund um die Uhr und sieben Tage in der Woche im Einsatz sind und Menschen in ihrer Arbeit unterstützen. Mit der rasanten Entwicklung der generativen KI und den dazu notwendigen Rechenressourcen sind wir jetzt in einer neuen Ära der KI angekommen, die weit über den Hype hinaus alle Bereiche unserer Wirtschaft und Gesellschaft durchdringen wird.

Spano: Wie unterscheidet sich generative KI von anderen Bereichen der KI-Forschung?

Hecker: Traditionelle KI-Ansätze wie überwachtes maschinelles Lernen und Mustererkennung eignen sich für Aufgaben wie Klassifizieren, Prognostizieren, Vorschlagen. Für jede neue Fragestellung muss jedoch ein individuelles Modell mit speziellen Beispieldaten trainiert werden. Ein notorischer Engpass sind dabei die Beispieldaten, die meist durch Menschen vorher annotiert werden müssen, um sie dem Modell als Trainingsbeispiele zur Verfügung zu stellen. 

Dieses Problem hat generative KI nicht. Sie lernt selbstüberwacht, indem sie selbsterzeugte Lücken in den Daten, wie einzelne Wörter, vorhersagt und mit der zurückgehaltenen Information vergleicht. Damit steht auf einmal das ganze Internet mit seinen Daten als Lernstoff zur Verfügung. Ein so trainiertes Modell kann erstaunlich viele Aufgaben lösen und ist somit vielseitig nutzbar. Darum nennt man die Modelle auch Fundamentalmodelle (Foundation Models). Sie beherrschen nicht nur analytische Aufgaben, sie erzeugen auch neuen Content: Inzwischen gibt es multimodale, multilinguale Modelle, die Inhalte wie Texte und Code, Sprache und Musik, Bilder und Videoclips in vielen Sprachen erzeugen können. 

Solche wiederverwendbaren Modelle verändern die bisherigen Rüstzeiten für die Entwicklung von KI-Systemen radikal, denn ein Fundamentalmodell kann wesentlich umfassender, kosten- und nutzeneffizienter eingesetzt werden und benötigt in der Regel für unterschiedliche Einsatzzwecke nur geringfügige Anpassungen.

Spano: US-Techkonzerne dominieren die KI-Entwicklung. Wie weit abgeschlagen sind Deutschland und Europa?

Hecker: Die Entwicklung großer generativer Modelle ist sehr kostenintensiv – angeblich hat das GPT4-Modell weit über 100 Millionen US-Dollar gekostet. Den Markt beherrschen die großen US-Tech-Unternehmen, die die Rechenleistung und die Beschaffung immer neuer Daten finanzieren können, oder besser gesagt, vorfinanzieren können. Ihre besten Modelle bleiben uns verschlossen und europäische Firmen können sie nur über die Services nutzen. Das heißt, unsere Daten fließen zu den Servern der US-Tech-Unternehmen und werden dazu genutzt, die Modelle ständig zu verbessern. 

Spano: Wie hoch in etwa ist das Investitionsvolumen in KI-Modelle?

Hecker: Der Stanford AI Index Report 2023 besagt, dass von den wichtigsten Modellen 51 aus der Wirtschaft und nur 15 aus der öffentlichen Forschung stammen. Dabei stiegen die privaten Investitionen in den USA im Berichtsjahr um 22,1 Prozent auf 67,2 Milliarden US-Dollar, während sie in Europa um 14,1 Prozent auf 11 Milliarden US-Dollar schrumpften. 

Spano: Diese Zahlen machen aus europäischer Sicht wenig Mut. Was können wir also tun, um nicht erneut in einer digitalen Schlüsselkompetenz von den USA abgehängt zu werden?

Hecker: Wir müssen uns sehr anstrengen, um den Anschluss nicht zu verlieren. Deshalb arbeiten wir in Deutschland und Europa daran, neben privatwirtschaftlichen Investitionen auch die Forschungsförderung im Bereich generative KI zu intensivieren und unsere GenAI-Forschung insbesondere auf die Bedarfe deutscher und europäischer Unternehmen auszurichten. Im vom Bundeswirtschaftsministerium geförderten Projekt „OpenGPT-X“ trainieren wir aktuell große Sprachmodelle mit dem Ziel, diese Open Source zur Verfügung zu stellen und flexibel an individuelle Bedarfe von Unternehmen anpassen zu können. Wichtig ist außerdem, dass wir in die Infrastrukturen investieren, um große europäische Modelle rechnen zu können und Unternehmen durch eine Vielfalt an verfügbaren Modellen mehr Wahlfreiheit für ihre GenAI-Anwendungen zu ermöglichen.

Spano: Welche Fortschritte erwarten Sie in den nächsten Jahren in der generativen KI? 

Hecker: Mit generativer KI erhalten wir ein mächtiges Werkzeug, das kollektives Wissen für uns gebrauchsfertig erschließt, aufbereitet und anwendet. Wir können uns bald mit unseren Geräten unterhalten, personalisierte Copiloten werden uns in jeder App unterstützen, autonome Agenten übernehmen unsere Aufträge, Cobots werden sich immer besser in unserer Welt zurechtfinden. Ich erwarte, dass die Modelle in Zukunft nicht nur noch intelligenter und vielseitiger werden, sondern für bestimme Einsatzbereiche auch spezialisierter, kleiner, energieeffizienter und kostengünstiger. Wichtig wird es sein, dass wir mit der Entwicklung Schritt halten und uns nicht in die volle Abhängigkeit von technologie- und investitionsstarken Ländern wie den USA begeben. Wir sollten die Technologie so weit beherrschen, dass wir insbesondere unserer Wirtschaft eigene Produkte anbieten können, die sich durch Spezialwissen auszeichnen und an europäischen Werten orientieren.  

Spano: In welchen Sektoren sehen Sie das größte Einsatzpotenzial von KI? 

Hecker: In fast allen Branchen bekommen wir ein riesiges Problem durch den demografisch bedingten Fachkräftemangel. Der kann durch generative KI abgefedert werden. Voraussetzung dafür ist eine stringente Digitalisierung der Prozesse. Aber auch diese kann durch generative KI mehr denn je verbessert werden. Ich denke an den Aufwand zur Erstellung von Dokumentationen, das Ausfüllen von Formularen, das Protokollieren von Gesprächen. Generative KI kann uns nicht nur diese Textproduktionen abnehmen, sie kann die Texte auch prüfen, durchsuchen, interpretieren, auswerten, zusammenfassen und beurteilen. Besondere Potenziale sehe ich hier im Gesundheitsbereich, im juristischen Bereich und generell in allen administrativen Bereichen. 

Spano: Wo viel Licht ist, fehlt es bekanntlich nicht an Schatten – wo liegen die Gefahren von KI?

Hecker: Die größten Gefahren sehen wir ja jetzt schon: Missbrauch der Technologie, mangelnde Verlässlichkeit der Ergebnisse oder der sorglose Umgang mit geistigem Eigentum. Mit generativer KI wird es leichter, Deep Fakes zu erstellen, digitale Systeme anzugreifen und Menschen durch falsche Identitäten zu betrügen. Wir müssen nachvollziehen können, wie Inhalte entstanden sind und Missbrauch im Entstehen erkennen und unterbinden. Die KI muss verlässlich sein in dem Sinne, dass sie bei ordnungsgemäßer Nutzung richtige bzw. ausgewogene Ergebnisse liefert. Die Trainingsdaten müssen ausgeglichen sein. Die KI muss ihre Quellen korrekt und nachprüfbar angeben und am besten selbst prüfen. Sie muss unsichere Aussagen relativieren. Das umso mehr, je mehr wir uns auf die KI verlassen. Der Umgang mit fremden Daten ist ein offenes Problem. Personenbezogene Daten müssen geschützt werden, es muss möglich sein, Daten im Netz vom Training auszuschließen und externe Quellen, die genutzt werden, müssen lizensiert oder angemessen vergütet werden.

Spano: Welche Rolle spielt menschliche Überwachung und Kontrolle bei der Nutzung von generativer KI, insbesondere in Bezug auf die Vermeidung von Fehlern oder unerwünschten Ergebnissen?

Hecker: Vier Augen sehen mehr als zwei. Ob und wann eine KI überhaupt selbstständig entscheiden darf, ist in verschiedenen Gesetzen geregelt – zum Beispiel im Gesundheitsbereich, im Verkehrswesen, sowie insbesondere durch die neue kommende KI-Verordnung der EU. Die KI sollte so verlässlich wie möglich sein, also zum Beispiel transparent Quellen und Alternativen beisteuern. Eine weitere Stellschraube ist die Software, in die das KI-Modell eingebettet ist. Durch die Gestaltung der Mensch-Maschine-Interaktion sollte man bei den Nutzern und Nutzerinnen eine wachsame und kritische Haltung verstärken. Ergebnisse sollten also auch dann kritisch geprüft werden, wenn die KI sonst immer sehr verlässlich geliefert hat und der Mensch unter Zeitdruck steht. 

Spano: Welche Empfehlungen würden Sie Unternehmen geben, die generative KI in ihren Betrieb integrieren möchten?

Hecker: Wir raten unseren Kunden: Tasten Sie sich schrittweise heran. Probieren Sie aus, wie weit Sie mit Prompts kommen. Besonderer Nutzen entsteht, wenn die KI auf Unternehmenswissen und -daten zugreifen kann, hier muss selbstverständlich sehr sorgsam mit dem Datenschutz umgegangen werden. Prüfen Sie in einem zweiten Schritt, die KI an Informationssysteme ihres Unternehmens anzuschließen, bevor Sie ein Modell mit unternehmensspezifischen Daten nachtrainieren und spezialisieren. Vergleichen Sie verschiedene Modelle anhand von Benchmarks, die Ihre Aufgaben reflektieren, oder besser noch mit eigenen Testdaten. Überlegen Sie, ob ein offenes, in der EU betreibbares Modell geeignet ist. Und setzen Sie KI zunächst intern ein, bevor Sie sie Ihren Kunden anbieten. 

Spano: Was sollte beachtet werden, um Risiken bei der Einführung von KI zu vermeiden?

Hecker: Risiken entstehen, wenn nicht geregelt ist, wie die Mitarbeitenden KI nutzen dürfen. Stellen Sie klare Richtlinien auf, welche Aufgaben der KI gestellt werden und welche Daten dazu übermittelt werden dürfen. Und stellen Sie sicher, dass die Mitarbeiterinnen und Mitarbeiter mangels vom Unternehmen autorisierter Alternativen keine öffentlichen KI-Services mit privaten Accounts nutzen.

Spano: Die Europäische Union ist mit dem EU AI Act weltweit Vorreiter bei der Regulierung der Technologie. Wie schätzen Sie den EU AI Act ein?

Hecker: Zunächst ist es ein Erfolg, dass wir es noch vor der Europawahl geschafft haben, eine einheitliche Regelung für die Nutzung von KI in 27 Mitgliedsstaaten zu verabschieden. Man stelle sich vor, wir hätten individuelle nationale Regelungen – das wäre ein nicht stemmbarer bürokratischer und regulatorischer Aufwand für Unternehmen, Start-Ups, etc. Der AI Act der EU kategorisiert und reguliert KI-Anwendungen nach ihrem Risikopotenzial. Das passt gut zu dem Prüfkatalog, den das Fraunhofer IAIS für vertrauenswürdige KI entwickelt hat – als Anleitung zur systematischen Risikobeurteilung, mit Vorschlägen zur Risikosenkung und mit einem Überblick über Tools und Metriken zur Automatisierung der Prüfung und des Monitorings. In der letzten Phase des AI Act erweiterte man das Gesetz auch auf generative KI, deren Modelle man nun als 'General Purpose AI Models' (GPAI Models) bezeichnet. Hier unterscheiden sich die Pflichten für offene und geschlossene Modelle und hängen vom Rechenaufwand im Training ab. 

Spano: Der Entwicklung von KI-Innovationen in Europa steht also mit dem EU AI Act nichts im Wege?

Hecker: Ob das Gesetz sein Ziel erreicht, Innovation mit vertrauenswürdiger KI in Europa zu fördern, hängt jetzt maßgeblich von der anstehenden Implementierung in Europa und den einzelnen Staaten ab. Unternehmen haben zwei Jahre Übergangszeit, sich auf die neue Regulierung einzustellen. Unser Innovation Briefing zur Operationalisierung des AI Acts gibt einen Überblick über die Anforderungen und Kernelemente der KI-Verordnung.  Zudem zeigt es auf, wie Sie regulatorische Anforderungen in Unternehmensprozesse übersetzen und skalierbar in technische Entwicklungsumgebungen implementieren können. Mein Rat hier lautet, sich in den kommenden Monaten mit dem AI Act auseinanderzusetzen, denn seine Umsetzung wird neue Prozesse im Unternehmen erfordern – aber es wird sich lohnen, sich auf den Weg zu einer „Vertrauenswürdigen KI made in Europe“ zu begeben, da bin ich sicher. 

Spano: Vielen Dank für das Gespräch.