Fachartikel

Einführung in Generative KI

Generative KI bezeichnet Verfahren, die neue Inhalte wie Texte, Bilder, Code oder Audio erzeugen können. Diese Systeme unterscheiden sich von klassischen Machine-Learning-Ansätzen, weil sie nicht nur Daten klassifizieren oder Werte vorhersagen, sondern Muster aus Trainingsdaten zur Erzeugung neuer Datenpunkte nutzen.

Auf einen Blick:
  • Generative KI erzeugt neue Inhalte, diskriminative KI klassifiziert bestehende Daten
  • Kernarchitekturen sind Transformer, Diffusion Models und GANs
  • Anwendungen reichen von Text- und Bildgenerierung bis zu multimodalen Systemen
  • Halluzinationen, Ressourcenbedarf und Bias sind zentrale Herausforderungen

Generative Künstliche Intelligenz bezeichnet Machine-Learning-Systeme, die neue Inhalte erstellen können, von Texten über Bilder bis hin zu Code, Audio und anderen Medientypen. Im Gegensatz zu klassischen KI-Verfahren, die Daten klassifizieren oder Werte vorhersagen, lernen generative Modelle Strukturen und Muster ihrer Trainingsdaten. Daraus erzeugen sie neue Datenpunkte, die den Trainingsdaten statistisch ähneln.

Der Begriff wirkt breiter, als er im Alltag oft verwendet wird. ChatGPT, Claude, Gemini, Stable Diffusion oder DALL-E sind sichtbare Anwendungen, aber dahinter stehen unterschiedliche Modellfamilien und Trainingsverfahren. Für die Einordnung genügt deshalb nicht die Frage, ob ein System Text oder Bilder erzeugt. Entscheidend ist, welche Datenverteilung es modelliert, welche Eingaben es verarbeitet und wie zuverlässig die erzeugten Inhalte geprüft werden können.

Diskriminative vs. Generative KI

Diskriminative Modelle lernen Entscheidungsgrenzen zwischen Klassen oder Kategorien. Ein Spam-Filter analysiert eingehende E-Mails und entscheidet, ob sie als Spam oder normale Nachricht gelten. Bilderkennungssysteme ordnen Fotos bestimmten Objektkategorien zu. Diese Verfahren konzentrieren sich darauf, aus gegebenen Eingaben die wahrscheinlichste Kategorie oder den wahrscheinlichsten Wert vorherzusagen.

Generative Modelle verfolgen eine andere Zielrichtung. Sie lernen die Wahrscheinlichkeitsverteilung der Trainingsdaten und können daraus neue, ähnliche Datenpunkte erzeugen. Ein generatives Sprachmodell lernt nicht nur, Texte einzuordnen, sondern auch, plausible Fortsetzungen zu produzieren. Ein Bildgenerierungsmodell lernt nicht nur Bildinhalte zu erkennen, sondern erzeugt neue Bilder mit ähnlichen statistischen Eigenschaften.

Der Unterschied liegt damit weniger im verwendeten Oberbegriff "KI" als im Lernziel. Diskriminative Modelle ordnen ein, generative Modelle erzeugen. Moderne Systeme kombinieren beide Fähigkeiten häufig, etwa wenn ein multimodales Modell ein Bild beschreibt, eine Anfrage versteht und anschließend neuen Text oder Code generiert.

Abgrenzung und Einordnung

Die Unterscheidung zwischen diskriminativen und generativen Ansätzen hilft, generative KI in der breiteren Landschaft des maschinellen Lernens zu verorten. Generative KI ist kein Gegenbegriff zu Machine Learning, sondern ein Teilbereich davon.

Klassisches Machine Learning ist häufig auf Vorhersage und Klassifikation ausgerichtet. Generative KI erweitert diesen Rahmen um die Erzeugung neuer Inhalte. Das erfordert andere Trainingsziele und meist größere Modellarchitekturen, weil die Systeme nicht nur Muster erkennen, sondern diese Muster in neuen Kombinationen reproduzieren und variieren müssen.

Die meisten heute sichtbaren Systeme gehören zum Deep Learning. Tiefe neuronale Netze mit vielen Schichten können hochdimensionale Datenstrukturen erfassen, etwa Sprache, Bilder oder Audio. Diese Fähigkeit ist wichtig, weil realistische Generierung nicht aus einzelnen Regeln entsteht, sondern aus vielen statistischen Abhängigkeiten in den Trainingsdaten.

Regelbasierte Systeme funktionieren anders. Sie verwenden explizit programmierte Grammatikregeln, Vorlagen oder Wörterbücher. Moderne generative Modelle arbeiten datengetrieben: Sie lernen implizit aus großen Datenmengen, welche Muster wahrscheinlich sind. Das macht sie flexibler, aber auch schwerer vollständig zu kontrollieren.

Technische Grundlagen

Die wichtigsten Architekturen generativer KI unterscheiden sich durch ihre Eingabedaten, ihr Trainingsziel und die Art, wie sie neue Inhalte erzeugen. Für einen Überblick reichen drei Modellfamilien: Transformer, Diffusion Models und Generative Adversarial Networks.

Transformer bilden die Grundlage vieler moderner Sprachmodelle.602 Ihr zentrales Prinzip ist der Attention-Mechanismus. Er erlaubt einem Modell, bei der Verarbeitung eines Tokens andere Tokens im Kontext unterschiedlich stark zu gewichten. Bei Textgenerierung wird dadurch nicht einfach Wort für Wort geraten, sondern jede Fortsetzung entsteht aus einem gewichteten Kontext bisheriger Eingaben und Ausgaben.

Autoregressive Sprachmodelle nutzen diese Struktur sequenziell. Sie erzeugen Text, indem sie das nächste Token auf Basis des bisherigen Kontextes vorhersagen. Dieser Mechanismus erklärt einen Teil ihrer Stärke, aber auch eine Grenze: Das Modell optimiert zunächst plausible Fortsetzung, nicht Wahrheit im menschlichen Sinn.

Für die Bildgenerierung haben Diffusion Models seit den frühen 2020er Jahren stark an Bedeutung gewonnen.603 Sie lernen, verrauschte Daten Schritt für Schritt zu entrauschen. Bei der Erzeugung startet das System mit Rauschen und nähert sich über viele Zwischenschritte einem Bild an, das zur Eingabe passt. Vergleichbar mit einem Bildhauer, der aus einem groben Steinblock schrittweise eine detaillierte Skulptur formt. Dieser Prozess ist rechenintensiv, aber gut steuerbar und hat sich für Text-zu-Bild-Systeme als praktisch erwiesen.

Generative Adversarial Networks (GANs) nutzen ein anderes Prinzip.604 Ein Generator erstellt Daten, ein Diskriminator versucht, echte und erzeugte Daten zu unterscheiden. Beide Modelle werden gegeneinander trainiert. GANs waren lange wichtig für realistische Bildgenerierung, sind aber beim Training empfindlich und wurden in vielen aktuellen Bildsystemen durch Diffusion Models ergänzt oder verdrängt.

Historische Entwicklung

Generative KI entstand nicht erst mit ChatGPT. Viele Grundideen reichen in frühere statistische Verfahren, die allerdings deutlich weniger flexibel waren als heutige Deep-Learning-Systeme.

Frühe Textgenerierung nutzte Markov-Ketten und n-Gramm-Modelle. Solche Verfahren konnten lokale Muster erfassen, etwa die Wahrscheinlichkeit eines Wortes nach den vorherigen Wörtern. Über längere Distanzen verloren sie jedoch schnell Kohärenz. Parallel entstanden in der Computergrafik Verfahren zur prozeduralen Generierung, die eher regelbasiert arbeiteten.

In den 2010er Jahren ermöglichten tiefe neuronale Netze leistungsfähigere generative Modelle. Recurrent Neural Networks und Long Short-Term Memory Netze konnten längere Abhängigkeiten besser abbilden als einfache n-Gramm-Verfahren. Gleichzeitig entstanden erste sichtbare Anwendungen in Musikgenerierung, Bildmanipulation und maschineller Übersetzung.

GANs ab 2014 machten realistische Bildgenerierung deutlich sichtbarer. Das adversarielle Training zwischen Generator und Diskriminator zeigte, dass neuronale Netze nicht nur klassifizieren, sondern auch visuell überzeugende Daten erzeugen können. Praktisch blieb das Training anspruchsvoll, unter anderem wegen Instabilität und begrenzter Kontrolle über die Ausgabe.

Transformer seit 2017 verschoben den Schwerpunkt bei Sprachmodellen. Die Architektur ließ sich gut parallelisieren und mit großen Datenmengen trainieren. GPT-Modelle, BERT-Varianten und später multimodale Systeme bauten auf diesem Muster auf. Parallel wurden Diffusion Models für Bildgenerierung wichtig, weil sie bei vielen Aufgaben stabilere Ergebnisse und bessere Steuerbarkeit ermöglichten.

Die Entwicklung zeigt einen Trend von lokalen statistischen Verfahren zu großen, lernbasierten Modellen. Sie zeigt aber auch, dass "generativ" kein einheitliches technisches Prinzip bezeichnet. Sprachmodelle, Bildmodelle und multimodale Systeme teilen eine Grundidee, arbeiten intern aber mit unterschiedlichen Architekturen und Fehlerbildern.

Anwendungsgebiete mit technischen Ansätzen

Die beschriebenen Architekturen finden heute in unterschiedlichen Anwendungsgebieten praktische Umsetzung. Welche Modellfamilie geeignet ist, hängt stark vom Medium und vom gewünschten Kontrollgrad ab.

Textgenerierung ist das sichtbarste Feld. Transformer-basierte Sprachmodelle wie GPT, Claude oder Gemini erzeugen Texte, Zusammenfassungen, Übersetzungen und Dialogantworten. Instruction-Tuning hilft ihnen, Anweisungen besser zu folgen. Fine-Tuning oder domänenspezifische Anpassungen können Modelle auf bestimmte Textsorten, Fachgebiete oder Tonalitäten ausrichten.

Code-Generierung ist eng verwandt, aber nicht identisch mit allgemeiner Textgenerierung. Systeme wie GitHub Copilot nutzen Code-Repositories als Trainingsmaterial und erzeugen Vorschläge in Programmiersprachen. Der Nutzen ist oft hoch, weil Code syntaktische Strukturen und Tests kennt. Gleichzeitig bleibt Prüfung notwendig, da plausibler Code Sicherheitslücken, falsche Annahmen oder Lizenzprobleme enthalten kann.

Bildgenerierung basiert heute häufig auf Diffusion Models. Systeme wie Stable Diffusion oder DALL-E erzeugen Bilder aus Textbeschreibungen oder verändern vorhandene Bilder. Techniken wie ControlNet ergänzen zusätzliche Steuerung, etwa über Posen, Kanten oder Tiefeninformationen. Damit wird Bildgenerierung weniger zufällig, aber nicht vollständig deterministisch.

Audio, Musik und Video nutzen mehrere technische Ansätze. Manche Systeme arbeiten direkt auf Audiosignalen, andere auf symbolischen Repräsentationen wie MIDI-Daten oder auf latenten Repräsentationen, also verdichteten internen Darstellungen. Bei Video kommen zusätzlich zeitliche Konsistenz und Bewegungskontrolle hinzu, was die Generierung deutlich schwieriger macht als bei Einzelbildern.

Multimodale Modelle verbinden mehrere Datentypen. Sie können Texte, Bilder, Audio oder Video gemeinsam verarbeiten und teilweise auch erzeugen. Praktisch wichtig ist dabei nicht nur die Ausgabequalität, sondern die Fähigkeit, Informationen zwischen Modalitäten zu verknüpfen, etwa ein Diagramm zu lesen und daraus eine textliche Erklärung abzuleiten.

Herausforderungen

Die Anwendungsgebiete generativer KI bringen technische und gesellschaftliche Herausforderungen mit sich. Viele davon folgen direkt aus dem Grundprinzip: Modelle erzeugen plausible Inhalte auf Basis gelernter Muster, ohne die Welt im menschlichen Sinn zu prüfen.

Halluzinationen sind der bekannteste Fehlerfall. Generative Modelle können überzeugende, aber faktisch falsche Inhalte erzeugen, weil sie Plausibilität optimieren und fehlende Informationen durch wahrscheinliche Muster auffüllen. Retrieval-Augmented Generation (RAG) setzt genau hier an: Das Modell erhält zusätzlich relevante Dokumente aus einer externen Quelle und kann seine Antwort darauf stützen.605 Das verbessert Faktentreue oft, löst das Problem aber nicht vollständig, weil auch Suche, Dokumentauswahl und Antwortgenerierung fehleranfällig bleiben.

Kontrollierbarkeit bleibt schwierig. Prompt Engineering, System Prompts, Fine-Tuning und Tool-Anbindung können Ausgaben steuern, aber sie geben keine vollständige Garantie. Besonders in Fachanwendungen zählt deshalb nicht nur die Modellqualität, sondern auch der Prozess um das Modell herum: Quellenprüfung, Tests, menschliche Freigabe, Logging und klare Grenzen des Einsatzes.

Training und Betrieb großer Modelle erfordern erhebliche Rechenkapazitäten. Skalierungsgesetze zeigen, dass Leistung mit Modellgröße, Datenmenge und Trainingsaufwand oft systematisch zunimmt, allerdings zu steigenden Kosten.606 Gleichzeitig entstehen Gegenbewegungen: kleinere Spezialmodelle, Quantisierung, effizientere Inferenz und lokale Ausführung. Der Trend geht also nicht nur zu größeren Modellen, sondern auch zu besser angepassten Systemen.

Bias ist ein weiteres strukturelles Problem. Generative Modelle lernen aus Daten, die gesellschaftliche Muster, Verzerrungen und Lücken enthalten. Diese Muster können in Texten, Bildern oder Code wieder auftauchen. Technische Nachbearbeitung hilft, ersetzt aber keine sorgfältige Datenauswahl, Evaluation und organisatorische Verantwortung.

Ausblick

Die kommenden Jahre dürften weniger durch eine einzelne Architektur geprägt werden als durch bessere Kombinationen aus Modellen, Werkzeugen, Datenquellen und Prüfverfahren. Mehr Leistung allein reicht dafür nicht aus.

Effizientere Architekturen bleiben wichtig. Modellkompression, Quantisierung und Distillation können große Modelle in kleinere, günstigere Varianten überführen. Für Unternehmen ist das nicht nur eine Kostenfrage. Lokale oder spezialisierte Modelle können auch Datenschutz, Latenz und Abhängigkeit von externen Anbietern verbessern.

Multimodalität wird ebenfalls wichtiger. Systeme, die Text, Bild, Audio und Video gemeinsam verarbeiten, können Aufgaben übernehmen, die bisher mehrere getrennte Werkzeuge erforderten. Die Herausforderung liegt dabei nicht nur in der Erzeugung, sondern in der zuverlässigen Interpretation: Ein Modell muss erkennen, was in einem Dokument, Screenshot oder Diagramm tatsächlich steht.

Spezialisierte Domänenmodelle und RAG-Systeme werden generative KI stärker in konkrete Arbeitsprozesse einbetten. Wissenschaftliche Literatur, technische Dokumentation, Softwareentwicklung, Recht, Medizin oder interne Wissensdatenbanken stellen unterschiedliche Anforderungen an Faktentreue und Nachvollziehbarkeit. Ein allgemeines Modell kann dort nützlich sein, aber oft erst mit zusätzlichen Datenquellen, Evaluationsverfahren und Freigabeprozessen.

Interaktive Generierung wird praktischer, wenn Inferenz günstiger und schneller wird. Nutzer können dann nicht nur ein Ergebnis anfordern, sondern einen Arbeitsprozess schrittweise steuern: Entwurf, Kritik, Korrektur, Variante, Prüfung. Das passt besser zur tatsächlichen Nutzung generativer KI als die Vorstellung eines einmaligen perfekten Outputs.

Generative KI wird damit weniger als isoliertes Werkzeug interessant, sondern als Bestandteil von Arbeitsabläufen. Ihr Wert hängt davon ab, ob sie passende Aufgaben übernimmt, ob Ergebnisse geprüft werden können und ob Kosten, Risiken und Nutzen in einem vernünftigen Verhältnis stehen. Die technische Entwicklung ist weit genug, um viele Anwendungen zu tragen. Die organisatorische Reife muss oft erst nachziehen.


Quellen

  1. Vaswani et al.: Attention Is All You Need
  2. Ho et al.: Denoising Diffusion Probabilistic Models
  3. Goodfellow et al.: Generative Adversarial Networks
  4. Lewis et al.: Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks
  5. Kaplan et al.: Scaling Laws for Neural Language Models
  6. "Falling LLM Token Prices and What They Mean for AI Companies" - deeplearning.ai
  7. Startups and tech giants wage AI price war as inference costs spiral. Crypto Briefing, 2026. https://cryptobriefing.com/ai-price-war-startups-tech-giants/
  8. Tokens are getting cheaper, but AI costs keep climbing. Fortune, 2026. https://fortune.com/2026/06/17/why-is-ai-spending-increasing-as-tokens-get-cheaper-jevons-paradox/
  9. AI inference costs set to plunge. CIO Dive zu Gartner, 2026. https://www.ciodive.com/news/ai-inference-costs-drop-2030-gartner/815725/
  10. Microsoft Azure Model Router Documentation - azure.microsoft.com
  11. Ouyang et al.: Training language models to follow instructions with human feedback
  12. OpenAI: GPT-4 Technical Report
  13. OpenAI: Learning to reason with LLMs
  14. Liu et al.: Lost in the Middle