Als OpenAI ChatGPT am 30. November 2022 veröffentlichte, war die zugrunde liegende Technik nicht neu. Transformer-Sprachmodelle, generatives Vortraining und die Feinabstimmung mit menschlichem Feedback waren bereits in mehreren Forschungsarbeiten erprobt worden. Neu war ihre Verbindung mit einer leicht zugänglichen Chat-Oberfläche, die fortlaufende Dialoge statt einzelner Textvervollständigungen in den Mittelpunkt stellte.
ChatGPT bezeichnet dabei ein Produkt, nicht eine einzelne Modellarchitektur. Die erste Version beruhte laut OpenAI auf einem Modell der GPT-3.5-Reihe, das Anfang 2022 fertig trainiert worden war. Die Entwicklung des Produkts lässt sich deshalb nur verstehen, wenn Modelltraining, Abstimmung des Modellverhaltens und Benutzeroberfläche getrennt betrachtet werden.
Technische Grundlage der GPT-Modelle
GPT steht für Generative Pre-trained Transformer. Generativ bezeichnet die Erzeugung neuer Tokenfolgen, Pre-trained das Vortraining auf großen Textbeständen und Transformer die verwendete neuronale Architektur. Die GPT-Reihe nutzt eine Decoder-only-Variante des 2017 vorgestellten Transformers, bei der eine kausale Maske verhindert, dass das Modell bei der Vorhersage auf spätere Token zugreift.
Beim Training kann ein Transformer viele Positionen einer bekannten Sequenz parallel verarbeiten. Die spätere Textgenerierung bleibt dagegen autoregressiv: Das Modell erzeugt ein Token, ergänzt es zum Kontext und berechnet daraufhin das nächste. Self-Attention gewichtet dabei Beziehungen zwischen den Repräsentationen der bisherigen Token, ohne ihnen von sich aus eine überprüfte Bedeutung oder einen Wahrheitswert zuzuweisen.
Das Vortraining optimiert die Wahrscheinlichkeit des jeweils nächsten Tokens. Dabei entstehen Repräsentationen, die sprachliche Strukturen und statistische Beziehungen aus den Trainingsdaten abbilden. Das Modell ist jedoch weder eine Datenbank noch ruft es Aussagen als gespeicherte Fakten ab; es berechnet plausible Fortsetzungen aus seinem Kontext und seinen gelernten Parametern.
GPT-1 und der Transfer auf Fachaufgaben
Die 2018 veröffentlichte Arbeit Improving Language Understanding by Generative Pre-Training beschrieb ein Decoder-only-Modell mit zwölf Transformer-Blöcken und rund 117 Millionen Parametern. Das Vortraining erfolgte auf BookCorpus, einer Sammlung von mehr als 7.000 Büchern mit längeren zusammenhängenden Textpassagen. Danach wurde das Modell für einzelne Aufgaben mit gelabelten Beispielen weitertrainiert.
Diese Kombination aus generativem Vortraining und überwachter Feinabstimmung war der wesentliche Beitrag der später als GPT-1 bezeichneten Arbeit. Für Aufgaben wie Textklassifikation, semantische Ähnlichkeit, Fragebeantwortung und Natural Language Inference blieb die Architektur weitgehend gleich; angepasst wurden Eingabeformat und aufgabenspezifische Ausgabeschicht. Das Modell verbesserte in der damaligen Auswertung neun von zwölf Vergleichswerten gegenüber dem vorherigen Stand.
GPT-1 war damit vor allem ein Transfer-Learning-System. Es zeigte, dass ein allgemeines Vortraining den Bedarf an gelabelten Daten für einzelne Aufgaben senken kann. Für jede Zielaufgabe war jedoch weiterhin eine eigene Feinabstimmung erforderlich, und die Ergebnisse ließen sich nicht als allgemeine Dialogfähigkeit interpretieren.
GPT-2 und Aufgaben ohne Feinabstimmung
GPT-2 vergrößerte 2019 das Modell auf bis zu 1,5 Milliarden Parameter und das Kontextfenster auf 1.024 Token. Als Trainingsmaterial diente WebText, ein aus verlinkten Webseiten zusammengestellter Bestand von rund acht Millionen Dokumenten. OpenAI untersuchte damit, inwieweit ein größeres Sprachmodell Aufgaben allein durch eine passende Formulierung im Eingabetext bearbeiten kann.
Die GPT-2-Veröffentlichung berichtete unter anderem über Versuche zu Übersetzung, Zusammenfassung und Fragebeantwortung ohne aufgabenspezifische Feinabstimmung. Dieses Zero-Shot-Verfahren behandelte eine Aufgabe als Textfortsetzung: Der Prompt gab das gewünschte Muster vor, das Modell setzte es fort. Die Leistungen waren je nach Aufgabe unterschiedlich und lagen nicht durchgehend über spezialisierten Systemen, zeigten aber eine größere Bandbreite innerhalb desselben Modells.
OpenAI veröffentlichte die Modellgewichte wegen möglicher Missbrauchsszenarien zunächst stufenweise. Im Februar 2019 erschien die Version mit 124 Millionen Parametern, später folgten Varianten mit 355 und 774 Millionen Parametern. Das vollständige Modell mit 1,5 Milliarden Parametern wurde im November 2019 freigegeben. Die Veröffentlichung war damit ein praktischer Versuch zu abgestuften Freigabeverfahren, nicht der Nachweis, dass das Modell generell zu gefährlich für eine Veröffentlichung gewesen wäre.
GPT-3 und Lernen anhand des Kontexts
GPT-3 skalierte den Ansatz 2020 auf 175 Milliarden Parameter. Der zusammengestellte Datenbestand umfasste gefilterte Common-Crawl-Daten, WebText, Bücher und Wikipedia; durch unterschiedliche Stichprobengewichte wurden die Quellen nicht gleich häufig verwendet. Alle Modellgrößen der Studie wurden laut GPT-3-Paper mit insgesamt 300 Milliarden Token trainiert. Die im ursprünglichen Artikel genannten 499 Milliarden Token bezeichneten dagegen den verfügbaren Datenbestand vor dieser Stichprobenziehung.
Im Mittelpunkt stand das In-Context Learning. Eine Aufgabe und gegebenenfalls einige Beispiele wurden in den Prompt geschrieben, ohne die Modellparameter zu verändern. Die Studie unterschied Zero-Shot ohne Beispiel, One-Shot mit einem Beispiel und Few-Shot mit mehreren Beispielen. Mit zunehmender Modellgröße verbesserten sich viele dieser Leistungen, allerdings nicht bei allen Aufgaben und nicht immer bis zum Niveau spezialisierter, feinabgestimmter Systeme.
In-Context Learning machte ein Modell flexibler nutzbar, löste aber das Problem der Anweisungsbefolgung nicht. GPT-3 war weiterhin darauf trainiert, Text plausibel fortzusetzen. Eine Aufforderung konnte daher beantwortet, wiederholt, in einem unerwünschten Stil fortgesetzt oder mit sachlich falschen Inhalten ergänzt werden. Die Arbeit dokumentierte außerdem Verzerrungen aus den Trainingsdaten, Schwächen bei bestimmten Schlussfolgerungsaufgaben und methodische Probleme durch mögliche Überschneidungen zwischen Trainings- und Testdaten.
InstructGPT und menschliches Feedback
Bei GPT-3 stimmte das Trainingsziel der nächsten Tokenvorhersage nur indirekt mit dem Ziel überein, hilfreiche Anweisungen zu befolgen. InstructGPT setzte deshalb auf Reinforcement Learning from Human Feedback (RLHF), also bestärkendes Lernen anhand menschlicher Rückmeldungen. InstructGPT war eine Gruppe feinabgestimmter GPT-3-Modelle und ist nicht mit der späteren Bezeichnung GPT-3.5 gleichzusetzen.
Das in der InstructGPT-Arbeit beschriebene Verfahren bestand aus drei Schritten. Zunächst lieferten Menschen Beispiele gewünschter Antworten, mit denen ein GPT-3-Modell überwacht feinabgestimmt wurde. Danach bewerteten sie mehrere Modellausgaben, aus deren Rangfolge ein Reward Model lernte. Schließlich wurde das Sprachmodell mit Proximal Policy Optimization so angepasst, dass seine Antworten nach diesem Bewertungsmodell eine höhere Belohnung erhielten.
In den Auswertungen bevorzugten die beteiligten Personen Antworten eines InstructGPT-Modells mit 1,3 Milliarden Parametern gegenüber denen des ursprünglichen GPT-3 mit 175 Milliarden Parametern. Das bedeutete nicht, dass das kleinere Modell allgemein leistungsfähiger war. Gemessen wurde die Eignung für die untersuchte Verteilung von Nutzeranfragen, bei der Anweisungsbefolgung und Antwortverhalten wichtiger waren als reine Vorhersageleistung.
RLHF verbesserte Hilfsbereitschaft, Anweisungsbefolgung und einige Sicherheitsmerkmale, löste das Alignment-Problem aber nicht. Auch InstructGPT erzeugte falsche oder verzerrte Aussagen und spiegelte die Präferenzen einer begrenzten Gruppe von Bewertenden wider. Zudem kann die Optimierung auf menschliche Zustimmung dazu führen, dass ein Modell plausibel oder gefällig antwortet, obwohl Unsicherheit angemessener wäre.
ChatGPT als dialogorientiertes Produkt
ChatGPT übertrug diese Trainingsidee auf einen mehrstufigen Dialog. Für die überwachte Feinabstimmung führten menschliche Trainer Gespräche, in denen sie sowohl die Nutzer- als auch die Assistenzrolle übernahmen. Weitere Ausgaben wurden verglichen und für ein RLHF-Verfahren bewertet, das laut OpenAI weitgehend der InstructGPT-Methode folgte.
Die erste Veröffentlichung beruhte auf einem Modell der GPT-3.5-Reihe und war laut OpenAI ein Schwestermodell von InstructGPT. Die genaue technische Zusammensetzung und Parameterzahl wurden nicht offengelegt. Die Bezeichnung GPT-3.5 beschreibt daher eine Entwicklungsreihe zwischen GPT-3 und GPT-4, nicht lediglich einen neuen Namen für InstructGPT.
Für die praktische Nutzung war die Oberfläche ein eigener Entwicklungsschritt. ChatGPT hielt den bisherigen Gesprächsverlauf im Kontext, ermöglichte Rückfragen und stellte Antworten statt bloßer Textvervollständigungen dar. Die Research Preview machte das System unmittelbar zugänglich und lieferte OpenAI zugleich umfangreiche Rückmeldungen über hilfreiche Antworten, Fehler und Umgehungsversuche.
Der Dialog änderte die Grenzen des Sprachmodells nicht. ChatGPT konnte überzeugend falsche Aussagen erzeugen, auf kleine Änderungen einer Eingabe empfindlich reagieren und Korrekturen nur innerhalb des verfügbaren Kontexts berücksichtigen. Schutzmechanismen reduzierten bestimmte Ausgaben, führten aber zugleich zu Fehlablehnungen und ließen sich teilweise umgehen.
Die Entwicklungsschritte bis ChatGPT
Die Modellgenerationen lösten nicht jeweils ein klar abgegrenztes Problem. GPT-1 zeigte den Transfer eines vortrainierten Modells auf verschiedene Aufgaben. GPT-2 untersuchte Aufgabenbearbeitung ohne separate Feinabstimmung, während GPT-3 Lernen anhand von Beispielen im Kontext skalierte. InstructGPT veränderte anschließend das Antwortverhalten durch menschliche Präferenzen.
ChatGPT verband diese Elemente mit Dialogtraining, einer zustandsbehafteten Oberfläche und einer breit zugänglichen Bereitstellung. Der Erfolg lässt sich deshalb weder allein aus der Parameterzahl noch allein aus RLHF erklären. Modell, Abstimmung, Interaktionsdesign und Betrieb bildeten gemeinsam das Produkt.
Die weitere Entwicklung nach ChatGPT
GPT-4 und multimodale Modelle
Mit GPT-4 folgte im März 2023 ein multimodales Modell, das Text- und Bildeingaben verarbeiten und Text ausgeben konnte. OpenAI veröffentlichte nur begrenzte technische Details zu Architektur, Modellgröße und Trainingsdaten. Spätere Varianten erweiterten Kontextfenster und Einsatzmöglichkeiten; die im früheren Artikel GPT-4 zugeschriebenen 128.000 Token gehörten nicht zur ursprünglichen Veröffentlichung, sondern zu späteren Modellen der GPT-4-Familie.
GPT-4o führte im Mai 2024 Text, Bild und Audio enger in einem Modell zusammen und verringerte insbesondere bei Sprachinteraktion die Latenz. GPT-4.1 konzentrierte sich im April 2025 auf Programmierung, Anweisungsbefolgung und lange Kontexte und wurde zunächst über die API angeboten. Diese Modellfamilien erweiterten ChatGPT zugleich um Bildverarbeitung, Sprache, Werkzeuge und Webzugriff.
Die Reasoning-Reihe von o1 bis o3
Mit OpenAI o1 begann im September 2024 eine gesonderte Modellreihe für Aufgaben, bei denen zusätzliche Rechenzeit während der Antwort die Leistung verbessern kann. Groß angelegtes Reinforcement Learning trainierte das Modell auf interne Zwischenschritte; längere Inferenzzeit konnte bei Mathematik, Programmierung und Naturwissenschaften zu besseren Ergebnissen führen. Diese interne Chain of Thought wurde nicht als vollständige Herleitung ausgegeben, weshalb o1 nicht einfach ein Modell mit sichtbaren, expliziten Gedankengängen war.
Auf o1 folgten o3-mini sowie im April 2025 o3 und o4-mini. Neben längerer interner Verarbeitung konnten diese Modelle Werkzeuge wie Websuche, Python sowie Datei- und Bildanalyse in mehrstufige Abläufe einbeziehen. Damit verlagerte sich der Schwerpunkt von einer einzelnen Textantwort stärker auf die Planung und Ausführung zusammengesetzter Arbeitsschritte.
GPT-5 als verbundenes System
GPT-5 führte im August 2025 die zuvor getrennten Linien in ChatGPT zusammen. Das System kombinierte ein schnelles Modell für die meisten Anfragen, ein länger rechnendes Modell für schwierigere Aufgaben und einen Router, der anhand von Komplexität, Werkzeugbedarf und Nutzervorgabe zwischen beiden auswählte. GPT-5 war damit in ChatGPT nicht nur ein einzelnes Modell, sondern ein Laufzeitsystem aus mehreren Komponenten.
Diese Zusammenführung setzte die Entwicklung der o-Reihe fort, ohne deren Ansatz einfach zu ersetzen. Spätere Varianten der GPT-5-Familie verfeinerten Modelle, Werkzeugnutzung und Routing weiter. Für die historische Linie ist vor allem entscheidend, dass ChatGPT sich von einer Oberfläche für ein einzelnes dialogorientiertes Sprachmodell zu einem System entwickelte, das unterschiedliche Modelle und Werkzeuge situationsabhängig verbindet.
Fazit
Die Entwicklung von ChatGPT begann nicht mit dem Chatfenster und lässt sich nicht als bloße Abfolge größerer Modelle beschreiben. Generatives Vortraining schuf wiederverwendbare Repräsentationen, Skalierung erweiterte das Lernen im Kontext und menschliches Feedback veränderte die Anweisungsbefolgung. Erst die dialogorientierte Feinabstimmung und die Produktoberfläche machten daraus die 2022 veröffentlichte Anwendung.
Die spätere Entwicklung ergänzte multimodale Eingaben, längere interne Verarbeitung und Werkzeugnutzung. GPT-5 führte diese zuvor getrennten Ansätze innerhalb eines gesteuerten Systems zusammen. Trotz dieser Fortschritte bleiben sachliche Verlässlichkeit, Kontrolle der Werkzeugausführung und die Abbildung unterschiedlicher menschlicher Präferenzen offene technische und organisatorische Aufgaben.