Maschinelle Lernverfahren werden häufig nach der Art des Trainingssignals unterschieden. Entscheidend ist, welche Information während des Lernens verfügbar ist: bekannte Zielwerte, nur die Daten selbst oder Rückmeldungen aus einer Umgebung.
Daraus ergeben sich drei klassische Kategorien. Überwachtes Lernen arbeitet mit Eingabe-Ausgabe-Paaren. Unüberwachtes Lernen sucht Strukturen in Daten ohne vorgegebene Zielwerte. Verstärkendes Lernen trainiert Entscheidungen über Belohnung und Rückmeldung aus einer Umgebung.
Um diese drei abstrakten Konzepte zu veranschaulichen: Unüberwachtes Lernen gleicht einem Detektiv, der Muster und Zusammenhänge ohne vorherige Hinweise aufdecken muss. Überwachtes Lernen funktioniert wie ein Schüler mit einem Lehrer, der Lösungen korrigiert und Feedback gibt. Verstärkendes Lernen ähnelt einem Kind, das durch Ausprobieren und die Reaktionen der Umgebung neue Fähigkeiten entwickelt.
Diese Dreiteilung ist hilfreich, aber nicht vollständig. Moderne Verfahren kombinieren oft mehrere Prinzipien. Self-supervised Learning erzeugt Trainingssignale aus den Daten selbst, semi-supervised Learning nutzt wenige gelabelte und viele ungelabelte Beispiele, und generative Modelle können je nach Architektur und Ziel in verschiedenen Trainingsformen auftreten.
Unüberwachtes Lernen (Unsupervised Learning)
Unüberwachtes Lernen sucht Strukturen in Daten, ohne dass Zielwerte vorgegeben sind. Das Verfahren erhält also keine Beispiele der Form "Eingabe X gehört zu Klasse Y". Stattdessen sollen Muster, Gruppen, Ausreißer oder latente Faktoren aus den Daten selbst sichtbar werden.
Diese Verfahren eignen sich für explorative Analysen, Datenkomprimierung, Segmentierung und Musterentdeckung. Sie stellen weniger Anforderungen an gelabelte Trainingsdaten, aber ihre Ergebnisse sind oft schwerer zu bewerten. Ein Cluster kann mathematisch sauber sein und trotzdem fachlich wenig bedeuten.
Clustering
Clustering-Algorithmen gruppieren ähnliche Datenpunkte, ohne vorab zu wissen, welche Gruppen existieren sollten. K-Means teilt Daten in eine vorgegebene Anzahl zentrumsbasierter Gruppen. Hierarchische Verfahren erzeugen baumartige Clusterstrukturen.
Typische Anwendungen sind Kundensegmentierung, Dokumentgruppierung, Marktanalyse oder explorative Datenanalyse. Wichtig ist die fachliche Interpretation: Ein Algorithmus findet Ähnlichkeit nach einer gewählten Metrik, nicht automatisch sinnvolle Kategorien.
Dimensionalitätsreduktion
Dimensionalitätsreduktion verringert die Zahl der Merkmale in einem Datensatz. Ziel ist, wichtige Strukturen sichtbar oder Modelle effizienter trainierbar zu machen. Die Hauptkomponentenanalyse (PCA) sucht lineare Richtungen, die möglichst viel Varianz erklären.
Andere Verfahren wie t-SNE oder UMAP werden häufig zur Visualisierung hochdimensionaler Daten genutzt. Solche Projektionen helfen beim Verständnis, sind aber keine neutralen Abbilder der Daten. Abstand und Gruppierung in der Visualisierung hängen stark vom Verfahren und seinen Parametern ab.
Anomalieerkennung
Anomalieerkennung versucht, ungewöhnliche Beobachtungen zu identifizieren. Das Modell lernt, welche Wertebereiche, Muster oder Korrelationen typisch sind. Starke Abweichungen werden als potenzielle Anomalien markiert.
Bei Kreditkartentransaktionen kann ein System etwa lernen, dass kleine Einkäufe im Heimatland typisch sind, während plötzliche große Ausgaben an ungewöhnlichen Orten verdächtig wirken. Verfahren wie One-Class SVM oder Isolation Forest kommen dafür häufig zum Einsatz. Die Bewertung bleibt kontextabhängig: Nicht jede Anomalie ist ein Fehler oder Betrug.
Assoziationsregeln
Assoziationsregeln suchen Kombinationen von Elementen, die häufig gemeinsam auftreten. Algorithmen wie Apriori identifizieren Itemsets und berechnen Kennzahlen wie Support und Confidence.
Das klassische Einzelhandelsbeispiel "Bier und Windeln" zeigt die Idee, auch wenn es eher als Anekdote bekannt ist. Praktisch geht es darum, Warenkörbe, Nutzungsmuster oder Ereigniskombinationen zu analysieren. Solche Regeln beschreiben Zusammenhänge, beweisen aber keine Kausalität.
Generative Modellierung
Generative Modellierung zielt darauf, die Verteilung von Daten so zu lernen, dass neue Beispiele erzeugt werden können. Variational Autoencoder, Generative Adversarial Networks, Diffusion Models und Sprachmodelle verfolgen dieses Ziel auf unterschiedliche Weise.
Solche Modelle sind nicht einfach ein Unterpunkt des unüberwachten Lernens. Viele generative Verfahren nutzen selbstüberwachte, überwachte oder hybride Trainingsziele. Für diese Übersicht ist entscheidend: Generative Modellierung lernt nicht nur eine Kategorie oder einen Zahlenwert, sondern eine Struktur, aus der neue Datenpunkte entstehen können.
Überwachtes Lernen (Supervised Learning)
Überwachtes Lernen arbeitet mit Trainingsdaten aus Eingaben und Zielwerten. Das Modell lernt eine Funktion, die neue Eingaben möglichst gut auf passende Ausgaben abbildet. Die Zielwerte können Klassen, Zahlenwerte oder strukturierte Ausgaben sein.
Ein Spam-Filter ist ein einfaches Beispiel. Er erhält E-Mails, die als Spam oder Nicht-Spam markiert sind, und lernt daraus Muster. Danach bewertet er neue E-Mails. Der Nutzen hängt nicht nur vom Algorithmus ab, sondern auch von Datenqualität, Klassenverteilung, Aktualität und gewählten Fehlertoleranzen.
Klassifikation
Bei der Klassifikation werden Eingaben vordefinierten Kategorien zugeordnet. Beispiele sind Spam-Erkennung, Bildklassifikation, Betrugserkennung, Diagnoseunterstützung oder Churn Prediction, also die Vorhersage, ob ein Kunde wahrscheinlich kündigt.
Verschiedene Algorithmen eignen sich für unterschiedliche Aufgaben. Einzelne Entscheidungsbäume sind oft gut interpretierbar, Ensembles wie Random Forests deutlich weniger. Support Vector Machines können in hochdimensionalen Merkmalsräumen starke Trennflächen finden. Neuronale Netze eignen sich besonders für unstrukturierte Daten wie Bild, Text oder Audio.
Regression
Regression sagt kontinuierliche Zahlenwerte vorher. Beispiele sind Immobilienpreise, Nachfrage, Temperatur, Umsatz oder Verbrauchswerte. Das Modell gibt nicht eine Klasse aus, sondern einen Wert oder eine Schätzung.
Die Bewertung unterscheidet sich entsprechend. Bei Klassifikation zählt etwa Genauigkeit, Recall oder Precision. Bei Regression werden Fehlermaße wie Mean Absolute Error oder Mean Squared Error genutzt. In beiden Fällen ist wichtig, ob das Modell auf neuen Daten generalisiert und nicht nur die Trainingsdaten nachbildet.
Verstärkendes Lernen (Reinforcement Learning)
Verstärkendes Lernen trainiert Entscheidungen durch Interaktion mit einer Umgebung. Ein Agent wählt Aktionen, erhält Rückmeldungen und versucht, langfristig eine Belohnung zu maximieren. Beispiele sind Spiele, Robotik, Steuerungsprobleme, Ressourcenplanung oder bestimmte Formen der Modellanpassung.
Im Unterschied zum überwachten Lernen gibt es nicht für jede Situation eine bekannte richtige Ausgabe. Der Agent muss ausprobieren, welche Aktionen langfristig gut sind. Eine kurzfristig gute Aktion kann später schaden, und eine kurzfristig schlechte Aktion kann Wissen liefern.
Dieser Zielkonflikt wird als Exploration und Exploitation beschrieben. Exploration bedeutet, neue Aktionen zu testen. Exploitation bedeutet, bekannte gute Strategien zu nutzen. Ein gutes Reinforcement-Learning-System muss beides ausbalancieren.
Viele Reinforcement-Learning-Probleme werden als Markov-Entscheidungsprozess modelliert. Dabei hängt der nächste Zustand von aktuellem Zustand und gewählter Aktion ab, während Belohnungen den Lernprozess steuern. Diese Formalisierung macht Entscheidungsprobleme mathematisch behandelbar, auch wenn reale Umgebungen oft komplizierter sind.
Model-Based und Model-Free Learning
Model-Based RL erstellt oder nutzt ein internes Modell der Umgebung. Der Agent kann damit mögliche Folgen von Aktionen simulieren und planen. Das kann effizient sein, wenn das Umgebungsmodell brauchbar ist.
Model-Free RL lernt direkt aus Interaktionen, ohne ein explizites Modell der Umgebung zu erstellen. Solche Verfahren sind robuster gegenüber falschen Umgebungsmodellen, benötigen aber oft viele Erfahrungen. Die Wahl hängt von Aufgabe, Datenzugang, Rechenaufwand und Sicherheitsanforderungen ab.
Value-Based und Policy-Based Methoden
Value-Based Methoden lernen eine Bewertungsfunktion. Diese schätzt, wie wertvoll ein Zustand oder eine Aktion langfristig ist. Aus dieser Bewertung wird eine Handlungsstrategie abgeleitet.
Policy-Based Methoden optimieren die Strategie direkt. Das Modell lernt also, welche Aktion in welcher Situation gewählt werden soll. Actor-Critic-Verfahren kombinieren beide Ideen: Ein Teil bewertet Zustände oder Aktionen, ein anderer Teil wählt die Handlung.
On-Policy und Off-Policy Learning
On-Policy-Verfahren lernen aus Erfahrungen, die mit der aktuellen Strategie gesammelt wurden. Das kann stabil sein, nutzt aber vorhandene Daten weniger flexibel.
Off-Policy-Verfahren können auch aus Erfahrungen lernen, die mit anderen Strategien entstanden sind. Das erlaubt Lernen aus gespeicherten Erfahrungen, Simulationen oder historischen Daten. Dafür wird die Korrektur zwischen Datenquelle und aktueller Strategie wichtiger.
Mischformen und moderne Verfahren
Die drei klassischen Kategorien bleiben nützlich, aber moderne Systeme passen nicht immer sauber in eine einzelne Schublade. Self-supervised Learning erzeugt das Trainingssignal aus den Daten selbst. Ein Sprachmodell lernt beispielsweise, Tokens im Kontext vorherzusagen. Es braucht dafür keine manuell vergebenen Labels, nutzt aber trotzdem ein klares Vorhersageziel.
Semi-supervised Learning kombiniert wenige gelabelte mit vielen ungelabelten Daten. Active Learning wählt gezielt Beispiele aus, für die menschliche Labels besonders wertvoll wären. Imitation Learning lernt Verhalten aus demonstrierten Handlungen und liegt damit zwischen überwachtem Lernen und Reinforcement Learning.
Large Language Models verbinden mehrere dieser Linien. Das Pretraining ist meist selbstüberwacht. Instruction Tuning nutzt überwachte Beispiele für gewünschtes Antwortverhalten. RLHF oder verwandte Verfahren können menschliche Präferenzdaten als Rückmeldung einbeziehen. Ein einzelnes modernes System ist deshalb oft eine Trainingspipeline, nicht nur ein einzelnes Lernverfahren.
Fazit
Überwachtes, unüberwachtes und verstärkendes Lernen beschreiben drei grundlegende Arten von Trainingsinformation. Beim überwachten Lernen stehen Zielwerte bereit. Beim unüberwachten Lernen werden Strukturen in Daten gesucht. Beim verstärkenden Lernen entsteht das Signal durch Interaktion und Belohnung.
Diese Kategorien helfen bei der ersten Einordnung eines ML-Problems. Sie bestimmen, welche Daten gebraucht werden, welche Algorithmen infrage kommen und wie Ergebnisse bewertet werden können. Sie sind aber keine harten Grenzen. Viele praktische Systeme kombinieren mehrere Trainingsformen.
In den nächsten Artikeln der Serie stehen zunächst die beiden klassischen überwachten Aufgaben im Vordergrund: Klassifikation und Regression. Sie sind in vielen Unternehmensanwendungen bis heute die häufigsten Einstiege in maschinelles Lernen.