Beitrag
Modellkollaps: Wenn Trainingsdaten an Vielfalt verlieren
Kurz erklärt
Modellkollaps bezeichnet eine mögliche Verschlechterung über Modellgenerationen, wenn erzeugte Daten wieder als Trainingsgrundlage dienen und die ursprüngliche Verteilung dabei zunehmend schlechter abgebildet wird. Seltene Muster können verloren gehen; spätere Modelle können stärker von der ursprünglichen Verteilung abweichen.
Das ist keine feste Abfolge, die jedes Sprachmodell zwangsläufig durchläuft.
Quelle: Shumailov et al., Vorveröffentlichung
Ein vereinfachtes Beispiel
Stell dir eine Sammlung von Geschichten aus vielen Regionen vor. Ein Modell erzeugt daraus neue Geschichten, in denen manche seltene Ausdrucksweisen kaum vorkommen. Wird nur diese neue Sammlung für die nächste Generation verwendet, fehlen ihr möglicherweise wichtige Beispiele. Die Texte können weiterhin flüssig klingen, während etwas von der ursprünglichen Vielfalt verloren geht.
Das ist ein didaktisches Beispiel, kein konkretes Versuchsergebnis und keine feste Zehn-Generationen-Regel.
Synthetische Daten sind nicht grundsätzlich schädlich
Entscheidend ist, wie sie erzeugt, ausgewählt und mit anderen Daten kombiniert werden. Gerstgrasser und Mitautor*innen fanden in ihren Untersuchungen, dass das Beibehalten ursprünglicher Daten zusammen mit neu hinzukommenden synthetischen Daten Kollaps vermeiden konnte. Daraus folgt keine Garantie für beliebige Trainingsrezepte.
Quelle: Gerstgrasser et al., Studie, Version 2
Ein weiterer Ansatz nutzt Detektoren zur Gewichtung und erneuten Auswahl von Trainingsbeispielen. Dazu liegen Ergebnisse für bestimmte Modelle und Aufgaben vor; daraus lässt sich keine perfekte Erkennung aller KI-Texte ableiten.
Quelle: Drayson und Lampos
Im Comic
Human Park greift widersprüchliche Quellen und verlorenes Wissen erzählerisch auf. Die Großen Vergessen sind Fiktion. Sie erklären nicht, wie reale LLMs funktionieren.
Auch gezieltes Machine Unlearning und Informationen, die nicht mehr im aktuellen Kontext vorliegen, sollten separat erklärt werden; das Wort „Vergessen“ allein macht sie nicht zum selben Vorgang.
Nicht allein die Herkunft „von einer KI“ entscheidet über die Qualität von Trainingsdaten. Wichtig ist, welche Informationen erhalten bleiben, was geprüft wird und wie der Trainingsprozess gestaltet ist.