Reasoning-Modelle & Rechenaufwand zur Inferenzzeit

Bis 2023 entschied über die Fähigkeiten der Frontier-Modelle fast allein die Skala des Pre-Trainings: größere Modelle, mehr Daten, mehr Rechenleistung im Voraus — und bei der Anfrage dann ein einziger Vorwärtsdurchlauf. Der Keim des Umbruchs war ein alter, fast verlegen einfacher Trick: Lässt man ein Modell seine Gedankenkette ausschreiben — Zwischenschritte, Nebenrechnungen, Sackgassen —, bevor es sich auf eine Antwort festlegt, springt die Leistung bei schwerem Schlussfolgern nach oben. 2024 brachte OpenAI dann o1 heraus: ein LLM, trainiert darauf, vor der Antwort Tokens ins Nachdenken zu stecken — lange innere Gedankenketten, die der Nutzer meist nie zu sehen bekommt. Der Zugewinn bei harten Mathematik-, Naturwissenschafts- und Programmieraufgaben war so groß, dass die anderen großen Labore — Anthropic, Google, dazu DeepSeek mit dem Open-Weights-Modell R1 — binnen Monaten Reasoning-Varianten desselben Rezepts auslieferten.

Das Trainingsmuster, in groben Zügen: ein starkes vortrainiertes LLM, belohnt für Gedankenketten, die bei schweren Problemen zur richtigen Antwort führen. Das Modell lernt dabei, mehr Tokens zu investieren — manchmal Tausende —, zu erkunden, zurückzugehen, die eigene Arbeit zu prüfen, ehe es sich festlegt. Das ist der Rechenaufwand zur Inferenzzeit (Inference-Time Compute) als eigene Skalierungsachse, getrennt von den Pre-Training-Skalierungsgesetzen (Kaplan 2020, Chinchilla 2022), die die Ära davor regiert hatten. Dahinter steht ein allgemeineres Prinzip: Genauigkeit bei einem schweren Problem kann man kaufen, indem man Rechenleistung im Moment der Antwort ausgibt, nicht nur beim Training — und ausgeben lässt sie sich auf mehr als eine Art: längeres, bedächtiges Schlussfolgern; viele Lösungskandidaten ziehen und den besten auswählen; explizite Suche mit Verifikation über einem Raum von Teilantworten. Was das Training beisteuert, ist die Disziplin, dieses Budget klug zu nutzen, statt es bloß zu verheizen. Die Zugewinne auf den härtesten Benchmarks — Naturwissenschaft auf Promotionsniveau, Olympiade-Mathematik, Programmierwettbewerbe — sind steil. Der Mechanismus dagegen liegt nur halb offen: Die Gedankenketten sehen aus wie Schlussfolgern; ob sie die tatsächliche Berechnung des Modells wiedergeben oder nachträgliche Rationalisierung sind, ist ungeklärt — mit Folgen für Vertrauen, Evaluation und Sicherheit. Grenzen gibt es auch: Latenz und Kosten steigen mit jedem zusätzlichen Token, und mehr Tokens sind nicht immer besser — ab einem gewissen Punkt redet sich ein Modell aus einer richtigen Antwort wieder heraus. Und emergente Fähigkeiten — plötzliche Sprünge mit der Skala (Wei et al. 2022; angezweifelt von Schaeffer et al. 2023, die einen Teil der Emergenz für ein Artefakt der Metrikwahl halten) — bekommen unter diesem Paradigma ein zweites Leben: Mehr Denkzeit erzeugt beim festgehaltenen Modell qualitativ anderes Verhalten.