Große Sprachmodelle

Transformer-Netze, am öffentlichen Internet trainiert und so weit skaliert, dass neue Fähigkeiten von selbst auftauchen: die Technologie, an der der Zyklus der 2020er Jahre hängt.

Als Nächstes empfohlen → Reasoning-Modelle & Rechenaufwand zur Inferenzzeit · CS·KI

Der Beitrag

Ein großes Sprachmodell ist im Grunde auf eine einzige, eng gefasste Aufgabe abgerichtet: aus allem Vorangegangenen das nächste Token zu erraten — das nächste Stück Text. Lässt man dieses schlichte Ziel über ein riesiges Korpus menschlichen Schreibens laufen, mit einem Netz von hinreichender Größe, dann geschieht etwas Unerwartetes. Das Modell lernt nicht bloß, Sätze zu Ende zu bringen; als Nebenwirkung davon, das nächste Wort zu treffen, eignet es sich eine arbeitsfähige Beherrschung von Grammatik, Sachwissen, Stil, Schlussfolgern und den Konventionen dutzender menschlicher Sprachen und formaler Systeme an. Um Text gut genug vorherzusagen, muss ein Modell offenbar sehr viel über die Welt verinnerlichen, von der der Text handelt. Darin liegt die eigentliche Überraschung des Feldes, der Sprung von einem einzigen statistischen Ziel zu breit wirkender Kompetenz, und darin auch der Grund, warum ein Werkzeug zum bloßen Vervollständigen binnen weniger Jahre zum allgemeinen Instrument für die Arbeit mit Sprache wurde.

Darunter liegt der Transformer, dessen Attention-Mechanismus jede Stelle eines Textes jede andere gewichten lässt — ein eigener Begriff, andernorts behandelt. Zum Sprachmodell wird das Ganze erst durch die Art des Trainings. Zuerst zerlegt ein gelerntes Vokabular den Text in Tokens, sodass das Modell mit Wortteilen umgeht statt mit einzelnen Zeichen oder ganzen Wörtern; das hält den Zeichenvorrat endlich und kann trotzdem jeden noch so seltenen Ausdruck buchstabieren. Das Pre-Training optimiert dann eine einzige Verlustfunktion: über Billionen von Wörtern hinweg das nächste Token vorherzusagen und dabei Milliarden Parameter nachzuziehen, bis die Vorhersagen schärfer werden. Weil sich fast jedes Wissen als Lückentext stellen lässt, erzwingt dieses eine Ziel beiläufig, dass Syntax, Sachwissen und Schlussfolgern zugleich kodiert werden. Nichts davon steht in einer Nachschlagetabelle; alles ist in die Gewichte hineinkomprimiert — deshalb kann ein Modell Gelesenes zu Sätzen neu verbinden, die in seinem Korpus nie standen. Ein so trainiertes Modell ist sprachmächtig, aber ungelenkt: Es setzt eine Frage ebenso bereitwillig fort, wie es sie beantwortet. Brauchbar macht es eine zweite Stufe, das Alignment. Instruction Tuning bringt ihm bei, Text als zu erfüllende Aufforderung zu nehmen; bestärkendes Lernen aus menschlichem Feedback (RLHF) schiebt die Ausgaben danach dorthin, wo Menschen sie hilfreich und ehrlich finden — etwas rohe Geläufigkeit gegen Steuerbarkeit eingetauscht. Die auffälligste Eigenschaft zeigt sich erst mit der Größe: Fähigkeiten, die kleine Modelle nicht haben — mehrschrittiges Schließen, Übersetzen, einfaches Rechnen —, treten mit wachsender Größe und Datenmenge hervor, oft ohne eigens dafür trainiert worden zu sein; quantitatives Wachstum schlägt in qualitative Veränderung um. Verwandt damit ist das In-Context-Learning: Ein paar Beispiele im Prompt genügen, damit ein Modell eine Aufgabe erledigt, für die es nie nachtrainiert wurde — gelernt wird im Gespräch selbst, nicht durch irgendeine Änderung an den Gewichten.

Warum jetztDie ehrlichen Grenzen wiegen so schwer wie die Fähigkeiten. Ein Sprachmodell hat keine eingebaute Verankerung in der Wahrheit: Optimiert ist es auf plausible Fortsetzungen, und Plausibilität und Richtigkeit decken sich nur teilweise. Wo beide auseinanderlaufen, trägt das Modell Falsches mit derselben souveränen Geläufigkeit vor wie Richtiges — der Fehlermodus, der Halluzination oder Konfabulation heißt. Am Ziel der Token-Vorhersage belohnt nichts das Eingeständnis Ich weiß es nicht, also kommt es selten von allein. Empfindlich ist die Ausgabe außerdem gegenüber dem Prompt: Kleine Änderungen im Wortlaut kippen mitunter die Antwort, weshalb das gute Formulieren einer Anfrage selbst zur Fertigkeit geworden ist. Nichts davon ist ein vorübergehender Mangel, den ein Patch beseitigen könnte; es folgt daraus, was das System ist — ein Modell davon, wie Text sich fortzusetzen pflegt, und kein Modell der Welt. Mit diesem Wissen benutzt, sind große Sprachmodelle ein wirklich neuartiges Werkzeug. Für Orakel gehalten, führen sie in genau jener flüssigen, selbstsicheren Stimme in die Irre, die sie so überzeugend macht.