Die Bibliothek · Geist & GehirnTafel № 347 · Folio XI
ILL. № 347
GEIST
Plate — Dopamin & Belohnung

Dopamin & Belohnung

Nicht die Lust selbst zählt, sondern ihre Überraschung: Das Dopaminsignal trägt den Abstand zwischen dem, was eintrifft, und dem, was erwartet wurde.
Als Nächstes empfohlen → Erwartungswert · MATH · T5
Facetten
  • Prediction error, not pleasure itselfnoch nicht geprüft
  • VTA, nucleus accumbens, and the nigrostriatal pathnoch nicht geprüft
  • Berridge's wanting-versus-liking splitnoch nicht geprüft
  • The same δ that runs reinforcement learningnoch nicht geprüft
Der Beitrag

Im Alltagsgespräch steht Dopamin für Lust. Genau das trifft die Neurowissenschaft nicht. Codiert wird nicht die Lust, sondern der Vorhersagefehler: der Abstand zwischen der Belohnung, die eintritt, und der, mit der gerechnet wurde. Fällt die Wirklichkeit besser aus als erwartet, schnellt das Signal hoch; trifft die Erwartung zu, bleibt es aus; fällt sie schlechter aus, sinkt es unter die Grundlinie. Gefunden hat dieses Muster Wolfram Schultz, der in den 1990er Jahren von Dopaminneuronen ableitete, während Affen lernten, einen Ton mit einer Saftbelohnung zu verbinden. Es deckte sich Punkt für Punkt mit der Temporal-Difference-Lernregel, die Richard Sutton und Andrew Barto in den 1980er Jahren in der künstlichen Intelligenz aufgestellt hatten — hergeleitet aus rein rechnerischen Überlegungen, ohne jeden Blick ins Gehirn. Das Verstärkungslernen läuft auf derselben Gleichung wie das Belohnungssystem des Gehirns.

Dopamin ist ein Neurotransmitter, den der Körper aus Tyrosin über die Zwischenstufe L-DOPA herstellt. Das Gehirn hat nur rund 400 000 Dopaminneuronen, fast alle in zwei Kerngebieten des Mittelhirns: in der Area tegmentalis ventralis (VTA) und in der Substantia nigra pars compacta. Von der VTA zieht die mesolimbische Bahn zum Nucleus accumbens und in den präfrontalen Kortex — das ist der Schaltkreis für Belohnung und Motivation. Die nigrostriatale Bahn dagegen trägt das motorische Lernen; stirbt sie ab, entsteht die Parkinson-Krankheit. Schultz zeigte 1997, wie fein das Signal getaktet ist: Dopaminneuronen feuern phasisch, wenn eine Belohnung unangekündigt eintrifft. Mit dem Lernen wandert das Feuern nach vorn, auf den frühesten verlässlichen Vorboten — einen Ton, ein Licht, den Anblick des Futters —, und bei der Belohnung selbst bleibt es aus. Bleibt eine angekündigte Belohnung aus, pausieren die Neuronen genau in dem Augenblick, in dem sie hätte eintreffen sollen. Das ist keine Lust, sondern ein Belohnungsvorhersagefehler im Sinne der Temporal-Difference-Regel. Das TD-Lernen von Sutton und Barto aktualisiert seine geschätzten Werte mit genau diesem δ; der Schaltkreis aus Kortex und Basalganglien scheint einen entsprechenden Algorithmus im lebenden Gehirn zu betreiben. Kent Berridge trennte 1996 das Wollen vom Mögen: Am Dopamin hängt das Wollen, also die Motivation, das Hingezogenwerden — nicht das Mögen, der hedonische Genuss, für den Opioidsysteme zuständig sind. Tiere ohne Dopamin verhungern vor Futter, das ihnen weiterhin schmeckt. Sämtliche Suchtmittel laufen am Dopamin zusammen: Kokain und Amphetamine blockieren die Wiederaufnahme, Opioide enthemmen die VTA, Alkohol steigert die Feuerrate. Die dabei erzeugten überphysiologischen Signale bringen dem Gehirn bei, die Droge über alles zu stellen — und die Trennung von Wollen und Mögen erklärt das klinische Paradox, dass Süchtige die Droge nicht mehr genießen und trotzdem weiter danach suchen. Bei Parkinson führt das langsame Absterben der nigrostriatalen Dopaminneuronen zu Tremor, Rigor und Bradykinese; Standardtherapie ist L-DOPA.

Warum jetztDas Verstärkungslernen der KI rechnet mit demselben Algorithmus wie das Gehirn. AlphaGo (2016), AlphaStar (2019) und spielende Systeme überhaupt setzen auf Temporal-Difference-Varianten. Über Verstärkungslernen aus menschlichem Feedback (RLHF) und dessen Nachfolgeverfahren werden die großen Assistenten — Claude, ChatGPT, Gemini — auf die Präferenzen ihrer Nutzer ausgerichtet: Das Belohnungsmodell besteht aus menschlichen Bewertungen, die Strategie ist das Sprachmodell selbst. Dass Hirnforschung und KI unabhängig voneinander bei demselben Prinzip gelandet sind, gehört zu den bemerkenswertesten Ergebnissen der letzten drei Jahrzehnte. Verhaltenssüchte — Glücksspiel, soziale Medien, Computerspiele — werden zunehmend als Ausbeutung eben dieses dopaminergen Lernens verstanden: Variable Verstärkungspläne machen besonders süchtig, weil sie den Vorhersagefehler maximieren. Und dass Ketamin und Psychedelika rasch antidepressiv wirken, führt man plausibel darauf zurück, dass sie ein aus dem Tritt geratenes Belohnungslernen zurücksetzen.