Dopamin & Belohnung
- Prediction error, not pleasure itselfnoch nicht geprüft
- VTA, nucleus accumbens, and the nigrostriatal pathnoch nicht geprüft
- Berridge's wanting-versus-liking splitnoch nicht geprüft
- The same δ that runs reinforcement learningnoch nicht geprüft
Im Alltagsgespräch steht Dopamin für Lust. Genau das trifft die Neurowissenschaft nicht. Codiert wird nicht die Lust, sondern der Vorhersagefehler: der Abstand zwischen der Belohnung, die eintritt, und der, mit der gerechnet wurde. Fällt die Wirklichkeit besser aus als erwartet, schnellt das Signal hoch; trifft die Erwartung zu, bleibt es aus; fällt sie schlechter aus, sinkt es unter die Grundlinie. Gefunden hat dieses Muster Wolfram Schultz, der in den 1990er Jahren von Dopaminneuronen ableitete, während Affen lernten, einen Ton mit einer Saftbelohnung zu verbinden. Es deckte sich Punkt für Punkt mit der Temporal-Difference-Lernregel, die Richard Sutton und Andrew Barto in den 1980er Jahren in der künstlichen Intelligenz aufgestellt hatten — hergeleitet aus rein rechnerischen Überlegungen, ohne jeden Blick ins Gehirn. Das Verstärkungslernen läuft auf derselben Gleichung wie das Belohnungssystem des Gehirns.
Dopamin ist ein Neurotransmitter, den der Körper aus Tyrosin über die Zwischenstufe L-DOPA herstellt. Das Gehirn hat nur rund 400 000 Dopaminneuronen, fast alle in zwei Kerngebieten des Mittelhirns: in der Area tegmentalis ventralis (VTA) und in der Substantia nigra pars compacta. Von der VTA zieht die mesolimbische Bahn zum Nucleus accumbens und in den präfrontalen Kortex — das ist der Schaltkreis für Belohnung und Motivation. Die nigrostriatale Bahn dagegen trägt das motorische Lernen; stirbt sie ab, entsteht die Parkinson-Krankheit. Schultz zeigte 1997, wie fein das Signal getaktet ist: Dopaminneuronen feuern phasisch, wenn eine Belohnung unangekündigt eintrifft. Mit dem Lernen wandert das Feuern nach vorn, auf den frühesten verlässlichen Vorboten — einen Ton, ein Licht, den Anblick des Futters —, und bei der Belohnung selbst bleibt es aus. Bleibt eine angekündigte Belohnung aus, pausieren die Neuronen genau in dem Augenblick, in dem sie hätte eintreffen sollen. Das ist keine Lust, sondern ein Belohnungsvorhersagefehler im Sinne der Temporal-Difference-Regel. Das TD-Lernen von Sutton und Barto aktualisiert seine geschätzten Werte mit genau diesem δ; der Schaltkreis aus Kortex und Basalganglien scheint einen entsprechenden Algorithmus im lebenden Gehirn zu betreiben. Kent Berridge trennte 1996 das Wollen vom Mögen: Am Dopamin hängt das Wollen, also die Motivation, das Hingezogenwerden — nicht das Mögen, der hedonische Genuss, für den Opioidsysteme zuständig sind. Tiere ohne Dopamin verhungern vor Futter, das ihnen weiterhin schmeckt. Sämtliche Suchtmittel laufen am Dopamin zusammen: Kokain und Amphetamine blockieren die Wiederaufnahme, Opioide enthemmen die VTA, Alkohol steigert die Feuerrate. Die dabei erzeugten überphysiologischen Signale bringen dem Gehirn bei, die Droge über alles zu stellen — und die Trennung von Wollen und Mögen erklärt das klinische Paradox, dass Süchtige die Droge nicht mehr genießen und trotzdem weiter danach suchen. Bei Parkinson führt das langsame Absterben der nigrostriatalen Dopaminneuronen zu Tremor, Rigor und Bradykinese; Standardtherapie ist L-DOPA.