じぶん更新日記・隠居の日々
1997年5月6日開設
Copyright(C)長谷川芳典



10月のインデックスへ戻る
最新版へ戻る


 シジミチョウ3匹(頭)が枝にとまっていた。うち2匹は交尾中で、蝶としては最も幸せな状態にあるという。もう1匹は相手が見つからず残念な状態。


2021年10月3日(日)



【連載】ヒューマニエンス「“快楽” ドーパミンという天使と悪魔」その4 報酬予測誤差

昨日に続いて、9月9日に初回放送された表記の話題についての感想と考察。

 番組の中程では、ドーパミンの“落とし穴”について言及された。

 例として挙げられたのは、サルを使った実験であった。出典と、番組で紹介された概要は以下の通り。

Schultz, Dayan, Montague (1997). A neural substrate of prediction and reward. Science ,275(5306),1593-1599.
  1. 目の前のランプが点灯すると0.75秒後に口元からジュースが貰える。当初、サルのドーパミン神経細胞は、ジュースを飲んだ時に激しく反応した。
  2. しかし、そのうち、ランプが点灯しただけでドーパミンが出るようになった【パヴロフの犬の状態】。しかし、ジュースを飲んだ後ではドーパミンは出なくなった。
 この現象は、元の論文では「Quantitative theories of adaptive optimizing control」に基づいて説明可能であるとされていたが、番組では分かりやすく「報酬予測誤差」、つまり「ドーパミンは報酬に対して出ているのではなく、報酬予測誤差に対して出ている。予測通りの結果ではなく、サプライズに対して出る。」というように説明された。

 この実験の細かい点についてコメントすることは避けるが、いくつか留意すべき点がある。
  • 上記の実験では、ランプが条件刺激として機能していることは確かである。この範囲ではパヴロフの条件反射(レスポンデント条件づけ)による説明が可能である。すなわち無条件刺激であるジュースはドーパミン放出という無条件反応を誘発した。その後、ランプは条件刺激となり、条件反応であるドーパミンを放出するようになった。
  • しかし、そうであるなら、無条件刺激であるジュースに対してドーパミンが出なくなるという事実は説明できない。むしろ、ランプという合図によって生じる予測反応が期待感、ワクワク感のようなもの(=ドーパミン放出)をもたらしたと考えるべきであると言える。
  • 但し、そうは言っても、ジュースそのものが不要になるわけではない。ランプだけが単独で繰り返し呈示されると、ランプの条件刺激としての機能は消失する(同時に予測反応も起こらなくなる)。
 誤解が無いように繰り返し指摘しておくが、ジュースを飲む行動(飲み口から吸い込む行動、あるいはオペラント条件づけではボタンなどを押してジュースを出す行動)自体は、あくまでジュースという強化刺激によって強化され維持されている。いくら「習慣化」したとしても、ジュースが出なくなった時には行動は起こりにくくなる(=消去)。ジュースが出ても行動が起こりにくくなったとしたら、別の要因、例えば、飽和化が考えられる。
 なので、日常の基本的習慣はやはり強化刺激によって維持されているということが大前提である点は忘れてはならない。しかし、我々の日常生活の中で、ワクワク感、ドキドキ感は、何か新鮮な体験をした時、新しい発見をした時、新たな知識を獲得した時などに生じることは経験的に見ても確かであるように思われる。

 報酬予測誤差の話題はネット上でもいろいろと取り上げられているようだ。
  • 「働いた後のビールはうまい」努力をして(コストを払って)得た報酬の方が、何もしないで得た報酬よりも主観的価値が大きくなる
  • 人はなぜ購入するのか?:「明らかに予想を上回る性能」とか、「明らかに予想を上回る店員さんの対応の良さ」があったとすると、そのことに感動し商品やサービスを購入しようとする。
    • 事前期待値よりも実際の価値の方が高ければ高いほど購入者の購買意欲を高められるのであれば、事前期待値を下げることが有用。「事前期待値を上げてしまう」ことを避けることも必要。
    • 「実際の価値を最大化すること」:事前期待値よりも圧倒的に上回る実際の価値を提供する。
 私自身も報酬予測誤差がもたらす感動についてはいろいろ思い当たるところがある。
 例えば、旅行会社の宣伝パンフなどで旅行先の絶景があまりにも美しく描かれていたりすると、実際にその場所を訪れた時には天気が悪かったり、思ったほど規模が大きくなかったりしてがっかりすることがある。逆に、旅行パンフが白黒写真であったり、事前の情報が殆ど無かったような旅行先では、想像以上の絶景に巡り会って感動することがある。なので、これから先、海外旅行に出かけようとする人は、体験者の旅行アルバムなどはあまり見ないで出かけたほうがいい。

 次回に続く。