モデルは現実を理解する便利な道具ですが、現実そのものではありません。しかし、私たちは知らないうちにそれを忘れて「モデルの世界」に迷い込んでいるのかもしれません。モデルを通して世界を見るとき、私たちは何を見て、何を見落としているのでしょうか。モデルと現実の関係について考えます。
～ ～ ～ ～ ～
データ
私たちの世界はデータで溢れています。
衛星は絶えず地球を観測し、アマゾンの熱帯雨林破壊、台風やサイクロンの発生や進路、極地の氷床やヒマラヤやアルプスの氷河の減少に関するデータを送信しています。
追跡アルゴリズムは、オンラインにおける私たちの行動を絶えず監視し、様々なウェブサイトでの滞在時間を記録したり、広告のクリックや購入履歴を取ったり、いつどこに出かけたかを追跡しています。
より身近なところでは、体調管理のため、毎朝体重計に乗ったり、体温を計ったりする人もいるでしょう。オリンピック選手から気軽なジョギング愛好家まで、あらゆるレベルの人たちが日々のパフォーマンスをウエアラブル端末などで記録しています。
毎朝インスタグラムやフェイスブックの「いいね」の数を確認する人もいるかもしれませんし、株価指数や為替をチェックする人もいるかもしれません。
しかし、これらすべてのデータも、それを解釈する枠組みがなければ、単なる数字の羅列に過ぎません。
測定値であるデータは、それ自体では何も語りません。データは、それを解釈する枠組みを通じて初めて何らかの意味を持ちます。そして、同じデータでも、枠組みの違いによって、さまざまな異なる解釈を与えられます。
～ ～ ～ ～ ～
モデル
今回は、ユニバーシティ・カレッジ・ロンドン（UCL）科学技術工学公共政策学部（STEaPP）の准教授、エリカ・トンプソン（Erica Thompson）が書いた書籍『Escape from Model Land（邦題）数理モデルはなぜ現実世界を語れないのか』を紹介します。
エリカ・トンプソンは、データを解釈するための枠組みを総称して「モデル」と呼びます。そして、そのようなモデルが、いかに私たちの意思決定に影響しているかを研究し、適切に活用するためにはどうすべきかを助言しています。
モデルの結果が真に意味するものや、専門家の判断やモデル利用に関する哲学的課題にも取り組み、人道支援NGO、保険関係者、英国政府機関、その他のパートナーと連携して活動を行ってきました。
この本は、モデルを利用した意思決定やその落とし穴について解説し、私たちにモデルについてより批判的に考えるよう促すものです。
ちょっと言い回しがくどい箇所もありますが、私たちがどのように意思決定をおこなっているか、考え直すきっかけにもなる本だと思います。
彼女のメッセージは、モデルは現実の不完全な模倣にすぎず、現実世界の不確実性や人間の判断力を忘れてはならないという点にあり、そして、モデルやAIなどの予測を絶対視せず、その限界を認識し、人間が最終的な責任を負わなければならないという点にあります。
なお、いつものように私は英語の原本を読んでおり、日本語版は読んでいませんので、表現の違い等につきましてはご了承下さい。
～ ～ ～ ～ ～
モデルの世界
冒頭、私たちの世界はデータで溢れていると書きましたが、私たちの世界は膨大なモデルでも溢れています。
モデルは日常生活の至る所に存在し、携帯デバイスから人工衛星に至るまで、さまざまな場所や方法で収集された膨大なデータを、これまた様々なモデルが分析しています。
データをモデル化する目的は、何らかの目標を達成するために、現状を把握して、将来を予測し、より効果的な判断や行動をとることにあります。
気象衛星を打ち上げる政府機関は、天候をより効果的に予測し、悪影響を回避したいという目標をもっています。アスリートは、自身のパフォーマンスを向上させるという目標を持っており、個人投資家は、小銭を稼ぐ（大金かも？）という目標を持っています。
現実世界で何らかの答えを見つけるためには、モデルの世界に足を踏み入れ、データをモデルに通すという作業をしなければなりません。彼女は、このモデルの世界を「モデルランド（Model Land）」と呼びます（以降、「モデルの世界」と書きます）。
モデルの世界には、例え対象が同じであっても、多種多様なモデルが存在します。
例えば、あるモデルでは、地球は「平ら」なものとして扱われます。ボールの落下地点を計算する高校1年生の物理のテストでは、地球が丸いことを組み込む必要はありません。
一方、別のモデルでは、地球は「完全な球体」とみなされます。地球儀は、十分な精度で、国や大陸の相対的な位置関係を示しています。さらに別のモデルでは、地球は「回転楕円体」で、北極と南極を通る直径よりも赤道回りの直径の方が43km長くなっています。
GPSシステムの構築や重力場の測定といった用途では、山や谷、高地、海溝といった地形についても考慮しています。
これらはすべて同一の地球を対象としたモデルですが、それぞれ異なる用途を想定して作られています。
緻密で膨大なデータを利用するモデルは大きな処理能力が必要になり、少ないデータを利用するシンプルなモデルは処理速度は速いものの、現実を大きくデフォルメしてしまう可能性があります。
筆者は、モデルは風刺画のようなものだと言います。ある特徴が強調され、それ以外は完全に無視されてしまうこともあるのです。
～ ～ ～ ～ ～
「モデルの世界」に入る
私たちはモデルの世界にいつでも自由に入ることができます。
現実世界とモデルの世界との間に国境検問所のようなものはありません。自宅でくつろぎながら入ることさえできます。
抽象的な概念モデルや、実用的なスプレッドシート、あるいは複雑な数値計算を伴う巨大で重厚モデルなど、単純なものから複雑なものまでさまざまなモデルがありますが、いずれもある前提条件を持っています。
モデルの世界においては、モデル内で設定した前提条件こそが真実となります。つまり、そのモデルこそが「モデルの世界」における現実になります。
モデルの世界では、どんな前提条件でも真にでき、モデルの特性や構成を様々に変えたり、入力値を変えて挙動の変化を確かめたりすることもできます。そうすることで、モデルそのものやその仕組みの理解を深めることができます。しかし、モデルの世界は、現実世界とは異なることを理解しておく必要があります。
私たちが気が付かない前提条件もあります。多くのモデルは先進国の開発者によって作られますが、必然的に、先進国の価値観や考え方が反映され、途上国の人が作るモデルとは大きく異なるかもしれません。犬や猫などのイラストを描いてもらうだけでも、その人がどの国の出身かによって大きく表現の仕方が異なりますよね。それと同じことがモデルにも起きるのです。
～ ～ ～ ～ ～
「モデルの世界」からの脱出
モデルの世界に入るのは簡単ですが、そこから抜け出すのは容易ではありません。
明確かつ整合性のとれたモデルの世界にいったん浸ってしまうと、現実の世界に戻ることは容易ではないのです。モデルが長く定着し、その影響下に長くどっぷり留まるほど、モデルがあたかも現実世界と合致しているかのような錯覚を覚えるからです。
モデルのスタート地点を忘れ、モデルがモデルであることすら忘れることがあります。研究報告書や学術論文が、モデルの仮定を忘れることさえあります。また、前提が変化しているのに、過去のモデルが未来にも通用すると勘違いしてしまうこともあります。
例えば、「100年に1度起きる確率の○○」という表現や「100年耐用の□□」という宣伝を見ることがありますが、気象パターンが20世紀から確実に変化し続ける中、これからの100年は今までの100年とは明らかに異なるため「今後100年の耐用」という意味では目的を果たさない可能性があります。
モデルの世界こそが現実そのものであり、その前提条件も真実であると見なすようなモデルの世界へのリアリズムは、不確実性を過小評価し、破滅的な影響をもたらしかねません。
2008年のリーマンショックのような金融危機は、一部には、こうしたモデルの世界から抜け出せなかったことに起因しています。
～ ～ ～ ～ ～
成功するモデル
「成功したモデル」とは、より良い意思決定を助けるものでしょうが、そのためにはまず「より良い意思決定」とは何を意味するのかを定義する必要があります。
おそらく「より良い意思決定」とは、私たちの価値観により合致した決定のことでしょう。
天気予報で言えば、庭師は、ある期間における総降雨量には関心があっても、特定の日ごとの正確な雨量にはこだわらないでしょう。
一方、屋外での折り紙世界記録に挑もうとしている人にとっては、降雨量が0mmか1mmかという違いは死活問題ですが、5mmか20mmかといった違いはもはや重要ではありません。
地域の治水担当者であれば、極端な大雨が予測された場合以外の予報には、関心を持たないかもしれません。
このように人が異なれば、モデルへの価値観も異なります。
また、現実世界とは異なっていても、モデルとして成功する例もあります。
例えば、原子は、実際には原子核の周りを回っている小さな球体ではありませんが、そのようにイメージすることは理解を助けるという目的を果たします。
コロナウイルスは、パーティー参加者の間をランダムに飛び回るわけではありませんが、そのように動いているとイメージすることはウイルス拡散の抑制に役に立つかもしれません。
つまり、モデルはその目的を果たせば良いのであって、違う目的を果たす必要も、事実を正確に表す必要もないのです。
そういう意味では、成功したモデルとは単に予測精度の高いモデルのことでもありません。目的を達成するために、コミュニケーションを円滑にしたり、価値判断を組み込む役割も果たすのであれば、正しいモデルになるのです。
別の例をあげましょう。
もし私たちが経済成長だけを追い求めて、経済成長率のみを豊かさの指標として重視するのであれば、世界のGDPを最大化する意思決定を可能にするモデルこそが、成功したモデルとなります。
しかし、そこに生活の質、貧富の格差是正、環境保護などの、多少なりとも対立する価値を加えるのであれば、成功したモデルとは、意思決定者が複数の目標の間でバランスを取れるよう、トレードオフの関係を明確に示してくれるモデルのことです。
～ ～ ～ ～ ～
ストーリーの重要性
私たちは、様々なモデルの結果を利用しますが、それが意思決定に直結するわけではありません。モデルが提供するのは、あくまでも情報に過ぎません。
私たちは未来について、モデルの結果だけでなく、物語（narrative）や比喩（metaphor）を使って判断しています。モデルの結果を理解し、なぜそれが信頼できるのか判断し、筋道や解釈に従って情報を組み上げて、どのような未来を望み、何を選ぶかの最終判断をします。
モデルの結果が正しいことと、人がその結果を信頼することは、同じではありません。説得力のある説明があっても、それだけでモデルの正しさが保証されるわけではありません。
その背景にあるのは、心理的、倫理的、社会的、政治的なものなどさまざまな要因です。また、私たちが直面する不確実性の問題があります。例えば、次のような判断を考えてみます。
- 気候変動対策に、どの程度の費用をかけるべきか
- 新しい事業に投資すべきか
- パンデミックの際、経済活動をどこまで制限すべきか
- 今の仕事を辞めて、新しいキャリアに進むべきか
こうした問題では、将来起こり得ることをすべて把握することも、それぞれの確率を正確に計算することもできません。
さらに、何をもって成功とするかも人によって異なります。このような状況を「根本的な不確実性（radical uncertainty）」と呼びます。
人は不確実な状況で、単に確率や数字を比較して意思決定するわけではありません。目の前の情報をつなぎ合わせて「何が起きているのか」を理解し、そこから将来を想像し、その未来が望ましいかどうかを考えます。
ここで重要なのは、確信を持つことが、将来を正確に予測できることを意味しないという点です。人は、将来が確実だから行動するのではなく、不確実な状況でも行動できる程度に納得できる説明を見つけるのです。
ある人が会社を辞めて独立するかどうかを考えているという具体例で説明しましょう。
将来の収入や事業の成功確率を正確に計算することはできません。そこで、自分の経験や周囲の情報をもとに、いくつかの筋道を考えます。
ストーリーA
– 独立すれば、自分の能力をもっと活かせる
– 今の会社では能力を十分に発揮できていない
– 自分で事業を始めれば、顧客のニーズに直接応えられる
– 最初は苦労しても、長期的には自由と満足を得られるかもしれない
➡ 想像する未来：困難はあるが、自分らしく働ける生活
ストーリーB
– 独立すれば、安定した生活を失う可能性がある
– 事業の成功は保証されていない
– 顧客を獲得できなければ、収入が不安定になる
– 今の会社に残れば、収入や生活の安定を維持できる
➡ 想像する未来：独立による不安定さを避け、現在の安定を維持する生活
どちらのストーリーも、現実に起こり得ることです。ただし、どちらを選ぶかは、単純な確率計算だけでは決まりません。自由や自己実現を重視する人と、安定や家族の生活を重視する人では、同じ情報から違う結論に至る可能性があります。
また、同じ将来の不確実性に対しても、期待や不安で感じ方が変わります。人が状況を説明する物語、想像する未来、そして、感情や価値観や人生観が結びつき、さらには家族や友人やメディアなど様々な影響も受けて意思決定が下されます。
また気候変動を例に上げると、気候モデルが将来の気温上昇を予測したとしても、それだけで社会がどのような対策を取るべきかが自動的に決まるわけではありません。その予測をどのように理解するのか、どのような未来を想像するのか、何を重視するのかによって、判断が異なります。
モデルは、将来の予測に関する情報を提供する一方で、私たちは、その情報を自分たちの価値観や経験と結びつけ、将来についての物語を作り、行動を決めるのです。
これは、モデルの前提となる価値観を明らかにすることの重要性にもつながります。気が付かないうちに、モデルに埋め込まれた価値観に支配されることがあるからです。
～ ～ ～ ～ ～
５つの原則
では、モデルはどのように構築されるべきでしょうか？誰に力を与えるでしょうか？どう規制すべきでしょうか？そして、どうすれば責任を持ってそれらを利用できるのでしょうか？
重要なのは、これまでに得られた知見を捨てることなく、不安定な土台の上に次々とブロックを積み重ねるようなことをやめ、モデルという土台を明確かつ強固にすることです。
筆者のエリカ・トンプソンは、責任あるモデリングのための5つの原則を挙げています。モデルを作成する人にとっては行動規範を形成する一助となり、モデルを使用する人たちにとっては、それぞれのモデルの本質を突く質問を投げかける手助けとなる5つの原則です。
1. 目的を明確にする
出発点として、まずモデルをどのような目的のために作るのか、用いるのかを明確にする必要があります。
ある特定の人たちの意思決定に役立てるのであれば、その集団がモデルで表現される必要があります。
ほとんどのモデルは、モデル単体では特定の意思決定を行うには十分ではありません。足りないものを明確にし、それを補完し合うために、複数のモデルを利用することで、より効果的な意思決定が可能になります。
モデルを適用範囲以上に広げてはいけません。モデル開発者は、モデルがどのような質問に答えられ、どのような質問には答えられないのかを明確にする必要があります。
2. 「わからない」と言って済ませない
すべてのモデルは不完全です。未来は予測不可能かつ根本的な不確実性にさらされ、モデル自体も専門家の主観や偏見に左右されます。
しかし、例え部分的で偏りがあるモデルであっても、そこから有益な洞察が得られます。確実なことは分かりませんが、かといって何も分からないわけでもありません。「わからない」と言って説明責任を放棄してはいけません。
3. モデルに含まれる価値判断を明らかにする
どんなモデルにも、「計算は正しいか」といった技術判断だけでなく「何が望ましいのか」「何を優先すべきか」という価値判断が含まれています。
① 技術判断
– どのデータを使うか
– どの計算方法を使うか
– 計算結果は正しいか
② 価値判断
– 何を重要と考えるか
– 何を「良い結果」と考えるか
– 誰の利益や損失を重視するか
– どのリスクを受け入れ、どのリスクを避けるか
従来のモデルは、①だけを客観的・科学的な部分として扱い、②を隠されたままにしてしまうことがありますが、筆者が強調するのは、むしろ②の価値判断こそ表に出して議論すべきだということです。
モデルを作った人や支持する人とは異なる立場の人や、そのモデルに基づく決定の影響を直接受ける人が見れば、モデルに含まれている価値判断を見つけられるはずです。
その価値判断を明確にすることです。もし別の価値観を採用したら、モデルの前提や結果はどう変わるでしょうか。
モデルを使うときには、次のように問いかけてみてください。
- このモデルでは、何をもって「良いモデル」「良い結果」としているのか？
- その判断の背後には、どのような価値観があるのか？
- その価値観に反対する人はいないか？
- このモデルによる決定の影響を受ける人々は、モデルを作る過程に参加したのか？
- その価値判断は社会的に合意されているか、それとも議論の余地があるのか？
例えば気候モデルなら「CO₂排出量を減らすべきだ」というのは、科学的事実ではありません。科学が示せるのは、「CO₂濃度が上昇すると、このような気候変化が予測される」という部分です。
そこから「だから経済成長を多少犠牲にしてでも排出量を減らすべきだ」と判断するには、将来世代、現在の生活水準、経済成長、環境リスクなどのどれをどの程度重視するかという価値判断の重ね合わせになります。
4. 現実世界について語る
モデルから導かれた結果を「モデルの世界」に住んでいない一般の人たちに説明する際は「翻訳」が必要になります。「モデルの世界」から抜け出し、現実世界における責任を持ってその結果を語る必要があります。なぜなら、一般の人たちはモデルの前提を知らないからです。
そのモデルの前提は何か、どのような点で不十分なのか、あるいは誤解を招く恐れがあるのか、モデルが捉え損ねている重要なプロセスは何か。
「モデルの世界」から現実世界へと解釈を移す際には、誰かの判断が介在しているはずです。他の人が異なる見解を持つ可能性はないでしょうか？その判断についても明確にする必要があります。
5. 多くのモデルを活用する
個人的な背景に潜む隠された仮定が、モデルの優先順位に影響を与えていないでしょうか？
たとえ感情的な抵抗があっても、異なる視点を積極的に取り入れ、他人があなた自身の何を見出しているかを考えてみてください。多様な視点から知見を集めることが、将来の展望や可能性を理解する助けとなります。
～ ～ ～ ～ ～
さいごに
本書は折角良いテーマを扱っているのに、もっとうまくまとめてくれたらよかったのにという少し残念なところはありますが（英語版のことです）、データとモデルという私たちの日常に組み込まれている、ややもすると受け流しがちなとても大切な仕組みについて、改めて考えさせてくれる良い本です。
筆者が主張するのは、モデルを放棄すべきだということではありません。
モデルは、現代の意思決定システムにおいてもはや切り離すことのできまない、とても重要なものです。彼女が強調するのは、私たちの脳もまた、意思決定システムにおける不可欠かつ重要だという点です。
さらに言えば、これは一種のパートナーシップなのです。人間の脳がモデルを構築し、モデルが定量的・定性的な知見を提供します。そして脳はそれらの知見を、モデル化されていない他の知見と統合します。その結果として生まれるのは、脳単独やモデル単独で機能する場合よりも優れたシステムです。
モデルが高度化するに従って、私たちはデバイスを使うことは上手になっても、自分の脳を使うことが下手になってきています。モデルを過信して依存しすぎたり、それが現実であると錯覚したりすると、私たちはいつかそのツケを払うことになります。
モデルが強力になるほど、不確実性がもたらす危険度が高まります。価値判断を見直して、モデルが持つ便利さと危険性のバランスを取る緊急性が高まってきています。
