RITEで記事をつくり終えたとき、画面に並ぶ引用文献を眺めながら、ふと背筋が伸びる感覚がありました。知らなかった論文の名前、聞いたことのない研究者の言葉、精緻に組み上げられた考察の連なり。「自分の視野が広がった」という確かな手応えがある。でも、翌朝その記事を読み返すと、自分がほんとうに何かを理解したのか、それとも理解したという感覚だけを得たのか、判然としなくなることがあります。月の裏側の写真を見て、月を知った気になる。その写真が精巧であればあるほど、自分が月面を歩いていないことを忘れやすくなる。この小さなずれの正体を、認識論と認知科学の両側から照らしてみたいと思います。
ギルバート・ライルは1949年の著作『心の概念』で、知識を二種類に切り分けました。「know-that（知っている知）」——自転車には二つの車輪がある、という命題的な知識。そして「know-how（できる知）」——実際に自転車を走らせる実践的な知識。この二つは、まったく別の認知的操作によって成立します。難解な論文の名前を引用できることは前者の増加であり、その論文が示す概念を使って問題を解きほぐせることは後者の深化です。ライルが批判したのは、命題の蓄積を理解そのものと混同する「知性主義の誤り」でした。知識の量が増えるほど、この混同は静かに深まります。
後期ウィトゲンシュタインは1953年の『哲学探究』で、「意味は使用にある」と書きました。言葉の意味はその定義にあるのではなく、具体的な文脈の中で使われる実践の中にある、という洞察です。難解な語彙を並べることは、その言語ゲームに参加しているように見えます。しかしゲームのルールを体得することと、ゲームの駒を知っていることは別の習熟です。専門用語が増えるほど、私たちはそのゲームの内側にいる感覚を得ます。その感覚は心地よく、しかも反証しにくい。「わかった気」の核心は、この言語的な参加感の錯覚にあります。
認知心理学者のローゼンブリット（米イェール大学）とカイル（同）は2002年、「説明の深さの錯覚（Illusion of Explanatory Depth）」を実証しました。被験者に自転車やジッパーの仕組みを「どれだけ理解しているか」と問うと、多くが高い点数をつけます。ところが「では実際に説明してください」と求めると、自己評価は急落します。理解の感覚と実際の理解は、驚くほど独立して存在します。さらに驚くべきことに、説明が詳細であればあるほど、この錯覚は強化される傾向があります。精緻な解説を「受け取る」行為が、理解の代替として機能してしまうのです。
では、この錯覚にどう向き合えばよいのでしょう。一つの実践として、「読んだ後に自分の言葉で三行で書く」ことを試してみてください。難解な概念を、知らない人に話すように書き直す。このとき初めて、自分がどこを本当に理解していてどこを借り物の言葉で埋めているかが見えてきます。ライルの言う「know-how」は、この書き直しの摩擦の中でしか育ちません。AIが生成した考察は、思考の出発点として使えます。しかしそれを自分の身体を通して再構成しない限り、知識は地図のまま——地形を歩く経験に変わりません。
科学社会学者のトーマス・ジェリン（米インディアナ大学）は1983年、専門家集団が難解な言語を使って知の境界を引く行為を「境界維持（boundary work）」と呼びました。難しく言うことは、理解を深めるためではなく、帰属を示すために機能することがある。この視点から見ると、「わかった気になる」現象には二層あります。一つは認知的な錯覚——理解の感覚と実際の理解のずれ。もう一つは社会的な錯覚——専門的な言語に触れることで、その共同体に属した気分になること。後者は特に、AIが生成する学術的な文体の中で静かに作動します。
理解とは、知識を受け取ることではなく、知識を使って何かが変わることです。ライルが示したように、「知っている」と「できる」の間には、実践という橋が必要です。その橋を渡らないまま精巧な地図を増やし続けることは、月の裏側を見たという感覚を積み重ねることと同じです。AIが提示する知識の豊かさは本物です。しかしその豊かさが理解に転化するかどうかは、受け取った後に自分が何をするかによって決まります。問うべきは「何を知ったか」ではなく、「知ったことで何が変わったか」です。
DEEPER 学術的な観点で深めると
2002年、米イェール大学の認知心理学者フランク・カイルが『Cognitive Science』誌に発表した実験は、理解の錯覚の構造を鮮明に映し出しました。被験者は日常的な機械（自転車・トイレ・ジッパー）の理解度を自己評価した後、実際に説明を求められると評価が平均で約40%急落しました（Rozenblit & Keil, 2002）。スウェラー（1988年、認知負荷理論）が示したように、複雑な情報提示は作業記憶を圧迫し、表面的な処理に終わらせます。AIが生成する詳細な解説は、初学者の認知負荷を一時的に下げる一方で、「理解した」という感覚だけを先取りさせる構造を持っています。地図の精緻さが、地形を歩く意欲を奪う逆説が、いま静かに進行しています。
「説明の深さの錯覚」実験では、自己評価と実際の説明能力の間に平均約40%の乖離が確認された。詳細な説明を「受け取る」ほど錯覚が強化される傾向も示唆されている。（Rozenblit & Keil, 2002, Cognitive Science 26(5): 521–562）
認知的流暢性の研究では、読みにくい書体で書かれた文章のほうが「より深い内容を含む」と評価される実験結果が報告されている。難解さが知的権威のシグナルとして機能する逆説的なバイアス。（Reber, R. & Schwarz, N., 1999, Journal of Experimental Social Psychology 35(2): 171–180）
政治的信念についての「説明の錯覚」実験では、自分の立場を詳しく説明させると極端な意見が穏健化することが示された。理解の錯覚が解消されると、確信の強度も低下する。（Fernbach, P. M. et al., 2013, Psychological Science 24(6): 939–946）
境界維持（boundary work）の概念を提示したジェリンの1983年論文は、科学者集団が難解な言語で非専門家を排除する社会的機能を分析した。専門用語の増加が理解の深化でなく帰属表示に機能する構造を示す。（Gieryn, T. F., 1983, American Sociological Review 48(6): 781–795）
KEY REFERENCE この回の典拠
- Rozenblit, L. & Keil, F. (2002). "The misunderstood limits of folk science: An illusion of explanatory depth." Cognitive Science, 26(5): 521–562. DOI: 10.1207/s15516709cog2605_1 ／ 「説明の深さの錯覚（IOED）」を実験的に発見した原著論文。理解の感覚と実際の理解能力の乖離を初めて定量的に示した。
- Fernbach, P. M., Rogers, T., Fox, C. R., & Sloman, S. A. (2013). "Political extremism is supported by an illusion of understanding." Psychological Science, 24(6): 939–946. DOI: 10.1177/0956797612464058 ／ 説明の錯覚が政治的極化を支えることを示した実験研究。理解の錯覚が解消されると確信の強度も低下するという逆説的な発見。
- Reber, R. & Schwarz, N. (1999). "Effects of perceptual fluency on judgments of truth." Consciousness and Cognition, 8(3): 338–342. DOI: 10.1006/ccog.1999.0386 ／ 認知的流暢性と真実判断の関係を示した実験研究。処理が困難なものを「重要・深遠」と判断するバイアスの基礎的証拠。
- Gieryn, T. F. (1983). "Boundary-work and the demarcation of science from non-science." American Sociological Review, 48(6): 781–795. DOI: 10.2307/2095325 ／ 科学者集団が難解な言語で境界を引く「境界維持（boundary work）」を概念化した科学社会学の原著論文。
- Sweller, J. (1988). "Cognitive load during problem solving: Effects on learning." Cognitive Science, 12(2): 257–285. DOI: 10.1207/s15516709cog1202_4 ／ 認知負荷理論の原著論文。複雑な情報提示が作業記憶を圧迫し表面的処理に終わるメカニズムを示した工学・教育設計の基礎研究。
- Ryle, G. (1949). The Concept of Mind. Hutchinson. 「know-how（できる知）」と「know-that（知っている知）」の区別を提示した分析哲学の古典。命題的知識の蓄積を理解と混同する「知性主義の誤り」を批判した。
- Wittgenstein, L. (1953). Philosophische Untersuchungen / Philosophical Investigations. Blackwell. 「意味は使用にある」という言語ゲーム論を展開した後期ウィトゲンシュタインの主著。難解な語彙の使用と理解の乖離を考える上での哲学的基盤。
同じ問いを「教える側の認知」という角度から書き直す記事も面白そうです。「知識の呪縛（Curse of Knowledge）」——知っている者が知らない者の視点を想像できなくなる現象——を軸に、専門家が簡単に説明できない理由を掘り下げると、別の発見へと辿り着きます。
いま立ち上がっている問いを、深掘り記事に。
読み終わった読者が立てた問いと、それに応える深掘り記事の連鎖です。