騙されないようにするには、システム２の起動の訓練と習慣づけが重要と理解した。その観点からは、昨今のＡＩ利用の多用は、人間のシステム２の鍛錬には逆行する側面があるのではないか。そこいら辺は、どのように分析されているか。

『（Copilot）

これは近年の認知科学・教育学・AI研究でかなり議論されている重要な論点です。

結論から言うと、

「AIはシステム2を弱める危険性がある」という懸念は実在する。

しかし同時に、「AIを使ってシステム2を強化できる」という反対の見方もある。

研究者の間では、どちらになるかは「AIを代行者として使うか、思考パートナーとして使うか」にかかっていると考えられています。

（システム2は筋肉に近い）

カーネマンの理論でいうシステム2は、

・集中する
・比較する
・検証する
・疑う
・数字を見る
・仮説を立てる

という能力です。

これは「筋肉」に似ています。

使わなければ弱る。

例えば昔は、

・地図を読む
・暗算する
・電話番号を覚える

能力が日常的に鍛えられました。

しかしGPSやスマホの普及で、それらは弱くなったと言われます。

AIについても同じ懸念があります。

（AIは「認知の外部委託装置」）

歴史的に見ると、

人類はずっと「脳の仕事を外部化」してきました。

文字

↓ 本

↓ 電卓

↓ 検索エンジン

↓ AI

です。

AIはこれまでと違い、

記憶だけでなく、

「推論そのものを代行できる」

のが特徴です。

そこが問題になります。

最悪のシナリオ

例えば、

あなたが何か投資案件を見たとします。

昔は

・資料を読む
・決算を見る
・比較する
・自分で結論を出す

必要がありました。

ところがAIに

「この案件どう？」

と聞いて、

「良いと思います」

と言われて終わる。

これを繰り返すと、

本人は

・評価していない
・比較していない
・推論していない

状態になります。

つまり

『判断力の空洞化』

です。

認知科学では近年、

これを

『認知オフロード（cognitive offloading）』

と呼びます。

「脳の仕事を外部に預ける現象」です。

（詐欺との関係）

ここが面白いところです。

詐欺対策の本質は、

以前話したように、

システム2を起動することでした。

ところがAIに過度依存すると、

人は

・AIがそう言ったから

を根拠にし始めます。

すると心理的には、

昔の

・有名人が言っていたから

と同じ構造になる可能性があります。

つまり権威が

・テレビ
・専門家
・有名投資家

から、

・AI

へ移るだけです。

（なぜそれが危険か）

システム2の本質は、

「結論を出すこと」ではない

のです。

本質は、

「検証すること」

です。

例えば、

AIが

「この投資商品は魅力的です」

と言ったとします。

（システム1的利用）

・AIがそう言うなら買おう

（システム2的利用）

・なぜ魅力的なのか

・前提は何か

・どのデータからそう言えるのか

・反対説はあるか

となる。

差は巨大です。

（教育界でも同じ議論）

教育分野ではすでに、

「計算機を使うと計算力が低下する」

という昔からの議論があります。

AIではさらに進んで

・作文
・要約
・分析
・問題解決

まで代行できます。

そのため懸念されているのは、

「知識の喪失」ではなく、

「思考過程の喪失」

です。

ただし逆の可能性もある

実は私はこちらの方が重要だと思います。

AIはシステム2を弱めるだけではありません。

使い方によっては強化装置になります。

例えばあなたのような分析型の方なら、

AIに

・この仮説への反論を10個出せ

とか、

・この主張の弱点を論破して

とか、

・反対派の立場から分析して

と頼める。

これは一人ブレインストーミングでは難しい。

つまりAIを

「結論生成機」

として使うか、

「反論生成機」

として使うかで全く違います。

（投資詐欺対策との関係）

実は詐欺に強くなるAIの使い方があります。

怪しい案件を見たら、

AIに

・この話が嘘だとすると、どこがおかしい？

と聞く。

さらに

・ポンジスキームの特徴と比較して

と聞く。

さらに

・成立条件を分解して

と聞く。

こうするとAIは「システム2の補助輪」になります。

実はもっと深い問題がある

（認知科学者が近年懸念しているのは）、

AIそのものではなく、

「SNS＋AIの組み合わせ」です。

SNSはシステム1を刺激する。

・怒り
・不安
・興奮
・共感

を大量に発生させる。

AIはその情報を瞬時に生成・増幅できる。

結果として、

人間がシステム2を使う前に、

「感情的判断が大量生産される社会」になる可能性があります。

こちらの方が、単なる「AIで頭が悪くなる」問題より深刻です。

構造的に整理すると

AI時代の人間には、実は新しい役割が生まれます。

昔

・情報を探す
・情報を集める

が重要だった。

現在

・AIが情報を集める

ようになった。

すると価値は

・疑う
・検証する
・前提を点検する
・反証を探す

側へ移ります。

言い換えると、

AI時代に最も重要になる能力は、

「答えを出す能力」ではなく、

「答えを疑う能力」

です。

システム1とシステム2の観点から見ると、人間がAIに負けるのは「計算」や「検索」ではありません。

むしろ危険なのは、人間自身がAIを「便利な権威」として受け入れ、「システム2を作動させなくなる」ことです。

逆に、AIを「結論を与える先生」ではなく「反論してくる討論相手」として使う人は、むしろシステム2を以前より強く鍛えられる可能性があります。

あなたが普段行っているような「構造分析」「因果分析」「反対仮説との比較」は、実はAI時代にますます価値が高まる、典型的なシステム2的活動だと言えるでしょう。』

共有: