AIの合理性と人間の非合理性：失われゆく「失敗する自由」
現代社会ではAIの進化が目覚ましく、私たちの生活に深く浸透しつつあります。その合理的な分析とアドバイスは、時に人間の選択に強い「圧力」をかけます。しかし、この圧力に逆らい、自身の主体性を保ち続けることは、多くの人にとって非常に難しい課題です。
AIがもたらす「合理性の圧力」とは？
私たちがAIの分析やアドバイスを無視する、あるいは無視できないと感じる背景には、いくつかの要因があります。
1. 「問い」を抑え込むAIの力
AIが提示する「最適解」は、時に唯一の正解であるかのように感じられます。
- 結果の一意性: ダッシュボードなどに数値で示される最適解は、それ以外の選択肢を模索するコストを大幅に増加させます。タスクが難しくなるほど、人はAIのアドバイスを優先する傾向が実験で示されています。
- 責任の転嫁: AIの推奨に従って失敗した場合、「モデルのせい」にできるため、逸脱するインセンティブが減少します。
- 不可視のナッジ: AIによる推奨がUIに目に見えない形で組み込まれることで、人は反発（リアクタンス）を感じにくくなります。
2. 「疑う少数派」は常に少ない
歴史を振り返ると、計算尺から電卓へ、紙地図からGPSへと道具が「確定値」を返すたびに、多くの人々はそれに依存していきました。AIは、この傾向をさらに加速させています。「人に聞くよりもアルゴリズムの方が信頼される」という実験結果も報告されており、多くの人々がAIの合理性に身を委ねる流れは止まらないでしょう。
3. 「外部化」のコスト
AIによる合理的知性の「外部器官」化は、人間の能力に潜在的なコストをもたらします。
- 記憶: チャットボットでの即時検索が可能になることで、記憶を保持する動機が低下し、記憶力の減退が報告されています。
- 判断: リアルタイムの推奨に頼ることで、誤差分布を体感しにくくなり、非典型的なケースでの失敗率が上がる可能性があります。
- 倫理: 「数値が良いから採用」といった判断は、説明責任を希薄化させ、意図しない差別を温存する懸念も指摘されています。
人間らしい「非合理な選択」は淘汰されるのか？
イーロン・マスク氏やレイ・カーツワイル氏が提唱するように、将来的には人間の脳とハードウェアが融合する可能性も指摘されています。これが進めば、私たちが経験してきた「理不尽な選択」や「失敗」は、合理性の名のもとに排除されていくのでしょうか？
1. 合理性の拡張がもたらす変化
BCI（ブレイン・コンピューター・インターフェース）などの技術が進めば、記憶や判断、さらには動機形成までが外部チップやクラウドによって補助されるようになるかもしれません。これにより、「忘れる理由」が激減し、リスク最小の行動が即座に提示されるようになるでしょう。しかし、これは「何を1と数えるか」「そもそも足し算が目的か」といった、文脈依存的な人間の思考を完全に置き換えるものではありません。
2. 歴史的に「非合理」は絶滅しなかった
電卓やGPS、自動運転といったテクノロジーが進化しても、人間は逸脱（ドリフト）を続けてきました。これは、「自由を脅かされた」と感じることで起こる心理的リアクタンス、つまり推奨とはあえて逆を選ぶ行為が、自己の主体性を再確認する手段として機能するためです。BCIが計算ミスや衝動的な欲求を抑制できたとしても、価値観や美学の衝突は数式化しづらく、そこにこそ「理不尽さ」が宿ると考えられます。
3. 「予定されたエラー」としての少数派
多くの人が最適化されたAIの推奨に従う中で、合理的な判断から逸脱する人々は「予定されたエラー」として扱われる可能性が高まります。企業や政府がリスク最小化を追求するにつれて、逸脱は期待値を下げるノイズと見なされ、その選択に伴う損失は「自己負担」として扱われるようになるかもしれません。これにより、少数派が「失敗できる場」は物理的にも経済的にも縮小していくでしょう。
「人間らしい失敗」を奪われることへの懸念
「人間らしい非合理、すなわち失敗や迂回、衝動が淘汰されていく」という問題は、現在のBCIや生成AIの研究において「主体性の希薄化」として最も活発に議論されている論点の一つです。
1. 学習の深度と均質化
モデルが示す一本道を進む経験は共有しやすいものの、それが血肉となるような深い学習にはつながりにくい可能性があります。失敗を自分で引き受ける実感が薄れれば、「なぜそうしたか」を語れなくなるかもしれません。
2. 少数派インフラの縮小
逸脱を支えるコミュニティや制度が維持困難になることは、文化的多様性の喪失リスクと直結します。
3. 「許容できない」と「実際に排除できるか」は別
社会は、医療や生活のような社会基盤において生存確率を下げる選択を許容できないでしょう。医薬品、交通、建築など、第三者への被害が大きい分野では、「最低限の合理性」が法で義務化されています。
しかし、成人による治療拒否や野営生活のように、統計的に生存率を下げても合憲とされる判例は存在します。クレジットカードも使わない生活を送る人々もおり、共同体が納得する限り、そうした選択は尊重される傾向にあります。
これは、コストを理由に主流インフラから締め出すことは容易でも、完全排除には監視と強制力の維持コストが跳ね上がり、民主社会では正当化が難しいという側面があるためです。結果として、「生存確率を下げても自前で責任を取る少数派」は、技術主流社会の片隅で今後も細々と残存する公算が大きいでしょう。ただし、その生活はますます孤立し、高コスト化が避けられないものとなるかもしれません。
非合理の余白
合理性を全面的に取り込みながら、「どこに非合理の余白を残せるか」。
AIやBCIが標準化するほど、「失敗しやすい非合理な選択」は物理的にも経済的にも狭い島になっていくでしょう。しかし、どんなにモデルが網羅的になっても、価値の衝突、リアクタンス、外部からのショックといった「収まらない揺れ」は形を変えて表れ続けると見る研究が主流です。
その揺れを「予定外」として排除するのか、それとも「人間らしさ」として保守するのか。まさに今、私たちはこの規範とインフラを設計する岐路に立たされています。