blog.tinect.jp
上掲リンク先で、AIと付き合う際に決して忘れてはならないことを書いた。AIが進歩したからといって判断を丸投げしてはいけない。判断の主体性や責任性はこれからも人間が引き受けなければならないし、AIが普及すればするほど、AIに問いを立てる能力、ひいてはリテラシーが求められるのは避けられない。
しかし現実には、AIに判断を丸投げしたがる人はいようし、丸投げするしかない人、丸投げするのがコスパの良いこととみる人もいるだろう。「人間はもっと無責任な動物だ」「今までのネット社会だって、リテラシーが欠如しまくっていたじゃないか」という声も聞こえてきそうだ。
もっともな指摘だ。だけど、AIの進歩は人間にますます高い能力を要求するようになり、人間側がそれについていけるかどうかに関係なく社会に定着するだろう。たくさんの人間を置いてけぼりにするようにAIが進歩し続けたら社会がどうなるのかについて、少しだけ書いてみたいと思う。
１．AIが進歩しても、人間がますます厳しく問われるだけ
まず、AIの能力が向上したらすべて丸投げして大丈夫か、について。
大事なことなので、これは何度書いてもいいことだと思いますが、「AIがファクトチェックする」のでなく「AIを人間がファクトチェックする」んですよ？ 「AIを使えばファクトチェックできる」と思っている人は、根本のところで誰が判断の主体なのかを勘違いしていると思います。
— p_shirokuma(熊代亨) (@twit_shirokuma) 2025年5月18日
上のポストに対して、「AIが人間よりも多くのことを調べてくれる」「進歩したAIは人間の専門家の判断を上回るようになる」といったコメントがいくつか寄せられた。AIの能力が向上すれば人間が判断しなくても良い・AIに任せておけば良い、といった意見はけっこう多い。
でも、AIがどんなに優れたツールになったとしても、そのツールを使いこなす、またはそのツールに振り回されるのは人間自身だ。
ファンタジーRPG風に喩えるなら、AIは「強力な魔導書」みたいなものだと思う。色々なことができるし、ユーザーにさまざまな恩恵を与えてくれる。しかしファンタジーRPGの世界では、力量不足の魔術師が強力な魔導書に振り回されて破滅する話がひとつの定番になっている。ツールの力が強くなればなるほど、それを使いこなすユーザー自身の力量が厳しく問われるーーそれは、ファンタジーRPGでも現実社会でも同じではないだろうか。
AIがますます進歩していくのは既定路線だろうし、やがて、その能力が専門家に匹敵する日も来るだろう。だからといって、ユーザー側が力量を問われなくなる、なんならユーザー側が主体性や責任性を手放せるようになるかと言ったら、そんなことはあるまい。むしろ逆だろう？ AIが進歩すればするほど、人間の判断力やリテラシーがますます厳しく問われるようになり、主体性や責任性もますます厳しく問われるようになるだけだ。
AIというツールの下僕に成り下がるなら、こうしたことは考えなくて構わないのかもしれない。だがツールの使い手としてAIと対峙する限りにおいて、AIの進歩は人間にますます多くのことを要求するようになる。google検索が普及した時にも、SNSが普及した時にも言えたことだが、秀逸な情報ツールは人間の判断力やリテラシーや主体性を試す部分があり、げんに私たちは試されてきた。その結果、ある種の人々はgoogle検索にもSNSにも敗北し、乗っ取られ、たとえばだが、コピペ兵に成り下がってきた。
ますます賢くなったAIが遍在するようになった近未来社会において、私たちがAIの主人ではなくAIの下僕、またはコピペ兵に成り下がってしまう蓋然性は高い。そのとき私たちに問われるのは、AIの性能の良し悪し以上に、主体としての人間の力量や判断力、たぶん、リテラシーやメンタリティなども含めた総合力になるだろう。政治家が自分よりも専門分野に詳しいブレーンたちを使いこなせるかどうか問われるのと同じように、私たちは、知識や検索能力や出力性能で上回っているAIをうまく使いこなせるかどうか問われるようになる。
２．でも大半の人間がAIを使いこなせないとしたら？
しかし実際にはAIをチェックできる人ばかりではなく、それに頼るほかない人がいる、という指摘もある。
現時点で「AIは道具であって、判断主体ではない」というのは正しい。けれど、判断力のない人が多い社会では、「AIに判断させる方がマシ」という現実もあります。AIをチェックできる層と、それに頼る層。両方が必要になるフェーズに、僕らはいるのだと思います。 https://t.co/VPpkv2nFHU
— Tsubame (@Tsubame33785667) 2025年5月18日
今、AIを使いこなせているつもりの人も、数年後には使いこなせなくなり、AIとの主従関係が逆転してしまうかもしれない。そうなったら、人間はAIの家畜になるのだろうか？
「これは、人間の主体性の危機だ」と私なら思うが、そう思っていない人も多かろうし、AIに判断や主体性や責任性を投げてしまいたい人も少なくないだろう。そうした願望も含めて、すでに人間はAIというツールに負け始めている。
いや、これはAIに限ったことではないか。たくさんの人々が、google検索というツールにもSNSというツールにもインターネット環境というツールにも負け続けてきた。高度化する一方の情報化社会とそのツールは、すでに判断主体としての人間の能力を上回るほど複雑化・巨大化している。その、複雑化し過ぎて高度化しすぎてしまった情報環境に人間すべてがついていける・使いこなせると思うほうが間違っているのではないか。
アムロ「人間の知恵はそんなもんだって乗り越えられる！」
シャア「ならば、今すぐ愚民どもすべてに英知を授けてみせろ！」
(『機動戦士ガンダム逆襲のシャア』より)
私は、社会やテクノロジーの進歩が人間の能力を上回りはじめ、いよいよ人間がついていけなくなる様子について『人間はどこまで家畜か 現代人の精神構造 (ハヤカワ新書)』という本にまとめたことがある。人間は、みずからの生物学的制約をこえて生きることはできない。ところが社会やテクノロジーはそうした人間側の事情などお構いなしに進歩していく。そうした、人間を凌駕しはじめた社会やテクノロジーによって私たちは大きな恩恵を受けている*1から進歩を否定し過ぎるわけにはいかない。しかし、その進歩についていけない人間がさまざまなかたちで表面化し、現代社会ならではの生きづらさをなしているのも、また事実だ。
私は精神科医だから、そうした個々の現代人の生きづらさを意識しがちだ。だが、社会の側から見るなら、この事態は社会やテクノロジーの進歩についていけていない構成員の増加、進歩し続ける情報化社会に妥当しない構成員の増加という風に捉えられる。それは社会自身にとっても本当は困ること、もっと言ってしまえば、社会の成立基盤を動揺させるような事態なんじゃないだろうか。
たとえばSNSという情報環境を思い出してみてもらいたい。人間はちゃんとSNSを使いこなせているだろうか？ 使いこなせていない人も多いでしょう？ 今日のSNSには、インフルエンサーやアジテーターに"ゴーストダビング"されてコピペ兵に成り下がる人なんていくらでもいるし、そうした人々が寄り集まってマスボリュームと影響力を持つことで新しい問題が起こるようになっている。
SNSという、本当は高度なリテラシーや判断力が期待されるツールが普及した一方で、人間側がそれについていけない事態が多発することで、SNSは便所の落書きで埋め尽くされたバベルの塔と化してしまった。これは、「進歩しつづける社会とテクノロジー」という観点から見て不十分にしか予測できていなかった事態であり、社会とテクノロジーの進歩に人間側がついていけないために生じた汚点だ。
こうしたことは、AIの普及に際しても起こるだろう、というかたぶん起こり始めている。それは、ユーザーそれぞれの社会適応上の問題であると同時に、進歩し続ける社会の側が人間側の制約によって足を引っ張られている事態、なんなら退歩に転じるかもしれない事態でもある。多くの人間がAIを使いこなせない事態は個人それぞれにとって生きづらいだけでなく、社会の側にとっても結構キツい状況であるはずで、問題意識をもって眺められるべきものじゃないだろうか。
３．社会と人間との間の約束事が果たされなくなったら
「それなら、せっかくAIが進歩し続けているのだからAIに判断を任せてしまえばいいじゃないか」、と考える人もいるかもしれない。ところが現代社会の建て付けとして、それはNGなんですよ。
たとえば民主主義や国民主権といった、まさに現代社会の建て付けに相当する概念を思い出していただきたい。
市民社会の市民や民主主義国の有権者は、どちらも自由意志に基づいて主体的に判断する個人であるべきで、それが統治システムの大前提となっている。判断の主体は、王侯貴族や独裁者であってはならないし、AIであってもいけないだろう。「個人が自由意志に基づいて主体的に判断する」とは、近代以降の社会の根幹にある、社会と人間の間の大事な約束事だ。
だから近代以降の市民社会において、個人は自由に判断することができると同時に、判断できる個人でなければならない。
ところがテクノロジーや情報環境があまりにも進歩し過ぎた結果、「個人が自由意志に基づいて主体的に判断する」という社会と人間との間の約束事がだんだん怪しくなってきた。AIの性能がどんどん高くなって、そのAIに判断や主体性や責任性を委ねたいという声が高まってくれば、その約束事はいよいよ怪しくなり、実際、果たされなくもなるだろう。じゃ、社会と人間の間の約束事をやめてしまったらどうなるか？
そうなってしまったら、人間はもう判断の主体でなくなり、AIが判断の主体となる。人間の代わりにAIが判断し、主体性や責任性を引き受けることになる。判断しなくて済む、責任を引き受けなくて済む、というと気楽に聞こえるかもしれないが、そのとき人間は自由を剥奪されるだろう。
人間の自由と、人間が判断や主体性や責任を引き受けることは常に表裏一体である。後者を放擲して前者が保障される見込みはない。
AIの進歩に対する危機感にはいろいろなバリエーションがあろうけれども、私個人は、こういう人文学的な心配もあると思っている。というか、これってかなり重要な山ではないか？ AIの進歩は止まらないし、社会の進歩も止まらない。それはまあいいだろう。しかし、社会の進歩についていけない個人が増え続け、社会と人間の間にあったはずの約束事が果たされなくなり、判断や主体性や責任性をAIに押し付け続ければ、やがて現代社会の建て付けが成立しなくなるだろう。そのとき、民主主義や国民主権といった社会の大前提が決壊する。
AIが社会を破壊するのに、『ターミネーター』に登場するような殺戮マシンは必要ない。ただ人間がAIについていけなくなり、AIに多くのことを委ねるようになり、委ねて構わないという気分が蔓延するだけで社会は破壊されるだろう。控えめに言っても、民主主義や国民主権に根差した社会は破壊されるし、そうなれば人間の権利は毀損され、たとえば日本国憲法の根っこにある考え方も成立困難になるだろう。
してみれば、市民社会を滅ぼす主犯人は、案外、「@ grok ファクトチェック」で済ませてしまうような怠惰さかもしれない。それはそれでSFっぽさのある未来かもしれない、と個人的には思う。でも、そんな怠惰な滅びを座して待っていたくないなら、もっと議論が必要だろう。
*1:たとえばこうして距離的制約を越えてメッセージを授受できるのは恩恵の最たるものだ
