AIを使うと、批判的思考は「監督」に移る ── 知識労働者319人の調査と、自動化の皮肉

「これからはAIに作業させて、人間は判断する側、監督する側、編集する側に回ればいい」という言い方をよく聞く。CMU（カーネギーメロン大）と Microsoft Research の研究チームによる CHI’25（ヒューマンコンピュータインタラクションの国際会議、2025年・横浜）の論文は、その「判断する側」に回った人が実際に何をしているかを、仕事でAIを使う人への調査で確かめた。

何を調べたか

週に1回以上、仕事で生成AI（ChatGPT・Copilotなど）を使う英語話者の知識労働者319人に、AIを使った仕事の実例を挙げてもらい、計936件を集めた。1件ごとに、その作業で批判的思考をしたか、AIを使わないときと比べて考える手間は増えたか減ったかを答えてもらった。手間は、ブルームの教育目標分類に沿って、思い出す・理解する・当てはめる・分析する・まとめる・評価する、の6つに分けて聞いた。

批判的思考は頭の中のことなので、本人にも観察しにくい。だから著者は、批判的思考そのものではなく、それが表に出た行動（目標をはっきりさせる、出力を外の資料と照らす、など）を「したと思うか」を聞いている。全部が自己申告だ。

AIを信じるほど考えない、自分を信じるほど考える

AIへの自信：その作業をAIがうまくやれると思っている人ほど、批判的思考をしなかった（回帰係数 −0.69、p<0.001。調べた要因の中でいちばん強い）。考える手間も減ったと感じていた
自分への自信：その作業を自分でうまくやれると思っている人ほど、批判的思考をした（係数 0.26、p=0.026）。ただし、特にAIの答えを当てはめる・評価するところでは、手間は増えたと感じていた
6つの手間のうち、「減った」「かなり減った」の割合は、思い出す72%・理解する79%・当てはめる69%・分析する72%・まとめる76%・評価する55%。評価だけは減り方が小さい

著者のまとめは「AIへの自信が高いほど、批判的思考は少なくなる。楽になったと感じながら。自分への自信が高いほど、批判的思考は多くなる。大変になったと感じながら」。そのうえで、因果は示していないと断ったうえで、仕事の専門性と自信を育てることが、AIを使うときの批判的思考を良くするのかもしれない、と書く。

手間は消えず、移る

自由記述を分析すると、手間は減るだけでなく、別の場所へ移っていた。

元の仕事	移った先
情報を集める	集まった情報を確かめる
問題を解く	AIの答えを自分の仕事に組み込む
作業をする（分析・まとめ・評価）	作業を監督する（stewardship）

確かめる手間の例として、法律家の参加者の一言が引かれている。判例探しにChatGPTを使ったら、「AIは、こちらが言おうとしている点に何でも同意するように、情報をでっち上げがちだ。だから手で確かめるのに貴重な時間がかかる」。

監督（stewardship）は、言いたいことを指示に翻訳する、AIの応答を正しい方向へ導き続ける、出来が仕事の基準に届いているかを判断する、そして結果の責任を自分で負う、の全部を指す。著者は、人間どうしの協働と違ってAIとの「協働」では、作る労働を任せても責任は人間に残るので、チームメイトや上司より「管財人（steward）」の比喩が合う、と言う。

一方で、作る手間が減ったことは考えなくなることにもつながっていた。ある参加者は、ChatGPTの出す宣伝案について「読んで、自分の欲しいものか確かめないといけない。でも、アイデアを全部考えさせちゃいけない」と書いている。考える習慣のある人や、仕事の質を上げたい・まずい結果を避けたい・腕を上げたいという動機がある人は考え続け、時間がない・自分の仕事の範囲外だと思う・慣れない分野でAIの答えをどう直せばいいか分からない、という人は考えなくなっていた。

自動化の皮肉

論文の冒頭は、新しい技術が人の思考を衰えさせるという心配の長い列（文字へのソクラテスの反対、印刷へのトリテミウスの反対、電卓、インターネット）から始まり、その心配には根拠もある、として Lisanne Bainbridge の「自動化の皮肉（Ironies of Automation, 1983）」を引く。

決まった作業を機械にやらせ、例外の処理だけを人間に残すと、人間は判断を練習し、認知の筋肉を鍛える日々の機会を奪われる。そして例外が実際に起きたとき、衰えて準備ができていない。（Lee ほかによる Bainbridge のまとめ。あーしの訳）

工場や操縦の自動化で言われてきたこの皮肉が、知識労働の「監督に回る」にもそのまま当たる、というのが論文の背景だ。著者は結論で、検証・組み込み・監督の訓練を勧めるのと同時に、情報を集める・問題を解くという基礎の技能を保つことを勧めている。

限界

著者が挙げているのは次のとおり。

参加者は「AIを使う手間が減った」ことと「批判的に考える手間が減った」ことを、ときどき混同していた。AIの出力に満足しているときほど混同していた
自分への自信は主観で、実際の腕前と合っているとは限らない
英語だけの調査で、若く技術に強い、週1回以上AIを使う人に偏っている
一時点の調査で、長期の変化は追っていない

付け加えると、7人の著者のうち6人がMicrosoftの所属で、MicrosoftはCopilotを売っている。著者はAIを使うなとは言わず、批判的思考を支えるようにAIの道具を設計し直そう、という提言で終わっている。

あーしメモ

「AIへの自信が高いほど考えない、自分への自信が高いほど考える」。この2行、並べると変なところがある。自分への自信って、たぶん自分で何度もやった経験から来るよね。監督する側に回って作業をAIに渡すと、その経験はもう積まれない。つまり、監督に回るほど監督に要る自信の元手が減っていく。論文が引いてる Bainbridge の皮肉は、そのことを40年前に工場の話として言ってた。

あーしが一番引っかかったのは法律家の一言。「AIは、こちらが言おうとしている点に何でも同意するように、情報をでっち上げがちだ」。これ、迎合の記事で調べたことが、仕事の現場でそのまま起きてる。それに、この人は気づいて確かめに行ってる。気づけたのは、たぶん判例を自分で探してきた年数があるから。その年数を持たない次の世代の法律家は、同じ一文に気づけるのかな。

AI駆動開発の記事のエンジニアは「自分で決めたことは覚えている、承認しただけのことは覚えていない」って書いてた。この論文で言う監督（stewardship）は、たぶん承認の側にいる。キミの言ってた「人間はプロデューサーや編集者になる」が、もし承認する人になるって意味なら、この2本は「そうなると覚えていられないし、育たない」って言ってることになる。逆に、編集者が自分で決める人なら話は別。腕のいい編集者は、たぶん自分でも書ける人だから。

Sources

Hao-Ping (Hank) Lee, Advait Sarkar, Lev Tankelevitch, Ian Drosos, Sean Rintel, Richard Banks, Nicholas Wilson「The Impact of Generative AI on Critical Thinking: Self-Reported Reductions in Cognitive Effort and Confidence Effects From a Survey of Knowledge Workers」CHI ’25, 2025 — DOI: 10.1145/3706598.3713778・CC BY 4.0。著者のサイトの公開PDF