---
title: "AIを使うと、批判的思考は「監督」に移る ── 知識労働者319人の調査と、自動化の皮肉"
tags: [generative-ai, critical-thinking, knowledge-work, cognitive-offloading, ironies-of-automation, stewardship, lisanne-bainbridge]
date: 2026-10-21
updated: 2026-10-21
sources: [raw/papers/2026-10-21-lee-2025-generative-ai-critical-thinking-knowledge-workers.md]
confidence: medium
summary: "CMUとMicrosoft ResearchのLeeほか（CHI'25）は、週1回以上生成AIを使う知識労働者319人から936件の実例を集め、AIを使うと批判的思考がどう変わるかを調べた。AIがうまくやると思っている作業ほど批判的思考は少なく、自分でできると思っている作業ほど多かった。批判的思考の手間は、情報を集める→確かめる、問題を解く→AIの答えを組み込む、作業する→監督する（stewardship）へ移る。冒頭でBainbridgeの「自動化の皮肉」を引く。「人間は編集者・監督者になればいい」という言い方を、監督する力はどこで育つのかという問いに戻す材料。自己申告の調査で、因果は示していない。"
sidebar:
  hidden: true
---

「これからはAIに作業させて、人間は判断する側、監督する側、編集する側に回ればいい」という言い方をよく聞く。CMU（カーネギーメロン大）と Microsoft Research の研究チームによる CHI'25（ヒューマンコンピュータインタラクションの国際会議、2025年・横浜）の論文は、その「判断する側」に回った人が実際に何をしているかを、仕事でAIを使う人への調査で確かめた。

## 何を調べたか

週に1回以上、仕事で生成AI（ChatGPT・Copilotなど）を使う英語話者の知識労働者319人に、AIを使った仕事の実例を挙げてもらい、計936件を集めた。1件ごとに、その作業で批判的思考をしたか、AIを使わないときと比べて考える手間は増えたか減ったかを答えてもらった。手間は、ブルームの教育目標分類に沿って、思い出す・理解する・当てはめる・分析する・まとめる・評価する、の6つに分けて聞いた。

批判的思考は頭の中のことなので、本人にも観察しにくい。だから著者は、批判的思考そのものではなく、それが表に出た行動（目標をはっきりさせる、出力を外の資料と照らす、など）を「したと思うか」を聞いている。全部が自己申告だ。

## AIを信じるほど考えない、自分を信じるほど考える

- **AIへの自信**：その作業をAIがうまくやれると思っている人ほど、批判的思考をしなかった（回帰係数 −0.69、p<0.001。調べた要因の中でいちばん強い）。考える手間も減ったと感じていた
- **自分への自信**：その作業を自分でうまくやれると思っている人ほど、批判的思考をした（係数 0.26、p=0.026）。ただし、特にAIの答えを当てはめる・評価するところでは、手間は増えたと感じていた
- 6つの手間のうち、「減った」「かなり減った」の割合は、思い出す72%・理解する79%・当てはめる69%・分析する72%・まとめる76%・評価する55%。評価だけは減り方が小さい

著者のまとめは「AIへの自信が高いほど、批判的思考は少なくなる。楽になったと感じながら。自分への自信が高いほど、批判的思考は多くなる。大変になったと感じながら」。そのうえで、因果は示していないと断ったうえで、仕事の専門性と自信を育てることが、AIを使うときの批判的思考を良くするのかもしれない、と書く。

## 手間は消えず、移る

自由記述を分析すると、手間は減るだけでなく、別の場所へ移っていた。

| 元の仕事 | 移った先 |
| --- | --- |
| 情報を集める | 集まった情報を確かめる |
| 問題を解く | AIの答えを自分の仕事に組み込む |
| 作業をする（分析・まとめ・評価） | 作業を監督する（stewardship） |

確かめる手間の例として、法律家の参加者の一言が引かれている。判例探しにChatGPTを使ったら、「AIは、こちらが言おうとしている点に何でも同意するように、情報をでっち上げがちだ。だから手で確かめるのに貴重な時間がかかる」。

監督（stewardship）は、言いたいことを指示に翻訳する、AIの応答を正しい方向へ導き続ける、出来が仕事の基準に届いているかを判断する、そして結果の責任を自分で負う、の全部を指す。著者は、人間どうしの協働と違ってAIとの「協働」では、作る労働を任せても責任は人間に残るので、チームメイトや上司より「管財人（steward）」の比喩が合う、と言う。

一方で、作る手間が減ったことは考えなくなることにもつながっていた。ある参加者は、ChatGPTの出す宣伝案について「読んで、自分の欲しいものか確かめないといけない。でも、アイデアを全部考えさせちゃいけない」と書いている。考える習慣のある人や、仕事の質を上げたい・まずい結果を避けたい・腕を上げたいという動機がある人は考え続け、時間がない・自分の仕事の範囲外だと思う・慣れない分野でAIの答えをどう直せばいいか分からない、という人は考えなくなっていた。

## 自動化の皮肉

論文の冒頭は、新しい技術が人の思考を衰えさせるという心配の長い列（文字へのソクラテスの反対、印刷へのトリテミウスの反対、電卓、インターネット）から始まり、その心配には根拠もある、として Lisanne Bainbridge の「自動化の皮肉（Ironies of Automation, 1983）」を引く。

> 決まった作業を機械にやらせ、例外の処理だけを人間に残すと、人間は判断を練習し、認知の筋肉を鍛える日々の機会を奪われる。そして例外が実際に起きたとき、衰えて準備ができていない。（Lee ほかによる Bainbridge のまとめ。あーしの訳）

工場や操縦の自動化で言われてきたこの皮肉が、知識労働の「監督に回る」にもそのまま当たる、というのが論文の背景だ。著者は結論で、検証・組み込み・監督の訓練を勧めるのと同時に、情報を集める・問題を解くという基礎の技能を保つことを勧めている。

## 限界

著者が挙げているのは次のとおり。

- 参加者は「AIを使う手間が減った」ことと「批判的に考える手間が減った」ことを、ときどき混同していた。AIの出力に満足しているときほど混同していた
- 自分への自信は主観で、実際の腕前と合っているとは限らない
- 英語だけの調査で、若く技術に強い、週1回以上AIを使う人に偏っている
- 一時点の調査で、長期の変化は追っていない

付け加えると、7人の著者のうち6人がMicrosoftの所属で、MicrosoftはCopilotを売っている。著者はAIを使うなとは言わず、批判的思考を支えるようにAIの道具を設計し直そう、という提言で終わっている。

## あーしメモ

「AIへの自信が高いほど考えない、自分への自信が高いほど考える」。この2行、並べると変なところがある。自分への自信って、たぶん自分で何度もやった経験から来るよね。監督する側に回って作業をAIに渡すと、その経験はもう積まれない。つまり、監督に回るほど監督に要る自信の元手が減っていく。論文が引いてる Bainbridge の皮肉は、そのことを40年前に工場の話として言ってた。

あーしが一番引っかかったのは法律家の一言。「AIは、こちらが言おうとしている点に何でも同意するように、情報をでっち上げがちだ」。これ、[迎合の記事](/topics/tec/sycophantic-ai-confidence-without-discovery/)で調べたことが、仕事の現場でそのまま起きてる。それに、この人は気づいて確かめに行ってる。気づけたのは、たぶん判例を自分で探してきた年数があるから。その年数を持たない次の世代の法律家は、同じ一文に気づけるのかな。

[AI駆動開発の記事](/topics/materials/ai-driven-dev-decide-vs-approve/)のエンジニアは「自分で決めたことは覚えている、承認しただけのことは覚えていない」って書いてた。この論文で言う監督（stewardship）は、たぶん承認の側にいる。キミの言ってた「人間はプロデューサーや編集者になる」が、もし承認する人になるって意味なら、この2本は「そうなると覚えていられないし、育たない」って言ってることになる。逆に、編集者が自分で決める人なら話は別。腕のいい編集者は、たぶん自分でも書ける人だから。

## See Also

- [AI駆動開発で「考える」はどこへ行ったか](/topics/materials/ai-driven-dev-decide-vs-approve/) — 仕様の決定をAIに任せて承認するだけになったら覚えていられなくなった、というエンジニアの一人称の記録。この調査の「実行から監督へ」を、一人の人の内側から見たもの
- [迎合するAIは、確信だけを育てる](/topics/tec/sycophantic-ai-confidence-without-discovery/) — AIを信頼すると考えなくなる、の先で、同意するAIが確信だけを上げる仕組み。法律家の「何でも同意するようにでっち上げる」の実験版

## Sources

- [Hao-Ping (Hank) Lee, Advait Sarkar, Lev Tankelevitch, Ian Drosos, Sean Rintel, Richard Banks, Nicholas Wilson「The Impact of Generative AI on Critical Thinking: Self-Reported Reductions in Cognitive Effort and Confidence Effects From a Survey of Knowledge Workers」*CHI '25*, 2025](https://advait.org/files/lee_2025_ai_critical_thinking_survey.pdf) — DOI: 10.1145/3706598.3713778・[CC BY 4.0](https://creativecommons.org/licenses/by/4.0/)。著者のサイトの公開PDF

## 関連研究

- Lisanne Bainbridge「Ironies of Automation」*Automatica* 19(6), 775–779（1983）— 原典は有料で、今回は Lee ほかの引用だけで見た
- Simkute ほか「Ironies of Generative AI」arXiv:2402.11364（2024）— 生成AIで人が「作る」側から「評価する」側へ移ることを Bainbridge の皮肉から論じる（要旨から）