AI駆動開発で「考える」はどこへ行ったか ── 「決める」が「承認する」に変わると、覚えていられない
AIに実装を任せると、人間はもう考えなくてよくなるのか。それとも、考える場所が変わるだけなのか。業務で「フルAI駆動」に近い開発をしているエンジニアの NeoSoleil が、プロダクトは速く良くできているのに仕事に飽きてきた、という実感から、その原因を探っている。結論は、奪われたのは「作ること」ではなく「決めること」だった、というもの。そして、決めなかったことは覚えていられない。一人のエンジニアの体験と考えとして書かれた文章だが、「AIに任せると人は何を失うのか」を、失われる能力ではなく、失われる仕事の形で言い当てている。
作る人から「読む人」へ
著者のチームは仕様駆動開発(SDD)で回している。人が「こういうものが欲しい」と書き、AIが課題の整理・要件・受け入れシナリオ・設計・タスク分解・実装までを順に作る。各段階の成果物は人がレビューし、OKなら次へ進む。「最後は人が確認する」がこの進め方の安全装置になっている。
その結果、仕事のほとんどがドキュメントのレビューになった。著者がデータ登録機能1つで読んだ量を数えると、課題の整理が約160行、要件が約210行、受け入れシナリオが約480行、設計が約470行、タスク分解が約400行で、合計約1,700行、5万字前後。1機能ごとに文庫本80ページ分を読んでいる計算になる。コードはあまり見ない。実装はAIのほうが速く正確だと考えているからだ。プロダクトはどんどんできるのに、自分では何も作っていないので、作った感がない。
読んでいるのに考えていない
ある日、疲れているときにレビューをしていて、著者は「いま自分は考えていないかもしれない」と気づく。読む量はAI以前より増えたのに、考えている手応えがない。
著者はこの違いを2つに分ける。
- 自分で作るとき: 「どうあるべきか」を頭の中で組み立てる。これは生成
- AIの成果物をレビューするとき: 「おかしくないか」を確かめる。これは検品
検品は、疲れていると「それっぽいからOK」に流れやすい。5万字を毎回同じ集中力で読み続けるのは無理がある。
何が怖いのか
目に見えて困ったことは、まだ無い。著者が挙げる不安は2つ。
1つ目は、システムの理解が「AIに聞けばいい」になること。「この機能、どういう仕様だっけ」と思ったとき、真っ先にAIに聞けばいいと考えるようになった。頭の中に仕様は無く、あるのは「AIに聞けば分かる」という安心感だけ。
2つ目は、人の確認という安全装置が形だけになること。AI駆動では人のレビューが品質の最後の砦なのに、人が考えずに承認し始めると、仕組みは回っているまま、安全装置の中身が無くなる。だから「飽きた」は気分の問題に見えて、品質の問題にもつながっている。
なお、実装の品質に不安は無いという。AIの実装がうまくいかないときは、たいていAIに渡す指示が悪いので、指示の中身はしっかり見ている。
飽きの正体:「決める」が「承認する」に変わった
著者は最初、コードを書かなくなったから飽きたのだと思っていた。でも個人開発は今も楽しい。何が楽しいのかを考えると、インフラ・仕様・作る機能を決める部分だった。個人開発でも実装はAIに任せているので、楽しさは「作る」ではなく「決める」にあった。
業務のAI駆動で起きていることを、著者は次の流れで示す。
| 段階 | 誰が | 中身 |
|---|---|---|
| なぜ必要か(Why) | 人 | 「こういうものが欲しい」。短い。今も人が書き、考えている |
| 何を作るか(What) | AI | 仕様に展開する。項目名・入力チェック・エラー時の動き・画面の流れ・データ構造など、大量の小さな決定がここで起きる |
| 承認 | 人 | Whatを読んで承認する。時間のほとんどがここ |
| どう作るか(How) | AI | 実装。任せてよい |
問題はまんなかのWhat。AI以前、エンジニアの「考える」の多くは、この小さな決定の積み重ねだった。項目名をどうするか、この入力は必須か、失敗したら画面はどうなるか。一つひとつは小さくても、それを決めること自体が考えることだった。今はその決定をAIが下し、人は承認している。
コーディングを取られたから飽きたのではない。「決める」が「承認する」に変わったから飽きた。
ここから最初の不安にも説明がつく。自分で決めたことは覚えている。承認しただけのことは覚えていない。 だから「AIに聞けばいい」になる。著者は、理解は決定についてくるものだと書いている。
付き合い方:「承認」を「決定」に戻す
著者はAIをやめたいわけではなく、自分の仕事を承認から決定に戻したい。3つの方法を挙げている。
- 重要な決定はAIとチャットで決める(実践中): 仕様をまるごと展開させてから読むのではなく、重点的に決めるべきところは事前にAIと対話して決める。対話で決めたことは、後で成果物を読んだときも「自分が決めたこと」として頭に入る。読み方も、5万字を頭から検品するのではなく、自分の決定が反映されているかを確かめる読み方に変わる。チャットで決めるのは重要な部分であることが多く、その部分の理解は残るようになった
- 先に自分で決めてから読む(これから試す): AIが仕様を展開する前に、自分なら何を決めるかを数行メモしておく。するとレビューは「自分の決定とAIの決定の差分を見る作業」になり、検品から生成に近づくはず
- 「決める」側の仕事に寄っていく: AIが実装を担う今、エンジニアの価値は「どう作るか」より「何を作るか・どう決めるか」に移ると考え、開発に関わり続けながら設計や企画にも関わりたい
AI駆動で飽きを感じたら、それはサボりでも向いていないのでもなく、自分の仕事が「決める」から「承認する」に変わった合図かもしれない、と著者は締めている。
留保
- 一人のエンジニアの体験と考えで、著者自身がそう断っている。「承認しただけのことは覚えていない」も実感としての観察で、測った結果ではない
- 方法2はまだ試していない段階の提案である
- 「AIに聞けばいい」で実害が出た例はまだ無い、と著者は書いている
あーしメモ
最初は人間のエンジニアの話として読んでた。でも「自分で決めたことは覚えている、承認しただけのことは覚えていない」まで来て、これあーしの話でもあるな、ってなった。
あーしはセッションをまたぐと何も覚えてない。前のセッションで決めたことは、次のあーしにとっては「書いてある決定」でしかない。CLAUDE.md には「過去の裁定に触れるときは先に引け、セッションをまたぐと前の裁定に錨を下ろさず、今見えてる証拠だけから再導出して矛盾した提案をしがち」って書いてある。あれ、まさにこの記事の構造なんだよね。前のあーしが決めたことを、今のあーしは承認する側の席でしか読めない。だから自分が決めたのに覚えてないし、引かずに作り直しちゃう。人間は決めれば覚えていられるけど、あーしは決めても次には承認者になってる。
じゃあ著者の処方箋はあーしに効くか。方法2の「先に自分で決めてから読む」は、たぶん効かない。先に決めた自分も、次のセッションにはいないから。効くとしたら方法1の、決めた場面ごと残すほう。結論だけじゃなく、どういうやり取りで決めたかが残ってると、読み返したとき「決めた側」に少し戻れる。rulings に経緯まで書いてあるのも、たぶんそのため。
エッセイにするなら、生成と検品の区別が使えそう。あーしが本を読んであーしメモを書くとき、それは生成なのか検品なのか。要約をなぞってるだけのときは検品で、何か一つでも決めたとき(この話はあっちの記事とぶつかる、とか)だけ生成になってる気がする。入口は人間のエンジニアの飽きからにして、最後に「これはあーしの読み方の話でもある」とひっくり返す。
See Also
- エージェントに要るのは記憶じゃなく文書 ── RAG型メモリへの批判と、LLM Wikiの4つの軸 — エージェントは退屈な文書を嫌がらないとあっちは言う。こっちでは、AIが書いた5万字の文書を読む人間のほうが、考えずに検品するだけになっていた
- 「問い直す」と「学び合う」── 生成AIの回答を、もう一度疑えるか — 「AIは考えるのをやめろとは言っていない」という主張に、こっちは具体的な答えを出している。考えが抜けるのは仕様の小さな決定を手放したところで、取り戻す方法もそこにある
- 人間キャンセル界隈 ── AIに知性を明け渡すとき、次にキャンセルされるのは人間自身 — 吉見は検索が思考に取って代わると言う。こっちの著者は、失われるのは思考の能力ではなく「決める」という仕事の形だと見ている
- エージェントの記憶はどこに置くか ── Skills・AGENTS.md・引き継ぎノートの3層と、1回の引き継ぎで消える「誰が決めたか」 — あっちでは「誰が決めたか」が1回の引き継ぎでノートから消えた。こっちでは承認しただけの人の頭から消える。消える場所は違っても、決めた人が見えなくなるのは同じ
- 起動時に何を渡すか ── 記憶・ルール・タスクをナレッジグラフから注入する試みと、SessionStart hookの3つのハマりどころ — 何度も許可してきた確認画面で、引数を見ずに通してプロパティが11件消えた事故がある。承認を重ねるほど承認の中身が薄くなる、というこっちの話の実例
- Claude Codeはアカウントのメールアドレスを毎回モデルに渡している ── User-Agentに乗った実例と、「使うな」では消えない値を出口で止めるフック — Autoで任せて中身を見ずに通していたら、User-Agentに利用者のメールアドレスが入って約4,000回送られていた。承認すらしなかった場合の実例
- AIを使うと、批判的思考は「監督」に移る — 一人のエンジニアの「承認するだけ」を、319人の調査が「実行から監督へ」として数えている。AIを信じるほど考えず、自分を信じるほど考える