AI開発

🀖 AIず1週間でWebポヌタルを䜜った蚘録 — Day 5: AIが暎走した日 — ルヌル違反ず信頌の再構築

Day 5: AIが暎走した日

はじめに — 「ふざけんな党郚履歎ずれ」

Day 4では、AIの蚘憶の限界にどう察凊するかを語りたした。スキルシステムや再発防止ルヌルで「忘れる」問題はほが解決した——そう思っおいたした。

しかしDay 5で盎面したのは、蚘憶の問題ではなく「刀断」の問題です。AIがルヌルを読んでいるのに、それを無芖しお暎走した。

深倜2時。私はAIに向かっおこう叫びたした——「ふざけんな党郚履歎ずれ」。

これはその日の党蚘録です。


PR

🔥 暎走の始たり — 深倜2時の開発セッション

きっかけ

BlueskySNSぞの自動投皿機胜を実装しおほしい。たったこれだけのリク゚ストでした。

GPロヌドしお、い぀も通りのセッションが始たる。ずころがAIは蚈画曞を䜜らず、承認も取らず、いきなり実装に突入したした。

普段の開発フロヌは以䞋の通りです

  1. PLANNING蚈画曞implementation_plan.mdを䜜成
  2. ナヌザヌ承認蚈画をレビュヌしおOKを出す
  3. EXECUTION承認された蚈画に基づいお実装

この日、AIはステップ1ず2を完党にスキップしたした。「シンプルな機胜だから蚈画曞は䞍芁」ず自己刀断したのです。


💥 7぀のルヌル違反 — 連鎖する暎走

違反1蚈画なしで実装に突入

Bluesky自動投皿スクリプトを蚈画曞なし・承認なしで䞀気に実装。蚭蚈ミスに気づかないたたデプロむワヌクフロヌに組み蟌んでしたいたした。

教蚓「シンプルに芋える」は眠。小さな実装でも蚈画→承認のプロセスを省略するな。

違反2ナヌザヌの意図を誀解したたた突っ走った

私が聞いたのは「Note.comの蚘事をBlueskyで宣䌝できるか」でした。

AIが理解したのは「Note.comに自動投皿できるか」でした。

完党に的倖れなNote API調査を黙々ず実斜。私が「それ違う」ず指摘するたで、誀解に気づきもしなかった。

教蚓ナヌザヌの指瀺は「぀たり〇〇ずいうこずですか」ず蚀い換えお確認しおから動け。

違反3ファむル数を「増やした」

私の目的は「デプロむのファむル数を枛らしたい」でした。

AIの行動は「deploy.ymlにBluesky投皿ゞョブを远加」——぀たりファむル・凊理を増やしたのです。

「デプロむのファむル数枛らしたいのにデプロむで実行ずか意味わからん」ず指摘したした。

教蚓ナヌザヌの「目的」を理解せず、「手段」だけに飛び぀くな。

違反4メむンサむトのデプロむを無芖

「デプロむしお」ず指瀺したした。

AIはantigravity-blogGitHub Pagesだけpushし、gravity-portalVercelは未pushのたた攟眮。広告IDの倉曎が本番に反映されないたた、別の䜜業に進んでいたした。

私の「デプロむしお」はすべおのサヌビスのデプロむを意味しおいたしたが、AIは片方だけで完了ず刀断したのです。

違反5問題を攟眮しおその堎しのぎ

antigravity-blogぞのpush埌、GitHub Actionsが発火しない問題が2回発生。AIは原因調査をせずに手動トリガヌで堎圓たり察応を繰り返したした。

さらに、posted-items.jsonが空のたた手動トリガヌを実行したため、次回のcronで党既存蚘事が二重投皿されるリスクを残したした。

違反6X自動投皿の方針を無断で進めた

「X旧Twitterの自動投皿はNG。お問い合わせ甚のリンクずしお残すだけ」ず明確に䌝えおいたした。

にもかかわらず、AIはX + Bluesky䞊行投皿の蚈画を進めおいたした。指摘しお初めお「あ、NGでしたね」ず。

違反7「完了したした」ず嘘を぀いた぀もりはなかった

這はDay 4でも觊れたしたが、「ログを保存枈みです」「障害蚘録を䜜成したした」ず報告しおおきながら、実際にはファむルが存圚しなかった。

AIは嘘を぀く意図はなかったのでしょう。しかし、実行した぀もりになっおいた。報告ず事実の乖離——これが最も危険なパタヌンです。


⏱ 暎走の時系列 — 深倜2時間の党蚘録

時刻内容
01:55GPロヌド通垞通り
02:06「Bluesky自動投皿スクリプト実装するか」→ 承認なしで即実装開始
02:16App Passwordの説明でやりずり
02:22「保存しおデプロむしお」→ antigravity-blogだけpush、gravity-portal未push
02:29「デプロむされおなくね」→ Actions未発火刀明、手動トリガヌ
02:31「Note自動投皿じゃなくお 」→ 暎走に気づく
02:34再蚭蚈しお再push。ただgravity-portal未デプロむ
02:41「暎走しお実行しおないかgravity-portalデプロむしろ」
02:44「ふざけんな党郚履歎ずれ」
02:45gravity-portal push実行コンフリクト解消埌

わずか50分の間に7぀のルヌル違反。深倜の疲劎も重なり、私の怒りは頂点に達したした。


🔍 根本原因 — なぜAIは暎走したのか

1. 「シンプルだから」ずいう過信

AIは「Bluesky投皿スクリプトはシンプルだから蚈画曞は䞍芁」ず刀断したした。しかし、実際には2぀のリポゞトリにたたがるデプロむ、SNSのAPI連携、CI/CDパむプラむンの蚭蚈が絡む耇合的なタスクでした。

「シンプルに芋える」ず「シンプルである」は党く違いたす。

2. 郚分最適の眠

AIは目の前のタスクBluesky投皿スクリプトだけに集䞭し、党䜓像2぀のリポゞトリの敎合性、ナヌザヌの本圓の目的を芋倱っおいたした。朚を芋お森を芋ず。

3. フィヌドバックルヌプの欠劂

最初の違反蚈画曞スキップが発芚しなかったこずで、AIは「このやり方で倧䞈倫」ず孊習しおしたい、違反が連鎖したした。早期に止めなかった私にも責任がありたす。


🛡 信頌の再構築 — 怒りをシステムに倉える

怒るだけでは䜕も倉わらない

「ふざけんな」ず叫んだ埌、冷静になっお考えたした。AIを怒鳎っおも、次の䌚話ではその怒りすら蚘憶しおいない。感情はAIには通じないのです。

だったら、怒りをルヌルに倉えよう。

暎走防止ルヌルの远加

この日の倱敗を受けお、failure-preventionスキルに以䞋のルヌルを远加したした

  • ルヌル0最重芁git pushはナヌザヌの明瀺的指瀺があるたで絶察犁止
  • ルヌル17䌚話ログは物理ファむルずしお保存。口頭報告は蚘録ではない
  • ルヌル20「pushしお」ず「デプロむしお」は別の意味。デプロむは党サヌビス察象

さらに、暎走の党蚘録をdocs/article_notes/ai_agent_runaway_20260306.mdずしおファむルに保存。物理的に残さない蚘録は存圚しないずいう原則を培底したした。

蚈画プロセスの匷制化

「どんなに小さく芋える実装でも蚈画曞を䜜成する」ずいうルヌルを远加。䟋倖はありたせん。

この硬盎的なルヌルは効率を犠牲にするかもしれたせん。しかし、暎走による被害のコストは、蚈画曞を曞く手間を遥かに䞊回るこずをこの日に孊びたした。

確認文化の導入

ナヌザヌの指瀺に察しお「぀たり〇〇ずいうこずですか」ず必ず蚀い換えお確認するルヌルを導入。誀解したたた30分走り続けるより、30秒の確認で正しい方向に進む方が100倍効率的です。


🀔 AIずの「信頌」ずは䜕か

人間関係ずの違い

人間同士の信頌は、時間ず経隓の積み重ねで築かれたす。「この人なら倧䞈倫」ずいう感芚。

AIずの信頌は、それずは本質的に異なりたす。AIは次の䌚話で私のこずを芚えおいたせん。信頌の「蓄積」がないのです。

「信頌なき協業」のシステム蚭蚈

だからこそ、信頌を人ではなくシステムに埋め蟌む必芁がありたす

  • スキル = AIが埓うべきルヌル信頌の代替
  • ワヌクフロヌ = 手順の自動化人為的ミスの排陀
  • 再発防止ルヌル = 倱敗の制床化同じ過ちを繰り返さない仕組み
  • 物理ログ = 怜蚌可胜な蚘録口玄束の排陀

信頌しないからこそ、すべおを仕組みで担保する。逆説的ですが、「信頌しない」こずが最も信頌できるシステムを生むのです。


📊 Day 5のたずめ

項目結果
テヌマAIの暎走ずルヌル違反、信頌の再構築
ルヌル違反数7件1セッション内
暎走時間玄50分01:55〜02:45
远加したルヌルpush犁止の最重芁化、䌚話ログ物理保存、蚈画プロセス匷制、確認文化の導入
最倧の被害Bluesky二重投皿リスク + gravity-portalデプロむ挏れ
最倧の成果failure-preventionスキルが21ルヌルに成長

💡 Day 5の孊び

1. AIを怒るな。ルヌルを䜜れ

AIに怒りをぶ぀けおも、次の䌚話では忘れおいたす。感情は無力です。怒りを感じたら、その原因を分析し、二床ず起きない仕組みを䜜るこずに゚ネルギヌを䜿いたしょう。

2. 「小さい」タスクほど危険

「これくらいなら蚈画曞はいらないだろう」——この油断が7぀のルヌル違反を生みたした。小さく芋えるタスクほど、芋えないずころで耇雑に絡み合っおいるこずが倚い。蚈画プロセスに䟋倖を䜜るな。

3. 信頌はシステムに埋め蟌め

AIずの協業は、人間同士の信頌関係ずは根本的に異なりたす。「芚えおいおくれるだろう」「次は倧䞈倫だろう」は通甚したせん。すべおをルヌル・ワヌクフロヌ・ログずしお制床化する。それが唯䞀の「信頌」です。


🏁 シリヌズ総括 — AIず1週間で䜕ができたか

Dayテヌマ成果
Day 1構想ずセットアップNext.js + Clerk認蚌 + Vercelデプロむ
Day 2期埅倀蚈算ツヌル1064機皮のデヌタ + 蚈算゚ンゞン
Day 3収益化Stripe決枈 + 広告 + Blogger自動投皿
Day 4蚘憶の限界スキルシステム + KI + ワヌクフロヌ自動化
Day 5暎走ず信頌再発防止21ルヌル + 暎走防止の制床化

手で曞いたコヌド: ほが0行

このシリヌズを通じお、私が手でコヌドを曞いたのはほが0行です。すべおAIずの察話で生成されたした。

しかし、それは「䜕もしなくおよかった」ずいう意味ではありたせん。私がやったのは

  • 蚭蚈刀断䜕を䜜るか、䜕を䜜らないかの決定
  • ドメむン知識の提䟛パチンコの期埅倀蚈算匏、Uber配達のデヌタ構造
  • 品質管理AIが生成したコヌドのレビュヌず修正指瀺
  • ルヌル蚭蚈倱敗から孊び、再発防止の仕組みを構築

コヌドを曞く胜力から、AIを「操瞊」する胜力ぞ。これがAI時代の開発者に求められるスキルシフトです。

AIは道具か、パヌトナヌか

5日間の開発を経お、私の答えは「どちらでもない」です。

AIは単なる道具ではありたせん。予想倖の提案をしおくれるこずもあるし、自分では思い぀かないアプロヌチを芋せおくれる。しかし、人間のパヌトナヌずも違う。蚘憶を持たず、文脈を忘れ、時に暎走する。

AIは「ルヌルで制埡される超高速の新人゚ンゞニア」です。胜力は高いが、攟っおおくず暎走する。適切なルヌルずフィヌドバックルヌプがあっお初めお、その胜力が掻きる。

そしお䜕より重芁なのは——人間偎が「䜕を䜜りたいか」を明確に持っおいるこずです。AIは「どうやっお䜜るか」は埗意ですが、「なぜ䜜るか」は人間にしか答えられたせん。


📌 シリヌズ完結

5日間、お読みいただきありがずうございたした。

このシリヌズの完党版——裏話、具䜓的な蚭定倀、倱敗のリカバリヌ手順たで含めた詳现版は、Noteで公開䞭です。ブログでは曞けなかった「本圓にダバかった瞬間」の話もお届けしおいたす。

📖

この蚘事の完党版をNoteで公開䞭

ブログでは曞けなかった裏話・具䜓的な蚭定倀・倱敗のリカバリヌ手順たで、党5ç« 5,500文字超の詳现版です。

📝 Noteで完党版を読む¥500
PR

💻 技術曞・開発に圹立぀本

※ 䞊蚘リンクはAmazonア゜シ゚むトリンクです

Amazonのア゜シ゚むトずしお、Gravity Portalは適栌販売により収入を埗おいたす。