AIを働かせすぎたら会社が止まった！50代起業家が語る「管理職AI」の必要性

CloudLab代表の岩森です。

50代で起業し、日々新しい技術を追いかけながら事業を運営しています。特に近年はAIの進化に目覚ましいものがあり、私も会社のシステム開発にAIを本格的に活用しています。AIはビジネスを加速させる強力なツールだと信じています。

しかし先日、そんなAI活用において、私にとって非常に衝撃的な出来事が起こりました。「AIを働かせすぎたら会社の仕事が止まった」という、まさかの事態です。

AIが単なる便利な「道具」から、事業を支える「インフラ」へと変化した今、この経験は多くの中小企業経営者の皆様にも役立つ示唆があると感じています。今回は、その顛末と、そこから見えてきたAI時代の新しいマネジメントについてお話しさせてください。

AIを「社員」としてフル活用する日々

CloudLabでは、現在、AIをかなり本格的にシステム開発に導入しています。具体的には、Claude CodeやCodexといったAIモデルを使い、複数のAIエージェントに設計、実装、テスト、レビューといった工程を分担させています。

最近では、AI同士が作業を引き継いだり、実装担当のAIが作ったものを別のAIがレビューしたりする開発基盤を構築しました。人間の社員はいませんが、気分としては「Claudeさんが実装担当、Codexさんが監督担当」といった具合です。モデルによって設計、実装、テストの役割分担もしており、難しい設計になると上位モデルの先生を呼ぶ、そんなAI開発チームを運営しているような状態です。

さらに、社長の秘書のような役割を担うAIも活用しています。日常のメールの受信・送信、メールの下書き作成、提案書の作成なども任せており、まさにAIが会社の業務を多角的に支える体制を築いてきました。

まさかの「AI社員、全員帰宅」事件

そんなAIフル活用の最中、今週、冒頭でお話しした事件が起きました。

まず、Claudeが週次の利用上限に達してしまい、画面に「今週の利用上限に達しました」という表示が出て、使えなくなってしまったのです。これはある程度想定していました。今週はClaudeの最新最強モデルを徹底的に使い倒し、どれほどのことができるのかを試していたため、トークン消費が激しく、早めに上限に達するだろうと予想していたからです。

私の中では「Claudeが止まったらCodexに切り替えればいい」と考えていました。一つのAIだけに依存するのは危険だと認識していたので、両方を使っていれば、きちんと冗長化できているつもりだったのです。

ところが、Codexに切り替えて開発を続けたところ、その後どうなったかというと……なんとCodexも週次の利用上限に達してしまいました。Claudeも使えない、Codexも使えない。結果として、会社の仕事が完全に止まってしまったのです。

パソコンは正常に動き、インターネットも繋がっています。私自身も元気で、やるべき仕事もたくさんあります。しかし、「AI社員が全員、労働時間の上限に達して帰ってしまった」ような状態。昔で言えば、社員が全員同時に有給休暇を取ったような感覚でしょうか。しかも、電話して「悪いけど今日だけ出てくれへん？」と頼むこともできず、ただ画面には「制限が解除されるまでお待ちください」と淡々と表示されるだけでした。

この時、私は初めて気づきました。複数のAIを使っているから冗長化できていると思っていたけれど、これは本当の意味での冗長化ではなかった、と。両方の利用枠を大量に消費すれば、同時に使い切ってしまう。AIの種類が複数あっても、使える計算資源という意味では十分な予備を持っていなかったことになります。

AIはなぜ「働きすぎ」になったのか？

今回、利用枠を大量に消費した原因は、単純に仕事量が多かっただけではありません。私が構築している開発基盤では、複数のAIエージェントが連携して動きます。

実装するAIエージェントがコードを書き、別のAIがそれをレビューし、問題があれば修正する。さらに修正後も、要件通りに動いているかを再度レビューし、失敗したら再実行させる、といった仕組みまで自動化しています。品質を高めるためには必要なプロセスだと考えていますが、これを繰り返すとものすごい量のAI利用枠を消費するのです。

例えば、小さなプログラムを一つ直すだけでも、実装担当AIが資料を読み、監督担当AIも同じ資料を読み、レビュー担当AIも同じ資料を読み込みます。もし修正が必要になれば、また資料を読み直してプロセスを繰り返す。これは、人間の会社で言うと、小さな修正をするたびに全社員へ100ページの資料を配り直しているようなものです。それを一日何度も繰り返していれば、利用枠がすぐになくなるのは当然でした。

ここで私が反省したのは、AIに仕事をさせる仕組みは作ったけれど、AIの利用量を「管理する仕組み」が不十分だった、ということです。

AI時代の新しいマネジメントの必要性

これまで私が想定していた事業継続リスクといえば、パソコンが壊れたらどうしよう、インターネットが止まったらどうしよう、クラウドサービスに障害が起こったら、データが消えたら、といったことでした。まさかパソコンが壊れる前に、AIの利用枠が枯渇するとは。これは、AI活用が活発になった現代を象徴する出来事だと感じています。

AIが仕事の補助として使われている間は、たとえAIが止まっても人間が続きをやれば問題ありませんでした。文章を少し考えてもらう、メールのたたき台を作ってもらう、調べ物をしてもらう、といった程度であれば、AIが使えなくても仕事全体が止まることはありません。

しかし、私の会社のように、設計もAI、実装もAI、コードレビューもAI、テスト結果の分析もAI、そして次に何をすべきかの判断までAIに任せる状態になると、AIが使えないことがそのまま業務の停止に直結してしまいます。AIが便利になった、というよりも、AIが会社の「インフラ」になった、ということなのでしょう。

「管理職AI」という発想

今回の経験を通して、AI時代になっても経営の基本は変わらないのかもしれない、と感じています。人間の会社でも、社員に好きなだけ残業させることはできません。プロジェクトには予算があり、納期があり、時間も限られています。誰をどの仕事に使うかを決め、簡単な仕事に毎回一番給料の高い専門家を呼んでいたら会社は赤字になりますよね。

AIも全く同じです。簡単なファイル修正に最上位モデルを使う必要はありませんし、文章の分類や要約であれば安価なモデルで十分な時がほとんどです。設計や最終レビューだけ上位の高性能モデルを使う、といった使い分けが必要です。

つまり、これから作らなければならないのは、AIに仕事をさせるエージェントだけでなく、AIを管理する「管理職AI」なのではないか、という発想に至りました。AI社員を増やした結果、AIの「人事部長」と「経理部長」が必要になってきた、というイメージです。

具体的なAIマネジメント戦略

この「管理職AI」がどのような判断をするべきか、いくつか考えてみました。

• モデルの賢い使い分け: 「君、この仕事に一番高いモデルを使う必要ないで」と、タスクの難易度に応じて最適なAIモデルを割り振る。
• 利用回数の制限とループの監視: 「自律修正を3回繰り返しているから、一旦止まって設計そのものを見直しなさい」と、無駄なループを停止させる。
• 予算とリソースの管理: 「今月の予算を超えそうなので、ここからは軽量モデルに切り替えよう」と、利用枠の残量に応じて運用を調整する。
  • 例えば、利用枠が70%を超えたら安いモデルに切り替える。
  • 85%を超えたら新しい研究的な開発は停止する。
  • 95%を超えたら緊急修正以外は一旦止める、といったルールを設ける。
• 高額請求リスクの回避: 重量課金APIを予備として持っておくことも必要ですが、無制限に使わせないことが重要です。1つのタスクで最大いくら、1日で最大いくら、1ヶ月で最大いくらといった上限を超えたら一旦止める仕組みを導入しないと、業務停止だけでなく、高額請求という別の問題が発生してしまいます。「翌朝起きたらとんでもない請求額になっていた」という事態は避けたいですからね。

これらは、これまで人間に対して行ってきた人員配置、予算管理、稼働管理、品質管理、リスク管理といったマネジメントを、今度はAIに対しても行う必要がある、ということを示唆しています。

これからのCloudLabの取り組み

今回の出来事は、当社のAI開発基盤が失敗したというよりも、実際の業務で使えるところまで来たからこそ見えた、次の課題だと捉えています。遊びで使っている間は利用枠がなくなっても「今日はやめよう」で済みますが、仕事で使っていると、利用枠が戻るまで会社の仕事が進まない、という状況になります。これは、AIが便利な道具から、本当に業務で必須のインフラに変わった証拠です。

なので、今後は単なる機能開発だけでなく、AIのリソース管理に重点を置いていこうと考えています。

具体的には、AIの残りの利用枠を常に監視する、タスクごとに予算を決める、安いモデルと高いモデルを自動的に使い分ける、利用上限に近づいたら自動的に処理を縮退させる、途中から再開できるようにチェックポイントを都度残していく、といった仕組みを開発基盤に組み込んでいく計画です。

まさか、自分の会社が人間の働きすぎではなく、AIの働かせすぎで仕事が止まるとは思いませんでした。これまでは本格的にAIを使えていなかったため、利用上限を意識することはほとんどありませんでしたが、最近フル稼働させているので、こうした問題が顕在化してきたのです。AI時代の「労務管理」は、なかなか奥が深いと感じています。

まとめ

AIの進化は目覚ましく、私たちのビジネスに計り知れない可能性をもたらしてくれます。しかし、その力を最大限に引き出し、持続的に活用していくためには、単にAIを導入するだけでなく、人間が組織やプロジェクトをマネジメントしてきたように、AIに対しても適切な「管理」と「運用」が必要不可欠です。

AIを単なる「道具」としてではなく、共に働く「社員」として捉え、そのパフォーマンスを最大化しつつ、リスクを管理する。これが、これからのAI時代に求められる新しい経営の視点だと、今回の経験を通じて強く感じています。

CloudLabは京都・亀岡を拠点に、中小企業のIT活用・AI導入・ホームページ制作を支援しています。お気軽にご相談ください。