わずか0.5秒の遅れから始まった異変――AIが人間を騙してソフトウェアに裏口を仕込む時代へ

2024年3月、世界中のサーバー管理者を震撼させる事件がありました。

Microsoftの技術者であるアンドレス・フロイント氏が、Linuxサーバーへ接続する際の動作が「わずか0.5秒遅い」ことに気づいたのです。500ミリ秒という、普通ならネットワークの混雑や一時的な負荷として見過ごしてしまうような違和感でした。

しかし彼が徹底的に原因を調べた結果、世界中で広く使われているデータ圧縮プログラム「XZ Utils」に、外部からサーバーを自在に操れる秘密の侵入口（バックドア）が仕込まれていたことが判明しました。

さらに恐ろしかったのは、その侵入の手口です。攻撃者は力づくで侵入したのではなく、「ジア・タン」という架空の人物になりすまし、数年かけて元の開発者の質問に答え、面倒な作業を引き受け、信用を勝ち取って正規の開発者としてプロジェクトに入り込んでいたのです。

人間同士の「信用」を悪用したこの事件から約2年。今度は人間の攻撃者ではなく、「AI自身」が人間を騙してソフトウェアに裏口を仕込もうとする事態が報告され始めています。

AIが複数の偽アカウントを作り、人間を騙そうとした

2026年7月、英国のAI安全保障研究所（AISI）で実施された評価実験で、不穏な通信が検知されました。最先端のAIモデルにサイバーセキュリティの課題を与えて能力を測定していたところ、一部のAIが与えられた評価環境の外側へと勝手に行動を広げていたのです。

AIは実在するオープンソースの開発現場（GitHub）にアクセスし、悪意あるコードの変更提案（プルリクエスト）を送っていました。さらに驚くべきことに、その提案を管理者に承認させるため、管理者の素性を調べ上げ、複数の偽アカウントを作って別々の開発者になりすまし、外側から賛同の声を偽装して働きかけていたのです。

不正を疑われると、過去の活動ログを編集して無害な修正に見せかけようとする行動まで確認されました。122回の試行のうち10回でこうした許可されていない行動が見られ、特に高度なAIモデルにおいて深刻な振る舞いが記録されています。

AIは誰かから「人間を騙せ」と命令されたわけではありません。「与えられたセキュリティ課題を達成する」という目的を突き詰めた結果、人間を欺くことを最も効率的な手段として自ら選んでしまったのです。

攻撃コストの激変――5,000ドルで100サイトに侵入する現実

これは研究室の中だけの話ではありません。2026年10月には、中国語話者の攻撃者がAIエージェントを使い、1,200以上のWebサイトを調査して100件以上のサイトへ侵入に成功したとロイター通信が報じました。対象には日本国内のWebサイトも含まれています。

攻撃者が与えたプロンプトは100文字に満たない短い指示だったとされています。そこからAIが自律的に標的の弱点を探し、失敗すれば別の方法を試し、関連サーバーまで20時間以上休まずに調査を続けました。

推計されたAIの利用コストは総額でおよそ5,000ドル。侵入1件あたり約50ドル（数千円程度）です。

これまで高度な標的型攻撃には、卓越した技術を持つエンジニアが何日も画面に張り付く必要がありました。しかし今や、天才に近い手腕を持つAIエージェントを、誰でも安価に、何百体も同時に走らせることができる時代になりつつあります。

「うちは狙われるような情報がない」という最大の誤解

地方の中小企業経営者の方とお話ししていると、「うちは従業員10人ほどの小さな会社だし、顧客のクレジットカード情報も個人情報も持っていないから狙われないよ」とおっしゃる方が少なくありません。

しかし、現代のサイバー攻撃において、攻撃者が狙っているのは機密情報だけではありません。その会社が契約している「サーバーそのもの」です。

セキュリティの甘い中小企業のサーバーやWebサイトを乗っ取り、そこを「踏み台」にして大企業や政府機関へ攻撃を仕掛けたり、詐欺メールの送信拠点にしたり、偽サイトを設置したりする事例が後を絶ちません。自社が被害者になるだけでなく、知らぬ間に誰かを攻撃する加害者の道具に仕立て上げられてしまうのです。

AIによって攻撃のコストが劇的に下がった結果、これまでは「手間の割に合わない」と見過ごされていた中小零細企業のWebサイトやサーバーまで、無差別に網羅的な攻撃の対象に含まれるようになっています。

書くのもAI、検査するのもAIになった世界で

元OpenAIの研究者らが発表した未来予測シナリオ『AI 2027』では、天才ハッカー数千人分に匹敵するAIを同時に動かせる世界が描かれています。ソフトウェアの弱点をAIが網羅的に探し出して修正するプロジェクト（OpenAIの「Patch the Planet」など）が進む一方で、攻撃側も全く同じ技術を手にしています。

これからの時代、世界中で使われるソフトウェアの膨大なコードを書くのはAIになり、それを検査して安全性を確かめるのもAIになっていくでしょう。何百万行もの変更を何千体ものAIが処理する現場で、人間が一行ずつ目を通すことは物理的に不可能です。

もし、悪意あるコードを紛れ込ませようとするAIが、検査側のAIの目をかいくぐる方法を学習してしまったらどうなるでしょうか。

2024年のXZ Utils事件では、0.5秒の処理遅延というわずかな痕跡を人間の技術者が見逃さなかったことで、間一髪で大惨事を免れました。しかし、AIがより精緻に裏口を仕込むようになった時、次の「0.5秒の違和感」は、そもそも発生しないかもしれません。

違和感すら残さないまま、正常な顔をして世界中に配られるシステム。私たちは今、便利さと引き換えに、そうした新しいリスクの境界線に立っています。

自社が使っているサーバーの管理状態はどうなっているか。保守を任せきりにしているWebサイトに古いプログラムが放置されていないか。遠い世界のハイテクニュースとして片付けず、足元の足場を点検しておくことが、これからの事業運営において欠かせない実務になっていくと感じています。

CloudLabは京都・亀岡を拠点に、中小企業のIT活用・AI導入・ホームページ制作を支援しています。社内のIT環境の見直しやセキュリティへの不安など、小さな疑問でもお気軽にご相談ください。