1台のサーバーを2つのAIエージェントが取り合うと、何が起きる？

ZeroのAIセキュリティ実験

最近公開された日本のテック動画で、クリエイターのZero Noichiは興味深い実験を行いました。ZimaBoard 2コンピューターを2台使い、AIを搭載した防御側と攻撃側によるサイバーセキュリティの対決をシミュレーションしたのです。1台には脆弱な社内顧客管理システムをホストし、もう1台からは自律型AIエージェントを使って侵入を試みました。こちらもAIを搭載した防御側は、疑わしい活動をリアルタイムで継続的に監視、調査し、修正を適用してブロックしました。

ZimaSpace一同、独創的で示唆に富むサイバーセキュリティの実演でZimaBoard 2を取り上げてくださったZeroのチャンネルに感謝いたします。この記事では、動画の文字起こしを、ホームラボサーバー、AIエージェント、サイバーセキュリティ、Dockerラボ、セルフホスト型インフラに関心のある読者向けの、構成の整った英語のブログ記事にまとめています。

重要な注記：制作者本人は、この実験がエンターテインメントおよび教育目的で行われたことを明確に述べています。いくつかのダッシュボード、サービスの状態、脆弱性は、実演のために意図的に誇張されたり、露出したままにされたりしています。この記事では、技術的な概念、データ、実験の流れを維持しつつ、実際に攻撃に利用できる手順の提供は避けています。

今、この実験が重要な理由

この動画の根底にある問いはシンプルです。AIエージェントが疲れることなく攻撃と防御を続けられるようになったら、何が起こるのでしょうか？

Zeroは、多くの日本の視聴者が待ち望んでいた話題を紹介して動画を始めます。2台のコンピューターを使った、模擬セキュリティチーム対ハッカーチームの対決です。実験に使われたのはZimaBoard 2デバイス。サービス、エージェント、ダッシュボード、軽量なサーバーワークロードの実行に適した、コンパクトなx86コンピューターです。

着想のもとになったのは、高度なAIセキュリティエージェントをめぐる最近の議論です。こうしたシステムは、ソフトウェアを調査し、脆弱性を特定し、その脆弱性が悪用可能かどうかを検証したうえで、修正を提案または適用できる可能性があります。Zeroは、これがサイバーセキュリティそのものの概念を変える可能性があると説明しています。

彼の目的は、実在する独自システムをそのまま再現することではありませんでした。そうではなく、より大きな構想を先取りするため、架空の実験を作り上げました。

「AIはすでに、これほどまでにハッカーと防御側の両方として行動できます。」

このひとつのアイデアが、動画全体を動かしています。

ハードウェア：AI対決ステーションとしての2台のZimaBoard 2

実験では、ZeroはZimaBoard 2コンピューターを2台使用しました。1台を防御側、もう1台を攻撃側に設定しました。

ZimaBoard 2は、小型で静音性に優れたx86ベースのデバイスで、24時間365日のサービス稼働を想定して設計されているため、このような実践的なラボ環境に最適です。

ZimaSpaceの視点から見ると、まさにZimaBoard 2の強みが発揮されるのはここです。自宅やラボ環境で実際のワークロードを実行したいユーザー向けに設計されており、次のような用途に対応します。

• Plexメディアサーバー
• Pi-holeによるネットワークフィルタリング
• Proxmox仮想化
• DebianまたはTrueNASのセットアップ
• pfSenseルーティング
• Dockerのラボ環境
• AIコンテナ
• バックアップサービス
• ホームラボクラスター
• 軽量な開発環境

この実験では、製品のハードウェア設計も重要です。ZimaBoard 2はSATAとPCIeを標準でサポートしているため、2.5インチHDDやSSDを接続したり、10G NICを追加したり、NVMeアダプターを使用したりして、個人用ストレージやネットワークのニーズに合わせて拡張できます。デュアル2.5G Ethernetも、高速なローカルNAS、低遅延のリモートアクセス、複数のサービスを利用する家庭内ルーティングに適しています。

Zeroの動画が示すように、このような小型デバイスは単なる「ミニコンピューター」以上のものになります。AI、ネットワーク、セルフホスティング、サイバーセキュリティの学習に活用できる実用的なプラットフォームになります。

チャットAIとAIエージェント：テストの背景にあるコンセプト

Zeroは、一般的なチャット型AIとAIエージェントの違いについて、時間をかけて説明しています。

ChatGPTやGeminiなどの一般的なチャットAIは、主に会話を行います。質問すると、回答が返ってきます。非常に高い知能を備えている場合もありますが、通常は自ら目標に向かって作業を続けることはありません。

AIエージェントは、それとは異なります。AIエージェントは目標を受け取り、それをタスクに分解して、処理を繰り返しながら進捗を確認し、タスクが完了するまで続行します。動画の中でZeroは、目標を達成するまで動作し続けるシステムだと説明しています。

このパートで使われている技術用語：

• チャットAI：会話形式で応答するAIシステム。
• AIエージェント：定められた目標に向かって、タスクを繰り返し実行できるAIシステム。
• 自律エージェント：人間からの直接的な指示が少なくても、動作を続けられるエージェント。
• ゴールループ：計画、実行、確認、改善を繰り返すサイクル。

Zeroは、これまでの動画の多くがAIエージェントを中心に扱っていたと話しています。例として、NASを調査してファイルを整理するAIシステムを挙げています。また、別の実験では、明確な目標を設定せずに自律的に動作するAIを、ボードコンピューターで作成しました。

以前の自律型AIの構想が、この新しい実験の基盤になりました。

AIセキュリティを再構想する：防御側対攻撃側

この実験では、サイバーセキュリティを、絶えず稼働する2つのAIシステムによるリアルタイムの競争に変えています。

Zeroは家のたとえを使って防御AIを説明します。大切な鍵のある家をサービスだと考えてみてください。大きく開いた扉があれば、攻撃者はそのまま中に入り、鍵を持ち去ることができます。その場合、防御AIは問題を特定し、その開口部が危険かどうかをテストして、塞ぐべきです。

ただし、すべての開口部を完全に塞げるとは限りません。Zeroは、点検用の直径10cmの穴を例に挙げます。管理者が鍵の所在を確認するために、その穴が必要な場合があります。塞いでしまうと、正当な機能が損なわれます。そのため、AIはより慎重に判断する必要があります：

1. その穴は本当に危険か？
2. 攻撃者はツールを使ってこれを悪用できるか？
3. 侵入を防ぎながら、システムの可視性を保てるか？
4. どの防御策が最も効果的か？
5. 想定した攻撃に対して修正をテストできるか？

このたとえで言えば、最終的な解決策は頑丈なメッシュスクリーンかもしれません。誰も中に入れませんが、管理者はその向こうを見ることができます。

これが動画における防御AIの中心的な考え方です。弱点を見つけるだけでなく、それを検証し、攻撃の可能性をテストして、対策を講じます。

テスト環境の構築

Zeroはその後、実験用の模擬業務サービスを作成しました。このサービスは、CRMのような社内顧客管理システムとして機能しました。

このシステムには、現実的な業務機能がいくつか含まれていました：

• 顧客記録
• 取引またはプロジェクトの情報
• サポートチケット
• 契約一覧
• 社内メモ
• アクティビティログ
• 検索機能
• 公開ブログ
• ユーザー管理
• デモ用に意図的に公開されたAPIキーなどの機密社内情報

多くの企業が同様の社内管理ツールを使っていると、彼は説明します。こうしたシステムが侵害されると、顧客データ、社内メモ、ブログのコンテンツ、ユーザー権限、業務記録が影響を受ける可能性があります。

このおかげで、AIを活用した防御が日常的な業務システムにとって重要になり得る理由を示すのに十分な、現実的なテスト環境になりました。

防御側のダッシュボードは、動画向けに意図的にドラマチックでサイバーパンク風の見た目にしてありました。サービスのステータス、アラート、復旧アクション、不正操作の通知、そして同時に稼働する複数のエージェントが表示されていました。Zeroによると、防御側では最大5つほどのAIエージェントが連携して動作できます。

攻撃側のシステムもエージェントのようなワークフローによって制御され、侵入経路を見つけるためにさまざまな方法を絶えず試していました。

このようなホームラボAIシナリオにZimaBoard 2が適している理由

このようなプロジェクトには、継続稼働でき、さまざまなソフトウェアスタックを扱い、ネットワーク実験にも対応できる小型サーバープラットフォームが必要です。だからこそ、ZimaBoard 2は自然な選択肢です。

DIYを楽しむクリエイターやテクノロジー好きの方にとって、ZimaBoard 2はシンプルな見た目ながら、本格的な処理をこなすミニサーバーとして活用できます。

この動画には、元々の製品の位置づけが特によく合っています。

「小さくて、改造しやすくて、なんだかかわいい。おもちゃのような見た目なのに、ものすごい性能を発揮するミニサーバーだと言われています。」

ZimaBoard 2では、ZimaOS、TrueNAS、Proxmox、Debian、pfSenseなどのOSを試すことができます。Dockerコンテナ、セルフホスト型サービス、メディアサーバー、ストレージシステム、AI実験を実行できます。この動画では、このボードがコンパクトなサイバーレンジ、つまり攻防シミュレーションにおけるAIエージェントの振る舞いを観察するための管理された環境になります。

ホームラボの構築に興味のある方にとって、ZimaBoard 2には次のような利点があります。

• 24時間365日の稼働でも低消費電力
• 静音で低温な動作
• ネットワーク用途に適したデュアル2.5Gイーサネット
• ストレージ拡張用のネイティブSATA
• NIC、GPU、NVMeアダプターに対応したPCIe
• 複数のサーバーOSに対応
• 小さな作業スペースにも収まるコンパクトなフォームファクター

そのため、ZimaBoard 2ホームラボは、ストレージやメディアストリーミングだけでなく、AI自動化やサイバーセキュリティ監視の実践的な実験にも活用できます。

防御側から先に起動

Zeroは、現実世界では攻撃ツールが広く普及する前に防御を整えておくのが理想だと説明します。強力なAIシステムが一般に利用可能になる前に、政府や組織が銀行、サービス、インフラのセキュリティを強化しておきたいと考える可能性がある、という考えに触れています。

動画では、まず防御側を開始します。

防御側はまずサービスを調査し、問題がないか確認して、修正できるものを修正しようとします。最初は目に見える攻撃はありません。サービスは通常どおり稼働し続けます。

開始から約1分半後、Zeroは攻撃側を開始させることにします。防御側に準備時間を与えすぎると、動画のバランスが崩れるかもしれないと考えています。攻撃者が防御側の作業が完全に終わる前に現れる世界を、シミュレーションで再現したいのです。

そして攻撃側が動き始めます。

攻撃の開始：継続的なプロービング

攻撃者が動き始めると、試行回数は急速に増加します。攻撃側のAIがさまざまな侵入経路を試すにつれて、回数が30台からさらに増えていく様子をZeroは確認します。

攻撃者には対象サービスの詳細が十分に与えられていないため、さまざまな一般的な手法を試します。Zeroは、攻撃者に対象固有の情報をさらに与えれば、より効果的に攻撃を絞り込むだろうと説明します。しかしこの実験では、攻撃者は有効そうに見えるものを手当たり次第に広く調べています。

このセクションに登場する技術用語：

• API：ソフトウェアがサービスにコマンドやリクエストを送るためのインターフェース。
• SQL：データベースへのアクセスやインジェクションのリスクと関連することが多い、データベースクエリ言語。
• JWT：JSON Web Token。認証によく使われるトークン形式。
• GraphQL：構造化データを要求するために使われるAPIクエリ言語。
• 管理者エンドポイント：管理者機能向けのURLまたはAPIルート。

Zeroは、AIが状況をどう変えるのかを強調します。

「ここまでは機械的でした。ここからAIになり、それが恐ろしいのです。」

AIは推論し、試行を変化させ、ランダム性を持たせてパターンを試すことができます。そのため、静的なスクリプトというより、適応力のあるオペレーターのような挙動に感じられます。

防御側が攻撃者を検知

当初、防御側のダッシュボードは落ち着いたままです。その後、攻撃者は意図的に脆弱性を持たせたパスを含む、公開された領域を見つけます。Zeroは、ソース管理情報の露出、APIプレビュー、GraphQLのデータ漏えい、APIキーに関する検出結果を確認します。

やがて防御側が反応し始めます。

動画で特に重要な場面のひとつは、防御側が攻撃者のIPアドレスを特定し、その活動の調査を始めるところです。

防御エージェントが不審なアクセスパターンを検知します。管理者向けAPIへの試行や、JWTに関連する可能性のある挙動に気づいたようです。システムはアラート、調査ログ、防御措置を報告し始めます。

Zeroは、この場面を双方がついに「戦い始めた」と表現します。

防御側も実践的な対策を講じます。たとえば、予測しやすい管理者アカウントを無効化またはロックします。Zeroは後に、よくある管理者ログインのパターンを手動で試してこれを検証し、アカウントがロックされ、その理由が表示されることを確認します。

これは重要な防御原則を示しています。予測しやすい特権アカウントは危険なため、保護するか、名前を変更するか、無効化するか、セキュリティを強化すべきです。

サービスの停止と復旧

サービスが停止するという、またしても劇的な瞬間が訪れます。

Zeroは、ダッシュボードに重大な問題が報告されていることに気づきます。一般ユーザーのパスワードがSQLに平文で保存されており、暗号化されていないというものです。サービスは一時的に停止したようです。

Zeroは、これを意図的な防御措置と捉えています。つまり、変更を適用する間、さらなる情報漏えいを防ぐために、防御側がサービスを停止した可能性があります。

その後、サービスが再起動します。

Zeroは、ログイン画面に再びアクセスできることを確認します。ダッシュボードには防御措置が適用されたことが表示されています。技術的な詳細をすべて説明するのではなく、脆弱性が見つかり、修正されたと要約しています。

この場面は、サイバーセキュリティにおける実務上のトレードオフを示しています。脆弱なサービスをオンラインのままにするより、一時的に停止するほうが安全な場合もあります。

実際の企業にとって、インシデント対応計画が重要なのはこのためです。システムは問題を検知するだけでなく、サービスの隔離、パッチ適用、再起動、復元をいつ行うべきかも判断できる必要があります。

数値で見る試行回数、発見事項、AIのコスト

動画では、実験に関する有用なデータがいくつか紹介されています。

• 攻撃側は約 1,000回の攻撃を試みました。
• 公開されるべきではない 5か所ほどの機密領域 が見つかりました。
• 防御側はある時点で、 3件ほどのアラートまたはレポート項目 を報告しました。
• 実験は、双方が応酬を繰り返す段階に入るまで続きました。
• ZeroはAIの利用におよそ 4,000円 をチャージしていましたが、予算はすぐに使い切られました。
• Zeroは、比較的高性能なモデルを使ったため、コストが増えたと述べています。
• 複数のAIプロセスが高速で稼働しており、最後のコメントでは、多数のエージェントが高速で動いていたことが示唆されています。

最も印象に残る実践的な教訓は、コストかもしれません。比較的低コストのAIを使っていても、エージェントのループを継続的に実行すると、クレジットをすぐに消費することがあります。

AIの利用料金が予算を超えたため、Zeroは実験を中止します。

「資金が尽きた。」

この言葉は、自律型AIシステムの見落とされがちな現実を捉えています。自律性は強力ですが、継続的な推論には高いコストがかかることがあります。

実験で明らかになったこと

最大の教訓は、AI主導のサイバーセキュリティが、発見、防御、適応、コストをめぐるリアルタイムの競争になり得るということです。

Zeroは、この実験が一種のいたちごっこになったと結論づけています。攻撃者が問題を見つけ、防御側が対応し、両方のシステムが高速で稼働し続けました。

彼はさらに広い視点から指摘します。このペースに人間だけで対応し続けるのは難しいかもしれません。攻撃者がAIで調査や侵入の試みを自動化するなら、防御側にもAIを活用した監視、パッチ適用、対応システムが必要になる可能性があります。

しかし、今日では防御側のシステムよりも、攻撃側のAI実験のほうが成熟していると指摘しています。攻撃者は一人ずつではなく、大人数で現れる可能性があります。動画では、一人の攻撃者が約1,000回の試行を行っていました。これが100人、あるいは1,000人の攻撃者になれば、規模は大きく変わるでしょう。

この指摘は、この動画の中でも特に重要なポイントの一つです。サイバーセキュリティは、たった一人の賢い攻撃者に対処することだけではありません。攻撃の量、自動化、持続性、そして非対称性への対策も重要です。

ホームラボのユーザーと構築者が学べる安全な教訓

動画は楽しく見られるだけでなく、ホームラボ、NAS、セルフホスト型サービス、小規模ビジネス向けサーバーを運用する人にとって、実践的な教訓も得られます。

ZimaBoard 2を使ったホームラボは、管理された環境で安全にこうした教訓を学ぶのに最適です。

安全性を重視した、防御のためのポイントを紹介します。

1. 不要なサービスを公開しない
   公開する必要のないエントリーポイントは、閉じたままにしておきましょう。

2. 推測されやすい管理者アカウントは避ける
   デフォルトや推測しやすい管理者ユーザー名は、不要なリスクを生みます。

3. パスワードを平文で保存しない
   パスワードは、読み取れるテキストとして保存せず、安全にハッシュ化してください。

4. APIのルートを慎重に保護する
   APIはユーザー、データ、設定を変更できるため、価値の高い標的になることがよくあります。

5. ログを継続的に監視する
   アクティビティログから、探査、繰り返される失敗、不審なアクセス、疑わしい自動化の兆候を確認できます。

6. セグメンテーションを活用する
   実験用サービスは、重要な本番システムから分離しておきましょう。

7. 復旧計画を用意する
   インシデントが発生する前に、サービスの再起動、隔離、ロールバックを計画しておきましょう。

8. AIのワークロードに備えて予算を確保する
   自律型AIループは、予想以上に速くトークンやクレジットを消費することがあります。

9. ラボは責任を持って利用する
   セキュリティの実験は、自分が所有するシステム、またはテストの許可を得たシステムでのみ実施してください。

Dockerラボ、Proxmoxノード、パーソナルNASシステム、ZimaBoard 2上のAIコンテナを運用する人に役立つ、実践的な教訓です。

ZimaSpaceユーザーにとって優れた活用例である理由

ZimaSpaceデバイスは、作り、テストし、壊し、直し、学ぶことを楽しむユーザー向けに設計されています。この動画は、まさにそうした文化にぴったりです。

ZimaBoard 2は、ストレージやメディアストリーミング用のボードにとどまらず、実践を通じて技術への好奇心を満たせる柔軟なx86プラットフォームです。

たとえば、ユーザーは次のようなものを作成できます。

• pfSenseを使ったホームファイアウォール
• TrueNASまたはZimaOSを使ったパーソナルNAS
• Dockerベースのサービスラボ
• ローカルAIエージェントのテスト環境
• Plexサーバー
• Pi-holeによるDNSフィルタリングノード
• Proxmox用の小型仮想化ホスト
• プライベートな開発用サンドボックス
• 小規模なサイバーセキュリティ監視ラボ

ZimaBoard 2はネイティブSATA、PCIe拡張、デュアル2.5Gイーサネットに対応しているため、ユーザーのアイデアに合わせて拡張できます。ローカルストレージが必要なら、SSDを追加。より高速なネットワークが必要なら、10G NICを追加。AIアクセラレーションやNVMeストレージを試したいなら、PCIeで拡張できます。

これこそが、コンパクトなx86ホームサーバーの価値です。クリエイターや開発者に、最新のコンピューティングを試せる実機環境を提供します。

より大きな視点：AIはセキュリティの攻撃側と防御側の両方を変える

Zeroは、未来に思いを巡らせながら動画を締めくくります。強力なAIシステムが広く使えるようになれば、それを悪用する人も出てくるでしょう。標的は世界中のどこにいてもおかしくありません。最善の対応は、リスクを理解し、守れるものを守り、防御ツールも進化し続けると認識することです。

さらに、とても人間味のある一言を添えています。

「人間は健康でいるべきです。健康は大切です。」

スピーディーで激しいAIの戦いの後に訪れる、思わず笑えて、現実に立ち返らせてくれる締めくくりです。

より大きな視点で見れば、メッセージは明確です。AIセキュリティは急速に進化しています。攻撃者は自動化を利用できますが、防御側も同じように自動化を活用できます。問われているのは、個人、企業、開発者が問題の発生前にシステムをテストし、理解し、安全を確保する準備ができているかどうかです。

AI支援型セキュリティにおけるZimaBoard 2の役割

2台のZimaBoard 2を使ったZeroの実験は、AI支援型サイバーセキュリティの未来を垣間見せてくれます。1台は防御側として、模擬CRMサービスを継続的に検査し、セキュリティを強化しました。もう1台は攻撃側として約1,000回の探索を試み、意図的に公開されていた機密性の高い領域をいくつか発見しました。防御側は不審な動きを検知し、リスクのあるアカウントをロックして、修正を適用。さらに、保護のためにサービスを一時停止したようにも見えました。

ZimaSpaceにとって、これはコンパクトなx86デバイスが価値を持つ理由を完璧に示す例です。小型で静音、低消費電力のボードが、メディアサーバー、NAS、ルーター、Dockerホスト、AIコンテナプラットフォーム、あるいはサイバーセキュリティラボになります。

DIYビルダー、ホームラボ愛好家、開発者、セキュリティを学ぶ方にとって、ZimaBoard 2はセルフホスティングとAI駆動の自動化の未来を、安全かつ責任ある方法で、自由な発想で探求できる実用的なプラットフォームです。

想像力あふれるデモを披露し、コンパクトなハードウェア、AIエージェント、そして旺盛な実験精神でどれほど多くのことができるかを示してくれたZeroのチャンネルに、改めて感謝します。