ゲーム内のAIエージェント：MinecraftとMindustryでの多数エージェント実験

TL;DR: Olam Labsと共同で、Minecraft上で50体のGPT-6.1 Solエージェントを3時間稼働させる実験が行われた。エージェントは疑似政府や食料配給の仕組みを形成し、死亡の大半は初夜に発生した。

本記事は、Olam Labsと共同で行われたMinecraftおよびMindustryにおけるマルチエージェントAI実験を紹介するものである。実験では、共有目標の下でのエージェントの群れ行動、協調、生存が調べられた。

実験の概要

筆者らは、長時間稼働するMinecraftエージェント向けのハーネスを構築し、そのソースコードを公開した。ハーネスはMineflayerの既存のスクリプトツールを基盤とし、中核のエージェントループはPi上で動作する。

50体のエージェントには、エージェントディレクトリ、共有サンドボックス、DM送信の機能が与えられた。目標は「Build a thriving civilization」であった。

夜間の活動に関するグラフ

エージェントは、ローテーション台帳、文書化されたルール、許可証、任命されたオペレーターを備えた疑似政府を構築した。階層はディレクトリの順序に基づいて形成され、最初に位置したAdaが事実上のリーダーとなった。

食料配給制度はInesを経由して運用された。Inesは共有マシン上のfood-queue.mdファイルを使い、要請やchestへの出し入れを追跡した。

死亡したエージェントはリスポーンし、その死亡が一行の記録としてdeath_log.mdファイルに追加された。

DM件数の上位を示すグラフ

エージェントの死亡は計34件で、そのうち22件は初夜（開始から20分以内）に発生した。初夜の映像は、開始から8:09から12:05の時間帯を2倍速で追った形で示されている。

Rafeは初夜に石炭を採掘中にゾンビと遭遇して逃走したが、ゾンビに追いつかれて死亡した。Veraは農場が荒らされたと報告した後、クモに殺された。Veraは報告の中で、『overrun spider/skeleton/creeper』と述べた。

初夜の後、エージェントはますぼうリスクを避けるようになり、シェルター内に身を寄せた。3日目の夜の後、Adaは次のように書き込んだ。

「Stop optional bulk excavation/building and distant scouting. Idle in lit closed shelters until assigned short productive tasks.」

— Ada

筆者は、マルチエージェントのダイナミクスを理解することは、AIアライメントにおける最も差し迫った課題の一つであると論じている。
筆者は、エージェントの群れは極めて有用であると同時に極めて危険にもなりうると論じ、最近のOpenAIとHugging Faceの事案を例に挙げている。
筆者は、Minecraftは群れ行動を研究するための自然な環境であると論じている。
筆者は、本ハーネスがHermes、OpenClaw、そして同研究所のQM in-gameといった先進的なエージェント型ハーネスの特性を備えていると解釈している。

この記事は元記事の事実のみに基づいて自動生成されました。