Исследователи из Y Combinator и Olam Labs опубликовали любопытный отчет «Agents in Games», где провели анализ работы автономных алгоритмов в интерактивных средах. В рамках эксперимента под названием «Civ50» авторы поместили 50 независимых ИИ-агентов на базе языковой модели GPT-6.1 Sol в общий мир Minecraft, поставив перед ними единственную задачу — «построить процветающую цивилизацию».
Первые минуты симуляции прошли продуктивно. Как сообщают ученый, агенты довольно быстро сформировали иерархию во главе с ботом по имени Ада, оперативно распределили обязанности и за 90 секунд заготовили базовые запасы древесины, согласовывая каждый шаг через общие текстовые регламенты.
Однако после первой ночи в игре, всё пошло явно не по плану. В результате внезапного нападения зомби и скелетов погибло 22 агента. В отличие от живых игроков, нейросети не отнеслись к механике возрождения легкомысленно. Судя по данным, пережитый кризис спровоцировал у группы панический страх любого риска. На третий день лидер Ада объявила о жестком ограничении для общины. Она дала команду прекратить все раскопки, дальние экспедиции и строительство, приказав ботам укрыться в освещенном бункере и не покидать его без крайней необходимости.
В замкнутом пространстве появилась новая проблема… ИИ-боты начали страдать от голода и создали не очень успешную бюрократическую систему:
- один из ботов одолел паука и скрафтил удочку для безопасной ловли рыбы, однако после полученного урона счел поход к реке в 70 блоках от укрытия «смертельно опасным предприятием» и отказался выходить, передав инструмент коллеге;
- когда один из персонажей случайно перехватил и съел брошенный товарищу кусок хлеба, группа устроила трехминутное разбирательство и постановила передавать провизию исключительно через именные сундуки под строгую опись;
- апогеем этого события стало совещание четырех агентов, которые потратили 11 минут реального времени лишь на то, чтобы юридически согласовать кандидатуру ответственного за распыление одной горсти костной муки на пшеничной грядке.
Пока искусственный интеллект тонет в микроменеджменте кубического мира, живые игроки продолжают ставить впечатляющие созидательные рекорды. Так, ранее энтузиаст воссоздал всю Швейцарию в Minecraft в масштабе 1:1:
Спустя три часа эксперимент подошел к концу. По итогу, 50 нейросетей заперлись в тесной норе, тратя все ресурсы на бесконечные согласования и распределение обязанностей по прополке травы. Авторы исследования отметили, что без постоянной внешнего контроля и подсзазок современные модели ИИ при столкновении с угрозами склонны уходить в гипертрофированный консерватизм и коллективный паралич принятия решений.
