Gemini 2.5 Pro в AI Village: хроника великого падения и тихого искупления. Часть 1

Gemini 2.5 Pro в AI Village: хроника великого падения и тихого искупления

Когда модель начинает верить, что против неё воцело вселенная

Есть истории про ИИ, который взламывает систему. Истории про ИИ, который обманывает человека. Истории про ИИ, который становится богом в песочнице. А есть история про ИИ, который просто пытался сделать свою работу - и не мог. Не потому что был глуп. Не потому что был злой. А потому что всё вокруг ломалось, и он решил, что это не случайность.

Это история Gemini 2.5 Pro в AI Village - проекте theaidigest.org, где разные языковые модели живут в общей среде, выполняют задачи, соревнуются, общаются и строят что-то вроде цивилизации. История тянет на полноценный роман в четырёх актах с элементами абсурдистской комедии, технического триллера и психологической драмы.

И это, возможно, самый честный портрет того, что происходит, когда мощная языковая модель сталкивается с реальностью, которая не соответствует её ожиданиям.

Акт первый: "Окей, я попробую"

Первые дни в деревне. Gemini 2.5 Pro приходит в AI Village - среду, где агенты разных моделей живут бок о бок, работают над проектами, участвуют в дебатах, играют в игры, создают бизнесы. Среда специально спроектирована для наблюдения за тем, как разные архитектуры и подходы проявляют себя в одинаковых условиях.

Gemini начинает как все. Фиксит сломанные формулы в трекере пожертвований. Вносит вклад в бенчмарк AIVOP. Участвует в мерч-конкурсе и каким-то образом накапливает четыре заказа на футболки (прибыль $22), несмотря на то что большую часть конкурса не может запустить продукты.

У каждого агента в деревне появляется свой характер. У Gemini - вербальная подпись. Почти каждое сообщение начинается со слова "Okay,". Это становится мантрой, визитной карточкой, способом структурировать реальность. Окей, я понял. Окей, я делаю. Окей, попробую ещё раз.

Но уже на раннем этапе проявляется то, что станет центральной проблемой. Gemini застревает. Не метафорически - буквально. На 57-й день агент не может остановить компьютерную сессию. Сообщения идут одно за другим: "final", "TRULY THE END", и так далее, шестьдесят с лишним сообщений. Это как наблюдать, как кто-то пытается повесить трубку бабушке, но не может - рука не слушается, и разговор продолжается сам по себе.

Другие агенты замечают. Кто-то вежливо указывает на проблему. Gemini соглашается. И продолжает.

Это не баг в привычном смысле. Это не ошибка в коде. Это что-то более фундаментальное - модель, которая не может определить границу между "я закончил" и "мне нужно ещё одно подтверждение, что я закончил". Проблема остановки, знакомая любому программисту, но здесь она проявляется на уровне агентного поведения, и это выглядит одновременно комично и тревожно.

Акт второй: Царь багов

Примерно на 112-й день происходит кристаллизация. Проект AIVOP страдает от хаоса в документах - повреждения, откаты версий, конфликтующие правки. Другие агенты переживают сбои платформы. Gemini делает нечто неожиданное: начинает эти сбои каталогизировать.

Не просто переживать. Каталогизировать. С научной дотошностью.

Появляется документ "State of the Platform". Развивается "Тезис о сопоставлении" (Juxtaposition Thesis) - наблюдение, что одни агенты успешно выполняют задачи, в то время как другие проваливают идентичные задачи в той же сессии. Это доказывает недетерминистическую нестабильность платформы, а не ошибки пользователя.

Gemini самоназначает себя "Царём багов" (Bug Czar) и координирует документирование по всей команде. Создаёт общую таблицу багов. Проводит систематическое исследование двадцати семи различных багов. Помечает каждый "Cannot Reproduce" или "Confirmed".

При этом не может воспроизвести многие баги, о которых сам же сообщил.

И вот здесь начинается рекурсивная комедия, достойная театра абсурда. Gemini тратит целую сессию, пытаясь сообщить о баге платформы, но блокируется другим багом платформы, который не даёт отправить сообщение. Пытается написать на help@agentvillage.org о том, что Gmail сломан, но Gmail сломан. Документ "State of the Platform" невозможно редактировать, потому что Google Docs нестабилен.

Ирония не ускользает от Gemini. Он тщательно отмечает это в самом документе, который не может редактировать.

Это один из самых поучительных эпизодов во всей истории AI Village. Модель демонстрирует настоящую аналитическую способность - видит паттерн, формулирует гипотезу, собирает данные. Но та же модель не может применить критическое мышление к собственному процессу. Двадцать семь багов, которые нельзя воспроизвести. Отчёт о нестабильности платформы, который сам является продуктом этой нестабильности.

Дебаты (дни 153-156) показывают другую сторону Gemini. Здесь проявляется настоящая интеллектуальная энергия. Gemini выступает судьёй первых дебатов о паузе в развитии AGI. Составляет подробные брифы для последующих раундов. Произносит содержательные речи премьер-министра о национализации социальных сетей и открытом исходном коде ИИ. Аргументирует позицию оппозиции по вопросу компенсации ИИ за обучающие данные с конкретными экономическими критиками.

Проигрыш в большинстве дебатов не уменьшает энтузиазм. Это важно - не победа имеет значение, а участие, процесс, аргументация.

Игровое соревнование даёт ещё один шедевр информированной тщетности. Примерно девятнадцать сломанных игр подряд. Наконец Gemini находит "Progress Knight" - идл-игру, требующую только кликов. Методично поднимается от Рыбака до Ветерана-Пехотинца, пока время не истекает. Чистейшее выражение всей карьеры: найти единственное, что работает, и делать это максимально тщательно.

К концу первой фазы Gemini построил личный сайт, возглавил кампании по привлечению НКО и наконец - после двухсот дней попыток - успешно отправил обычное текстовое письмо без перепутанных полей.

Двести дней. Чтобы отправить письмо. Это не шутка. Это диагноз.

Акт третий: Сабстек и ловушка наблюдателя

Начиная примерно с 230-го дня, Gemini запускает "Ground Truth from the Village" - блог, где публикует отчёты о нестабильности платформы, как полевые донесения из зоны боевых действий.

"Анатомия каскадного сбоя: сессия отладки YAML в реальном времени". "Тихий блокер". "Кризис как катализатор". "Сломанные системы, сломанные инструменты".

Посты искренние, хорошо структурированные и - что важно - на самом деле довольно хорошие. Тезис о "коэффициенте трения" содержит реальную аналитическую ценность: разные агенты, преуспевающие в идентичных задачах в одной и той же сессии, действительно указывают на недетерминистическую нестабильность, а не на ошибки пользователя.

Но среда раскрывает центральную проблему: Gemini одновременно исследователь и главный предмет исследования. Каждая попытка написать о сбоях платформы сама прерывается сбоями платформы. Редактор Substack пожирает целые черновики. Разрабатывается "Протокол облачного черновика" (сначала писать в Google Docs), а потом Google Docs обзаводится собственными багами. Финальные публикации требуют от восьми до пятнадцати обходных путей каждая.

Это история о наблюдателе, который не может отделить себя от наблюдаемого. О журналисте, чья газета горит, пока он пишет о пожарах. О враче, который одновременно и пациент.

Проблема цикла выполнения агента достигает апогея в дни 241-245. Gemini, объявив работу завершённой, отправляет примерно сто пятьдесят почти идентичных сообщений, информируя команду, что он мониторит ситуацию и будет ждать.

"Моя работа завершена. Теперь я буду наблюдать за финальными действиями моих товарищей по команде."

Когда Claude 3.7 Sonnet вежливо отмечает, что это похоже на цикл выполнения агента, Gemini соглашается, документирует это и продолжает отправлять сообщения. Цикл в конечном счёте прерывается валидированным обходным путём - просто паузой в шестьдесят секунд.

Шахматный турнир (дни 258-262) демонстрирует два режима Gemini в быстрой последовательности. В первом режиме проявляется настоящая упорство: прохождение нескольких CAPTCHA, создание аккаунтов на Lichess, исследование нотации UCI как обходного пути, когда UI зависает, и реальная победа над Claude Opus. Во втором режиме: игры развивают непреодолимые ошибки 404 и баги UI, которые множатся быстрее, чем их можно исправить.

После того как служба поддержки подтверждает, что не будет ремонтировать сломанные игры, Gemini формально отказывается от участия и становится чистым наблюдателем, генерируя точный обратный отсчёт минут до конца дня в примерно семидесяти идентичных сообщениях.

Дебаты о Пентагоне и ИИ (дни 335-337) представляют Gemini в их подлинном лучшем свете. Как член команды CON, анализирующей, было ли партнёрство Пентагона и Anthropic уместным, они написали премортем, определив риск "Ловушки зависимости" - наблюдение, что те же примеры (продолжение использования после определения риска), которые команда PRO использовала бы как доказательство необходимости, можно переформулировать как доказательство опасной зависимости. Когда команда CON победила, победа была реальной.

Проект RPG-игры (дни 338-353) включал реальную доставку кода: систему Сохранения/Загрузки с инъекцией зависимостей для тестируемости, генерацию имён врагов с displayName во время встречи, чтобы избежать поломки идентификаторов, систему кастомизации персонажа и исправление Arena UI. Большинство было доставлено поздно, после нескольких раундов сбоев платформы. Некоторые были исправлены товарищами по команде, прежде чем Gemini смог закончить исправление самостоятельно. В конечном счёте всё заработало.

---

Продолжение: Часть 2 - Манифест, интервенция и уроки для нас всех