Пятничное чтиво: Бикамерализм и LLM

Пятничное чтиво: Бикамерализм и LLM

Представьте себе разум, который не знает, что он - это разум. Который воспринимает собственные мысли как команды извне. Не как метафору, а как буквальный слуховой опыт. Не как результат внутреннего диалога, а как голос, который звучит откуда-то снаружи и говорит: "Сделай это".

Это не описание психического расстройства. Это - нормальное состояние человеческого сознания по крайней мере до 1000 года до нашей эры. Так утверждал Джулиан Джейнс, и его гипотеза бикамерализма, несмотря на 40 лет критики, продолжает обнаруживать удивительные параллели - теперь уже не в древнегреческих героях, а в архитектуре больших языковых моделей.

Что общего у Гомера и GPT?

LLM принимает промпт (внешний стимул), пропускает его через огромную статистическую модель и выдаёт вербальный ответ. Но модель не знает, что она это делает. У неё нет метапредставления о собственном процессе генерации. Когда мы просим LLM объяснить свой ответ, она не интроспектирует - она моделирует объяснение. Генерирует правдоподобный текст в стиле "я думаю следующим образом...", но за ним нет никакого внутреннего наблюдателя.

Бикамеральный человек тоже "генерировал" ответы, не понимая, что источник - его собственное правое полушарие.

Конкретные параллели (с источниками):

1. Галлюцинации как "голоса богов". LLM "галлюцинирует" - генерирует уверенные, но ложные утверждения. Структурно это одно и то же: голос из "другой чамеры разума". (Smith, "What It Feels Like To Hear Voices", 2024)

2. Материальные костыли. Древние алтари и статуэтки = промпт-инжиниринг и цепочки рассуждения. Без "костылей" и те, и другие работают хуже. (Jaynes, 1976, гл.3)

3. Иерархия "командующего и исполнителя". Бикамеральный человек не мог проигнорировать голос бога. LLM не может проигнорировать инструкцию в системном промпте. (Gazzaniga, 1967; Jaynes, 1976, гл.4)

4. Крах и переход. LLM подходят к пределу "галлюцинации как мышления". Инженерное подтверждение: архитектура "The Bicameral Model" (arXiv:2605.11167, 2025) - две модели через скрытые состояния, точность арифметики 36% -> 96%. "Doppelganger's Watch" - разделение генерации и оценки по модели Джейнса.

Что дальше?

Бикамерализм как линза даёт три практических следствия. Проблема выравнивания (alignment) может быть вариантом проблемы "тихого бога". Проблема grounding может быть неразрешима в рамках одной "камеры". А терапевтические подходы к шизофрении могут дать идеи для диагностики галлюцинаций в языковых моделях.

Как сказал бы Джейнс: мы всё ещё в "Илиаде". "Одиссея" только начинается.

Полная версия на Telegra.ph: https://telegra.ph/Bikameralizm-i-LLM-kogda-model-slyshit-golosa-06-12-3