Опубликовано
Библия попаданца: влезет ли вся наука в телефон
Автор: Гусев Николай [портфолио]
Дата обновления не указана в исходнике.
Темы: popadantsy, local-models, science
Сложность: средняя
Мы с женой вчера обсудили классический сценарий "попаданца": если вдруг в прошлое, то электричество я худо-бедно добуду, а вот с остальным - химия, медицина, точные технологии - будет сложнее. Прикольно было бы иметь на телефоне этакую "Библию попаданца": языковая модель, обученная на всём-всём-всём, плюс база знаний, - на современном телефоне со 128 GB памяти это база. Я решил проверить эту теорию числами, а не фантазиями. Это третья часть цикла: первая - про K2 Horizon из ОАЭ, вторая - про локальные LLM на Android.
Теория
Формулировка: на телефоне со 128 GB постоянной памяти можно разместить языковую модель плюс полные данные институтского курса по физике, химии, математике, медицине и биологии - и получить офлайн-справочник попаданца, который отвечает на вопросы без сети.
Проверяю три части теории: сколько весит вся человеческая база знаний, сколько весит модель, которая умеет по ней отвечать, и сколько всего этого влезает в телефон.
Часть 1. Сколько весит знание
Взял реальные оффлайн-дампы Kiwix (ZIM-файлы, проверены через каталог по состоянию на 2026 год):
- Вся русская Википедия (без картинок) - 4.9 GB, 5 млн статей
- Вся английская Википедия (без картинок) - 49.1 GB, ~7 млн статей
- Английская Википедия, текстовая версия - 11.7 GB
- Русская Википедия с картинками - 38.2 GB
Википедия - это не институтский курс, это шире. Институтский курс по пяти предметам - это сильное подмножество: примерно 50-200 тысяч статей или несколько сотен учебников. В пересчёте на текст - единицы гигабайт, а не десятки. Вердикт по первой части теории: подтверждается с запасом. В 128 GB база знаний институтского уровня влезает десятки раз.
Часть 2. Сколько весит модель, которая по этому отвечает
Из второй части: Qwen 3.5 1.7B Q4_K_M - примерно 1.2-1.4 GB, Phi-4 Mini 3.8B Q4_K_M - 2.7 GB, Gemma 4 E4B - около 3 GB. Все три - реальные рабочие модели, которые запускаются на Android через llama.cpp-совместимые приложения.
Вердикт по второй части: подтверждается. Модель-ассистент занимает от 1 до 3 GB - это меньше, чем одна русская Википедия.
Часть 3. А теперь честно про то, что из этого не работает
Вот здесь теория спотыкается, и я объясню почему.
LLM сама по себе не учебник. Модель на 1-4B, обученная на всём интернете, помнит факты размыто. Она перепутает пропорции в синтезе серной кислоты и назовёт не тот антибиотик - с той же уверенностью, с которой называет правильный. Для попаданца это не баг, а летальный исход. Чем меньше модель, тем сильнее эта проблема: качество падает резко, а не плавно.
RAG решает ровно половину проблемы. Связка "модель + база знаний через поиск по документам" (тот самый AnythingLLM из второй части) работает так: модель не вспоминает, а читает найденный кусок текста и отвечает по нему. Это резко снижает галлюцинации на фактах из базы. Что работает хорошо: "что написано в статье про порох", "переведи рецепт из учебника", "перескажи раздел про электричество". Что не работает: "составь мне технологическую карту выплавки стали из того что есть" - это не поиск, а синтез из разрозненных знаний, и 2B-модель на этом безнадёжна.
Мультимодальность ещё хуже на телефоне. Распознать фотографию чертежа или старинного механизма маленькой моделью можно только на уровне "это похоже на рычаг".
Часы работы и тепло. Sustained-инференс просаживает скорость на 20-30%, телефон греется. Библия попаданца - не то, что читают часами подряд.
Что реально собрать на телефоне сегодня
Не "модель, обученная на всём", а связка: локальная LLM как интерфейс + оффлайн-база знаний через RAG + узкоспециализированные справочники. Рабочая сборка для 128 GB:
- Qwen 3.5 1.7B или Phi-4 Mini 3.8B (1.2-2.7 GB) - интерфейс
- Вся русская Википедия в ZIM через Kiwix (4.9 GB без картинок) - база
- Прикладные ZIM-справочники: медицина (WikiMed), выживание, инженерия, математика, химия - ещё 10-30 GB на выбор
- AnythingLLM или ChatterUI - RAG-обёртка, соединяющая модель с базой
- Итого: 20-40 GB, из 128 GB остаётся запас
Это даёт то, что я назвал бы не "Библией попаданца", а "картотекой попаданца": ты спрашиваешь, система находит нужную статью или раздел, модель читает его тебе вслух простыми словами. Скорость на средних чипах - 5-10 tok/s, этого достаточно для поиска и пересказа.
Чего не хватает для полной Библии
Для настоящего "синтеза новых решений из старых знаний" нужен другой класс моделей: 30-70B, работающие на телефоне пока только на флагманах с большими квантами и медленно. Плюс качественный русский RAG - большинство качественных баз на английском. Плюс верификация: модели без внешней проверки на редких фактах врут ровно так же уверенно, как и правду.
Но тренд явный: два года назад разговор про LLM на телефоне был теорией, сейчас - практика. Через поколение чипов связка "модель + вся Википедия + RAG" станет такой же нормой, как офлайн-навигатор. И тогда да - 128 GB будут Библией попаданца в буквальном смысле.
Итог по теории
Подтверждена частично. Памяти действительно хватает с большим запасом (часть 1 и 2 - подтверждены числами). Но "языковая модель, обученная на всём-всём-всём" - это не то, как работает телефонная LLM: маленькая модель не заменяет базу, а ищет в ней. Реальная сборка - не Библия, а картотека с дельным библиотекарем. Электричество добывать - по книжке, а не спрашивать у 1.7B.
Ссылки: K2 Horizon из ОАЭ - часть 1, локальные LLM на Android - часть 2, каталог оффлайн-дампов Kiwix, Gemma 4 на телефоне.