Глоссарий

Термины локальных LLM и AI-агентов — короткое определение и то, как это выглядит на живом стенде, без маркетинговых цифр.

• Спекулятивное декодирование

  Спекулятивное декодирование — метод ускорения генерации LLM, при котором маленькая черновая модель угадывает несколько следующих токенов, а большая проверяет их за один проход вместо генерации по одному. Ускорение в 1,8–3 раза на детерминированных задачах (код, JSON, математика) без потери качества: большая модель принимает или отвергает черновик, поэтому текст выдаёт тот же. На задачах со свободной творческой генерацией acceptance падает и ускорение исчезает.

• Токены LLM

  Токен — минимальная единица текста, которой оперирует LLM: часть слова, слово или знак. Модель не видит слова целиком: русский текст из-за морфологии режется дороже английского, одно русское слово может занимать 2–3 токена. От токенов зависит всё: цена запроса (вход и выход тарифицируются отдельно), размер контекста, скорость генерации. Реальный месячный бюджет одного инженера при плотной работе с агентами — десятки долларов и миллиарды токенов.

• A2A

  A2A (Agent2Agent) — открытый протокол, изначально предложенный Google и переданный в Linux Foundation, который стандартизирует обмен задачами между независимыми агентами: один агент публикует карточку возможностей, второй отправляет ему задачу и получает результат, не зная внутреннего устройства. В отличие от MCP, который подключает агенту инструменты, A2A связывает агентов друг с другом — делегирование, статус выполнения, артефакты.

• ACP

  ACP (Agent Communication Protocol) — открытый протокол связи агентов, выросший из IBM Research (BeeAI) и переданный в Linux Foundation. Ставка ACP — минимальный порог входа: агенты общаются через обычные HTTP-запросы с JSON-сообщениями, без обязательных сложных схем и длинных структур, поэтому связать двух агентов можно за минуты. Занимает ту же нишу, что A2A — межагентное делегирование, — но с другой философией транспорта.

• ANP

  ANP (Agent Network Protocol) — открытый протокол для децентрализованной сети агентов, где каждый агент имеет независимую идентичность (по модели did:WBA на основе веб-стандартов), публикует описание возможностей по URL и находит других агентов в открытой сети. Идея — сделать связь агентов такой же открытой, как веб-страницы: любой сервер может стать агентом, любой агент — найти и позвать другой.

• CAG

  CAG (Cache-Augmented Generation) — альтернатива RAG, при которой нужные документы целиком кладутся в контекст модели и кэшируются на уровне KV-кэша, а не ищутся ретривером по запросу. Вместо цикла «поиск → вставка фрагментов» — один загруженный корпус, из которого модель отвечает напрямую. Работает, когда знания помещаются в контекст и меняются редко; при больших или быстро устаревающих базах возвращает к RAG, потому что длинный контекст деградирует и стоит токенами на каждом ходу.

• DAG-оркестрация

  DAG в агентных пайплайнах — направленный ациклический граф, описывающий порядок шагов: у каждого узла есть входы и выходы, циклы запрещены, поэтому порядок выполнения выводится автоматически. В отличие от жёсткой цепочки «шаг за шагом», граф позволяет ветвления, параллельные ветки и точечный перезапуск упавшего узла без повторного прогона всего пайплайна. На графах строятся оркестраторы вроде LangGraph, где узел — вызов модели или инструмента, а ребро — условие перехода.

• GGUF-квантование

  GGUF — формат файлов для запуска LLM через llama.cpp и LM Studio на потребительском железе. Квантование снижает разрядность весов с 16 бит до 2–8, чтобы модель влезла в видеопамять: 27B-модель весом ~54 ГБ после тернарного квантования занимает 5,95 ГБ и сохраняет около 98% исходного качества. Чем агрессивнее квант (Q2–Q8), тем меньше нужно VRAM — и тем сильнее деградация на сложных задачах; Q4_K_M остаётся рабочим дефолтом для моделей 7–9B.

• MCP

  MCP (Model Context Protocol) — открытый протокол Anthropic, стандартизирующий подключение инструментов и источников данных к LLM-приложению. Сервер MCP объявляет набор инструментов, ресурсов и промптов, клиент (агент) обнаруживает их автоматически и вызывает по единой схеме — вместо самописной интеграции под каждый источник. Экосистема MCP-серверов закрывает типовые потребности: файлы, базы, браузер, корпоративные системы.

• PII-обезличивание для LLM

  PII-обезличивание — замена персональных данных (имён, телефонов, паспортов, адресов) на плейсхолдеры перед отправкой текста в языковую модель, с возможностью обратной подстановки. Для работы с внешними LLM это стандарт динамической защиты: прокси перехватывает запрос, находит PII, маскирует, отправляет в модель и восстанавливает реальные значения в ответе. В РФ это вопрос не только безопасности, но и 152-ФЗ: важно понимать, что псевдонимизация не равна минимизации — обезличенные данные всё равно остаются в зоне закона.

• RAG

  RAG (Retrieval-Augmented Generation) — архитектура, при которой LLM перед ответом получает найденные в базе знаний фрагменты вместо опоры только на веса модели. Туториалы показывают «ChromaDB + эмбеддинги за 5 минут», но в реальной эксплуатации ломаются три вещи: переиндексация создаёт дубликаты чанков, эмбеддер одинаково уверенно ранжирует релевантное и мусорное, индекс зарастает мёртвыми записями. Лечится детерминированными ID от содержимого, адаптивными порогами и переранжированием.