LoRA: дообучение без переписывания всей модели

Коротко: LoRA (Low-Rank Adaptation) это техника дообучения модели, при которой исходные веса замораживаются, а обучаются только небольшие матрицы-«надстройки» низкого ранга поверх них. Вместо миллиардов обучаемых параметров получаются миллионы: адаптер на порядки легче модели, обучается быстрее, хранится отдельно и может включаться поверх разных баз. На практике LoRA применяют, чтобы научить модель стилю, форматам или узкому домену (письма, логи, диагностические выводы) без потери общих способностей базовой модели. Побочный эффект надо проверять замерами: адаптер помогает в целевом и может незаметно портить остальные задачи.