Эмбеддинг (embedding): текст в виде вектора чисел

Коротко: Эмбеддинг это представление текста (слова, предложения, целого документа) вектором чисел фиксированной длины, где близкие по смыслу тексты дают близкие векторы. Эмбеддинг-модель обучена так, что «кот сидит на коврике» и «кошка лежит на ковре» окажутся рядом в векторном пространстве, хотя не совпадают ни одним словом. На этом построен семантический поиск и RAG: документ раскладывается на куски, каждый превращается в вектор, и поиск идёт не по совпадению слов, а по смысловой близости запроса к куску.