Тема: gguf
Бартовски за неделю упаковал девять моделей. Две уже стали хитами
За неделю Бартовски упаковал в GGUF девять свежих моделей, две из них сразу стали хитами. Что это за релизы и как их запускать локально на обычных потребительских картах.
Что реально качают из коллекции Bartowski
Что реально качают из коллекции Bartowski GGUF-квантов и что это значит для локального запуска…