Запускаем llama.cpp на Windows 11 за 5 минут (unsloth/gpt-oss-20b-GGUF)

26 подписчиков

12+
12+

14 просмотров

18 дней назад

ПожаловатьсяНарушение авторских прав

26 подписчиков

12+
12+

14 просмотров

18 дней назад

ПожаловатьсяНарушение авторских прав
12+
12+

14 просмотров

18 дней назад

Короткая инструкция для запуска llama.cpp с моделью unsloth/gpt-oss-20b-GGUF в режиме сервера (с веб-интерфейсом) на Windows 11 за 5 минут. Для запуска надо 15 Гб SSD/HDD и 16 Gb VRAM.

Название:

Запускаем llama.cpp на Windows 11 за 5 минут (unsloth/gpt-oss-20b-GGUF)

Категория:

Разное