Битва 3 локальных ИИ-кодеров на 10 ГБ GPU: DeepSeek, Qwen, Laguna
Я запустил три локальные модели программирования на одной и той же потребительской видеокарте с 10 ГБ памяти — Alibaba Qwen3-Coder-30B-A3B, DeepSeek-V2-Lite 16B и Poolside Laguna XS 2.1 33B. Использовалась та же десятизадачная тестовая среда, что и в EP007, те же правила, записанные перед запуском. Самая быстрая модель написала больше всего ошибок в коде. Самая медленная победила. А одна из них спрятала свой ответ в канале, который я не читал. Итого: Qwen 9/10 · DeepSeek 6/10 · Laguna 2/10. Скорость декодирования: DeepSeek 106 т/с · Laguna 57 т/с · Qwen 23 т/с — производительность действующей модели составляет треть от скорости самой быстрой. Всё (предварительная регистрация, конфигурация настройки, анализ ошибок по задачам, логи воспроизведения, SHA-256 GGUF, коммит сборки llama.cpp) находится в репозитории по ссылке ниже. Ничего не было запрограммировано до конца — в предварительной регистрации зафиксированы три условия отправки/остановки до того, как какая-либо модель увидела запрос. 🔗 Репозиторий эпизода (предварительная регистрация · доказательства · настройка · воспроизводимый манифест): github.com/jimmypresto/plans/tree/main/agentic-youtube/short-coder-moe-pk 🔗 EP007 (предыдущий эпизод — в этом используется та же схема): https://www.youtube.com/watch?v=5M1_bqp6Bo0 Весь код, показанный в этом видео, был сгенерирован моделями ИИ, а не написан людьми. Названия и версии моделей отображаются на экране для каждого клипа. #LocalLLM #AICoding #Qwen3Coder #DeepSeek #Laguna #RTX3080 #LlamaCpp #Benchmarks
Название:
Битва 3 локальных ИИ-кодеров на 10 ГБ GPU: DeepSeek, Qwen, Laguna
Категория:
Разное