Отладка отображения Thinking в Local GPT

10 подписчиков

12+
12+

3 просмотра

15 дней назад

ПожаловатьсяНарушение авторских прав

10 подписчиков

12+
12+

3 просмотра

15 дней назад

ПожаловатьсяНарушение авторских прав
12+
12+

3 просмотра

15 дней назад

Автоматическое саммари по записи стрима: - Иногда «мысли» модели перестают отображаться не из-за самой модели, а из-за парсера. Оказалось, мой плагин не был готов к особому формату чанков от OpenRouter. - Perplexity удивляет скоростью сбора данных из сети, но для качественного анализа лучше подходит ChatGPT. Модель в Perplexity часто выдает «месиво» из фактов. - Даже с понятной проблемой не всегда очевидно, где именно баг. Попросил модель добавить логирование, скормил ей сырые данные и только тогда она смогла написать правильный фикс. - В разработке софта не нужно продумывать всё до мелочей, как при постройке ракеты. Требования почти всегда меняются, как только видишь результат, поэтому быстрый MVP ценнее идеального ТЗ. - Спустя годы в разработке понимаешь, что умение отцентровать div — не главное. Навыки ясного письма и выстраивания отношений с людьми в итоге влияют на карьеру гораздо сильнее. Донаты: https://www.donationalerts.com/r/pfrankov VK Видео: https://vkvideo.ru/@5pfrankov/lives О стримере: https://github.com/pfrankov Чат вайбкодеров: https://t.me/+Fy4565yTVW83ZmIy Музыка на фоне: https://www.youtube.com/watch?v=kn95mnqdv_M 00:00:00 — Вступление 00:01:57 — Демонстрация мультика от GLM 4 00:04:22 — Что такое этап «Thinking» у моделей 00:05:50 — Проблема: Thinking не отображается 00:11:58 — Гипотеза: проблема в плагине AI Providers 00:15:13 — Объяснение вероятной причины бага 00:16:22 — Оффтоп: настройка обхода DPI на роутере 00:20:30 — Оффтоп: вакуумные пакеты для 3D-пластика 00:24:24 — Как парсинг Thinking работал раньше 00:31:54 — Задача для GPT: добавить логирование чанков 00:40:35 — Сравнение Perplexity и ChatGPT 00:49:07 — Как Perplexity так быстро ищет? 00:52:52 — Анализ логов: нашли причину бага 00:56:58 — Задача для GPT: исправить парсинг 01:05:13 — Разбор исправленного кода 01:10:07 — Процесс разработки: Agile против Waterfall 01:12:47 — Фикс сработал: Thinking отображается! 01:19:11 — Сравнение лимитов и цен ChatGPT Plus и Pro 01:26:12 — Какие навыки важнее, чем Frontend-опыт 01:28:40 — Заключение

Название:

Отладка отображения Thinking в Local GPT

Категория:

Разное