Jev не умеет писать. Зато решает быстрее и в разы дешевле LLM

256 подписчиков

12+
12+

60 просмотров

10 дней назад

ПожаловатьсяНарушение авторских прав

256 подписчиков

12+
12+

60 просмотров

10 дней назад

ПожаловатьсяНарушение авторских прав
12+
12+

60 просмотров

10 дней назад

Мое закрытое сообщество https://amorev.ru/promo Мой ИИ-провайдер https://ai.wormsoft.ru. Мой Telegram-канал https://t.me/gmoreva Мы привыкли, что ИИ — это «текст на вход, текст на выход». Jev от TypeSafe AI работает иначе: на входе — состояние (текст или JSON) и типизированные вопросы, на выходе — готовые решения с откалиброванными вероятностями. Это новый класс моделей, который TypeSafe называет System One — по канемановской «быстрой» Системе 1: пока LLM-ки с их цепочками рассуждений живут в территории медленной Системы 2 . Три примитива: Noul (да/нет с вероятностью), Choice (выбор из заданных вариантов, до 255) и Score (оценка по описанной шкале) . Все вопросы в одном запросе отвечаются параллельно, за один проход . Заявленная скорость — 70–500 мс, цена — $0.042 за миллион входных токенов, выход бесплатный . И важный нюанс: «не галлюцинирует» означает лишь то, что модель не выдаст значение вне вашей схемы — но выбрать неправильный вариант из списка она вполне может . В ролике: 🔹 Пояснение что это такое и как он может быть полезен; 🔹 Playground в деле: категоризация обращений, фишинг-письма, срочность тикетов; 🔹 Битва агентов: поиск отеля в Пекине — Jev + LLM за 36 секунд (1 вызов LLM) против чистой LLM за 202 секунды; 🔹 Голосовое управление личным кабинетом провайдера: 700 мс на Jev против 2–3.5 секунд на LLM; 🔹 План: реализовать такой же API на своей стороне и внедрить в техподдержку для категоризации запросов без LLM-токенов; Таймкоды: 00:00 Введение 03:27 Пробуем playground 04:58 Типы ответов 09:34 В чем плюсы? 11:07 Пример интеграции. Поиск отеля 15:19 Важное по браузерным агентам на JEV 16:40 Деньги на браузерного агента 18:51 Второй кейс. Имитация распределения техподдержки 20:30 Третий кейс. Управление браузером голосом 23:02 Итоги

Название:

Jev не умеет писать. Зато решает быстрее и в разы дешевле LLM