Куда на самом деле уходит твой запрос после Enter?

12+
12+

1 просмотр

6 дней назад

ПожаловатьсяНарушение авторских прав
12+
12+

1 просмотр

6 дней назад

ПожаловатьсяНарушение авторских прав
12+
12+

1 просмотр

6 дней назад

Что на самом деле происходит после того, как вы нажимаете Enter в ChatGPT? В этом видео проследим полный путь одного запроса: от вашего компьютера через интернет и инфраструктуру дата-центров — до мощных вычислительных ускорителей, памяти и самой языковой модели. Разберём, как текст превращается в токены, зачем модели нужны миллиарды параметров, как работают механизмы внимания и почему ответ появляется на экране постепенно, слово за словом. Вы узнаете, почему ChatGPT не хранит готовые ответы, зачем большим моделям нужны GPU и быстрая память, почему длинный диалог требует всё больше ресурсов и что физически происходит между нажатием Enter и первым появившимся словом. За простым окном чата скрывается огромная вычислительная система. Сегодня разберём её архитектуру простыми словами.

Название:

Куда на самом деле уходит твой запрос после Enter?

Категория:

Разное