Андрей Карпаты | Введение в LLM | Большие Языковые Модели | Часовая Лекция

Это часовая вводная лекция о больших языковых моделях (LLM), рассчитанная на широкую аудиторию. Большие языковые модели — ключевой технический компонент таких систем, как ChatGPT, Claude и Bard. Мы разберём, что они собой представляют, куда движется эта технология, проведём параллели с современными операционными системами и поговорим о некоторых проблемах безопасности, возникающих в рамках этой новой вычислительной парадигмы. Это видео основано на слайдах недавней лекции Андрея Карпаты на AI Safety Summit. Галлюцинации и «сны» LLM не устраняются с помощью дообучения. Дообучение лишь направляет эти «сны», превращая их в «сны полезного ассистента». Всегда осторожно относитесь к тому, что говорит вам LLM, особенно если модель отвечает исключительно по памяти. При этом, как и в случае с человеком, если LLM воспользовалась поиском или системой извлечения информации и необходимые сведения попали в «рабочую память» — контекстное окно модели, — ей можно немного больше доверять при обработке этой информации и формировании итогового ответа. Но если совсем коротко: на данный момент не стоит безоговорочно доверять тому, что говорят или делают LLM. Например, при использовании инструментов всегда рекомендуется перепроверять математические расчёты и код, созданные моделью. Как LLM использует такой инструмент, как браузер? Она генерирует специальные токены, например |BROWSER|. Когда программный код, управляющий работой LLM, обнаруживает эти токены, он перехватывает последующий вывод модели, отправляет его соответствующему инструменту, получает результат и после этого продолжает генерацию. Откуда LLM знает, когда нужно генерировать такие специальные токены? Это поведение формируется на этапе дообучения: в обучающих данных модели на примерах показывают, как и когда необходимо обращаться к браузеру. Кроме того, инструкции по использованию инструментов могут автоматически помещаться в контекстное окно модели — например, в «системное сообщение». Также к лекции прилагается более полноценная, примерно 1000-строчная версия файла run.c из проекта llama2.c. - github.com/karpathy/llama2.c/blob/master/run.c Ссылка на источник с оригиналом: https://www.youtube.com/watch?v=zjkBMFhNj_g&list=TLPQMjEwODIwMjaHOy47VoDEHA&index=20 Я делаю эти переводы в первую очередь потому, что сам хочу слушать на русском людей, которые прямо сейчас создают ИИ-индустрию и определяют её будущее. А раз перевожу для себя — почему бы не выкладывать и для вас. Без пересказов и чужих интерпретаций: просто первоисточник на русском. Если вам такое интересно — подписывайтесь на канал. Больше про ИИ и новые модели: https://t.me/+OXkP1y5UPqNiMDI6 Мой авторский канал в Тг: https://t.me/+L6tbv8Puhug0OGVi Мой Instagram - https://instagram.com/kos.ibragimov #КосИбрагимов #нейросети #ии #андрейкарпаты #andrejkarpathy 00:00:00 — Введение: лекция о больших языковых моделях (LLM) 00:00:20 — Инференс LLM: как модель генерирует ответы 00:04:17 — Обучение больших языковых моделей 00:08:58 — «Сны» и галлюцинации LLM 00:11:22 — Как работают большие языковые модели? 00:14:14 — Дообучение модели и превращение её в ассистента 00:17:52 — Подводим промежуточные итоги 00:21:05 — Дополнение: сравнения, инструкции для разметчиков, RLHF, синтетические данные и рейтинги моделей 00:25:43 — Законы масштабирования LLM 00:27:43 — Использование инструментов: браузер, калькулятор, интерпретатор и DALL·E 00:33:32 — Мультимодальность: зрение и аудио 00:35:00 — Мышление: Система 1 и Система 2 00:38:02 — Самосовершенствование моделей и «AlphaGo для LLM» 00:40:45 — Персонализация LLM и магазин GPT 00:42:15 — LLM как операционная система 00:45:43 — Введение в безопасность LLM 00:46:14 — Джейлбрейки (Jailbreaks) 00:51:30 — Промпт-инъекции (Prompt Injection) 00:56:23 — Отравление данных (Data Poisoning) 00:58:37 — Итоги: безопасность LLM 00:59:23 — Заключение Ссылка на МОЙ канал - https://youtube.com/@kos.ibragimov?si=PKDQFQx57oMu0Gv7 Ссылка на ЭТО видео - https://youtu.be/WdOTixW8wbY Подписывайтесь на канал и ставьте лайк — так YouTube поймёт, что такие видео стоит показывать чаще. А я пойму, что стоит делать их дальше. Автор видео публично дал право свободно использовать это видео в образовательных целях и для внутреннего обучения. Преподаватели, студенты, школы, университеты, некоммерческие организации, компании и отдельные учащиеся могут бесплатно использовать этот материал на занятиях, в учебных курсах, программах внутреннего обучения и других образовательных активностях. Видео переведено и опубликован с целью свободного распространения на русскоязычную аудиторию, и не преследует цели коммерческой перепродажи, распространения, внешнего коммерческого использования, а также изменение материала ни коим образом не искажает его первоначальный смысл.