Все типы процессоров за 7 минут (CPU, GPU, TPU, NPU, DPU, QPU)

В этом видео Cloud X Berry простым и доступным для начинающих языком объясняет, что такое CPU, GPU, TPU, NPU, DPU и QPU. Каждое открываемое вами приложение, каждая загружаемая игра, каждая запускаемая вами модель ИИ и каждый вызываемый вами облачный сервис в конечном итоге сводятся к одному: вычислениям. Но не существует одного процессора, предназначенного для эффективной обработки всех типов вычислений. Это не пробел, который кто-то забыл закрыть — это причина существования шести различных типов процессоров, и именно поэтому процессор в вашем ноутбуке не является тем, который используется для обучения модели, которую вы только что использовали. Мы начинаем с очевидного вопроса: почему бы просто не создать один чрезвычайно мощный процессор и использовать его для всего? Чтобы ответить на него, мы начнем с CPU, универсального процессора внутри компьютеров и серверов, который действительно может справиться почти со всем, что вы ему предложите — приложениями, запросами API, базами данных, бизнес-логикой, координацией всей системы. Эта гибкость реальна. Но гибкость не обязательно означает, что это лучший выбор для каждой рабочей нагрузки, и как только вам нужно выполнить миллионы похожих вычислений одновременно, процессор, созданный для разнообразия, оказывается неподходящим для этой задачи. Отсюда мы развиваем эту идею, используя по одному процессору за раз, и каждый из них является ответом на вопрос, заданный предыдущим. Огромное количество похожих операций, которые могут выполняться одновременно — это графический процессор (GPU), сначала для миллионов пикселей в игровом кадре, затем для огромного количества параллельных математических операций внутри нейронной сети. Операции машинного обучения, достаточно распространенные, чтобы оправдать создание собственного кремниевого кристалла — это TPU, ускоритель машинного обучения от Google, построенный на основе тензорных и матричных вычислений, и именно здесь мы объясняем, что на самом деле дает специализация и чем вы жертвуете ради нее. Искусственный интеллект, который должен работать на устройстве, а не в центре обработки данных — это нейронный процессор (NPU), обрабатывающий улучшение изображений, распознавание речи, обнаружение объектов и фоновые эффекты локально, с меньшей задержкой и меньшим количеством сети. Мы также отвечаем на вопрос, который большинство поясняющих статей обходят стороной: если TPU и NPU ускоряют ИИ, в чем же между ними реальная разница? Затем мы полностью оставляем тему вычислений, потому что иногда проблема заключается в перемещении данных, а не в их обработке. Сети, хранилище, безопасность и трафик внутри центра обработки данных будут потреблять ресурсы ЦП, которые должны использоваться для работы вашего приложения — это DPU. И наконец, процессор, который вообще не принадлежит к тому же семейству: QPU, построенный на кубитах, суперпозиции и запутанности, совершенно другая модель вычислений, а не более быстрая версия старой. Мы честно говорим о том, где это полезно, а где нет. В заключение мы снова объединяем все шесть процессоров — какой процессор подходит для какой задачи, как один облачный сервер или один телефон используют несколько из них одновременно и почему правильный способ чтения одного из этих названий — начать с задачи, а не запоминать аббревиатуру. РАЗДЕЛЫ 0:00 Каждое приложение сводится к одному 0:06 Почему нет одного процессора для всего 0:12 CPU, GPU, TPU, NPU, DPU, QPU 0:21 Почему бы просто не создать один мощный процессор? 0:28 ЦП и что означает «общего назначения» 0:50 Гибкость — это не то же самое, что «лучший» 1:09 Вот тут-то и пригодится графический процессор (GPU) 1:21 Миллионы пикселей на кадр 1:41 Почему графические процессоры стали использоваться для ИИ 1:59 Вот тут-то и пригодится TPU 2:22 Идея специализированного оборудования 2:49 Вот тут-то и пригодится NPU 3:25 Чем на самом деле отличаются TPU и NPU 3:40 Другая проблема: перемещение данных 4:07 Вот тут-то и пригодится DPU 4:36 Вот тут-то и пригодится QPU 4:56 Кубиты, суперпозиция и запутанность 5:28 Почему квантовые вычисления не являются заменой 5:37 Шесть задач, а не шесть конкурентов 5:47 Какой процессор для какой рабочей нагрузки 6:23 Как они работают вместе в одном устройстве 6:49 Начните с проблемы, а не с аббревиатуры 7:03 Краткий обзор КТО ЭТО ДЛЯ Разработчиков, которые постоянно видят эти аббревиатуры в спецификациях, типах облачных экземпляров и архитектурных схемах и хотят, чтобы идея действительно стала понятной, инженеров, выбирающих экземпляр или устройство и не уверенных, действительно ли для рабочей нагрузки нужен графический процессор, а также всех, кто проходит собеседование на должность, где затрагиваются вопросы системного проектирования, инфраструктуры машинного обучения или компьютерной архитектуры. #cpu #gpu #tpu #npu #computerarchitecture #systemdesign