Трансформеры для анализа данных в астрофизике (И. Харук)

Аннотация: нейронные сети все чащи используются для анализа данных физических экспериментов. Особую популярность приобретают нейронные сети типа трансформер, способные находить сложные корреляции между данными благодаря используемому в них механизму внимания, а также графовые нейронные сети. На семинаре будет объяснена архитектура графовых нейронных сетей и типа трансформер в адаптированном для физиков изложении. Основное внимание будет уделено логике обработки данных, позволяющей понять, когда трансформеры являются хорошим выбором архитектуры для исследуемой задачи. На практической части семинара буде разбираться задачи реконструкции энергии событий, регистрируемых в Telescope Array. Будут предложены как готовые решения, так и полная реализация архитектуры трансформеров с нуля. Предполагается, что слушатели знакомы с базовыми концепциями нейронных сетей.