Приблизительно эквивариантные нейронные сети для динамики с нарушенной симметрией | Робин Уолтерс

Присоединяйтесь к группе чтения «Изучение графов и геометрии»: https://hannes-stark.com/logag-reading-group Статья «Приблизительно эквивариантные сети для несовершенно симметричной динамики»: https://arxiv.org/abs/2201.11969 Аннотация: Включение симметрии в качестве индуктивного смещения в архитектуру нейронных сетей привело к улучшению обобщения, эффективности данных и физической согласованности в моделировании динамики. Такие методы, как сверточные нейронные сети (CNN) или эквивариантные нейронные сети, используют привязку весов для обеспечения симметрии, такой как инвариантность относительно сдвига или вращательная эквивариантность. Однако, несмотря на то, что физические законы подчиняются многим симметриям, реальные динамические данные редко соответствуют строгой математической симметрии либо из-за зашумленных или неполных данных, либо из-за нарушений симметрии в лежащей в основе динамической системе. Мы исследуем приблизительно эквивариантные сети, которые смещены в сторону сохранения симметрии, но не строго ограничены этим. Ослабив ограничения эквивариантности, мы обнаружили, что наши модели превосходят как базовые модели без смещения симметрии, так и базовые модели со чрезмерно строгой симметрией как в моделируемых областях турбулентности, так и в реальном многопоточном струйном течении. Авторы: Руи Ван, Робин Уолтерс, Роуз Ю Slack для читательской группы: https://join.slack.com/t/logag/shared_invite/zt-u0mbo1ec-zElmvd1oSCXGjXvxLSokvg ~ Главы 00:00 - Введение 01:30 - Эквивариантные нейронные сети 09:03 - Обзор статьи Начало: 10:37 - Связанные работы 15:55 - G-эквивариантная групповая свертка 36:22 - G-управляемая свертка 50:46 - Ошибки эквивариантности модели Сюжет 1:00:30 - Вопросы и ответы