Алексей Турчин: Самоусиливающийся ИИ

13 февраля 2017 Алексей Турчин (https://www.youtube.com/user/turchin/ ) провёл открытую встречу по футурологии (https://vk.com/kocherga_future ) в Кочерге (http://kocherga-club.ru/ ) и рассказал о самоусилении искусственного интеллекта. Видео про будущее в Кочерге: https://www.youtube.com/playlist?list=PLaQzcyI9dgYRP45OFQi6enUD87-MLkg_u «Самоусиливающийся ИИ» — магические слова, которые могут объяснить что угодно. Нам говорят: «Вот появится самоусиливающийся ИИ, и тут все изменится». Но что происходит внутри самоусиливающегося ИИ? Мы пристально посмотрим на разные режимы изменений, который могут происходить в будущем ИИ, и постараемся понять, на какие их них можно влиять, чтобы сделать ИИ более безопасным. Эти режимы вкратце такие: подключение новых компьютеров, обучение, подключение программных модулей, глобальная смена архитектуры и мастер алгоритма, смена инструментальных целей, смена окончательной цели, выращивание новых поколений, создание собственных копий. Мы постараемся доказать, что чем выше уровни изменений, тем меньше сам ИИ будет их хотеть, поскольку в них есть риски для него самого, в силу чего ИИ может предпочитать эволюционное развитие революционному. Однако если его будет поджимать конкуренция со стороны других ИИ, он вынужден будет перейти к более рискованному революционному развитию. Страницы события: https://vk.com/wall-118482811_48 https://www.facebook.com/events/1753336468318337/ https://kocherga.timepad.ru/event/444145/