05
Вселенная учится
В августе 2020 года Виталий Ванчурин, физик-теоретик из Университета Миннесоты, выложил на arXiv статью с названием, от которого у коллег дёрнулся глаз: «The World as a Neural Network».
Название читается буквально: «Мир как нейронная сеть». Онтологически, без аналогий: мир является нейронной сетью.
Статью заметили. Реакция разделилась на три категории: физики говорили «интересно, но как это опровергнуть? — если нельзя, это не наука»; специалисты по машинному обучению — «звучит безумно, но математика непротиворечива»; научные журналисты — «мы живём в Матрице?!». (Нет, не в Матрице, — но к этому мы вернёмся.)
Утверждение Ванчурина начинается с вопроса, который физика задаёт себе уже сто лет и не может на него ответить.
Вопрос такой: почему квантовая механика и гравитация не дружат?
Квантовая механика — лучшая теория мельчайшего: она описывает атомы, фотоны и электроны с точностью до двенадцатого знака после запятой, и за сто лет ни один эксперимент не обнаружил отклонения от её предсказаний.
Общая теория относительности — лучшая теория большого: она описывает гравитацию, пространство-время, чёрные дыры и расширение Вселенной, подтверждена гравитационными волнами (LIGO, 2015) и фотографией чёрной дыры (телескоп «Горизонт событий», 2019).
Обе работают идеально, каждая в своей области.
Проблема в том, что они несовместимы. Квантовая механика говорит, что пространство-время — фон, на котором происходят события; общая относительность — что пространство-время — участник событий, оно гнётся, растягивается и вибрирует. Когда квантовые правила пытаются применить к самому пространству-времени, математика ломается, выдавая бесконечности, расходимости и бессмысленные ответы.
За последние полвека на эту проблему бросили лучшие умы — теория струн, петлевая квантовая гравитация и ещё несколько подходов с не менее громкими названиями. Результат на выходе оказался скромным: элегантные формализмы, ноль экспериментальных предсказаний и одна Нобелевская премия (за сопутствующую математику, а не за физику).
Ванчурин предложил зайти с прямо противоположной стороны: что если квантовая механика и гравитация — два режима одного и того же процесса, и шестьдесят лет коллективного клея, потраченного на их «объединение», ушли впустую ровно потому, что склеивать там было нечего?
Процесс этот — обучение; идею Ванчурина в одном абзаце имеет смысл сначала положить целиком, а потом разворачивать по частям.
Мир — это нейронная сеть с переменными двух типов: быстрыми (состояния нейронов) и медленными (веса связей). Динамика мира — это оптимизация функции потерь, то есть обучение. Когда доминируют быстрые переменные, мы видим квантовую механику — суперпозиции, вероятности, правило Борна; когда доминируют медленные — гравитацию: геометрию, кривизну, уравнения Эйнштейна. Одна и та же сеть, два разных предельных режима её поведения.
(Вы сейчас подумали: «Подождите, квантовая механика и гравитация — два непримиримых врага, их пытаются объединить шестьдесят лет, и ни у кого не получается». В том-то и дело: все пытаются объединить два, а Ванчурин говорит, что их и не нужно объединять, потому что они уже одно — два режима одной системы. Лёд и пар никто не «объединяет»: это вода в разных состояниях.)
Дальше идёт распаковка по слою: сначала быстрые переменные с их квантовой механикой, потом медленные с гравитацией, потом многоуровневое обучение, в которое попадает биологическая эволюция со всеми её мутациями и отборами.
Быстрые переменные: откуда берётся квантовая механика.
В нейронной сети есть нейроны — узлы, которые получают сигналы, обрабатывают их и передают дальше. Состояния нейронов меняются быстро: на каждом шаге обучения они подстраиваются под текущие входы. На таком масштабе сеть всё время находится в небольшом отклонении от своей «правильной» конфигурации, и эти отклонения никогда не обнуляются полностью — слишком много данных, слишком много градиентов, всегда есть какой-то остаточный шум.
Ванчурин показывает: если забыть на минуту, что под капотом сидит обучающаяся сеть, и просто посмотреть на статистику этих остаточных колебаний, — получается математика, буквально совпадающая с квантовой механикой, — та же самая, до конкретных уравнений и до конкретных операторов, никакой «аналогии» в мягком смысле слова тут не подразумевается.
Объясняется это проще, чем кажется. Возьмите любую гладкую яму, в которую может скатиться шарик, — миска, чашка, дно тарелки. Чем ближе вы к дну, тем больше яма похожа на параболоид: это математический факт, у любой гладкой функции вблизи минимума второй порядок выглядит квадратичным. Что бы вы ни сделали с шариком на дне, его энергия отклонения будет пропорциональна квадрату этого отклонения — именно второй степени; первая или третья на это место не подходят, потому что сама эта квадратичность здесь — свойство геометрии вблизи минимума, а не выбор физика.
Когда обучающаяся сеть нашла свой минимум функции потерь и слегка вокруг него колеблется, эта же геометрия дна определяет статистику её состояний: вероятность застать сеть в данном отклонении пропорциональна квадрату амплитуды этого отклонения. И вот вам правило Борна, при выводе которого ни одной квантовой частицы из шкафа доставать не пришлось: квадрат появляется из чисто геометрической структуры окрестности минимума, и точно такой же квадрат появлялся бы у любой другой системы с гладкой функцией потерь, кто бы её ни тренировал. Сто лет физики принимали правило Борна как мистическое свойство мира: так устроено, не спрашивайте. Ванчурин отвечает: спрашивайте — ответ следует прямо из того, что у функции потерь вообще есть минимум, и любая конкретная нейросеть, дотренированная градиентным спуском, демонстрирует ту же квадратичную статистику в собственной окрестности.
Если вы когда-нибудь тренировали нейросеть (или хотя бы слышали, как это делают), вы знаете этот шум: график ошибки скачет, показатели колеблются, и модель здесь ни при чём, потому что обучение по природе шумное. Убрать его нельзя, как нельзя убрать рябь на воде, пока дует ветер. Этот шум, эти колебания на самом фундаментальном уровне физики называют «квантовыми флуктуациями».
Из той же геометрии берётся и принцип неопределённости Гейзенберга. Известный своей загадочностью: чем точнее вы знаете, где частица, тем меньше знаете, куда она летит. Магия отсутствует. У любой обучающейся системы существует фундаментальный размен: чем уже вы пытаетесь зафиксировать одну переменную, тем шире разлетаются сопряжённые с ней. В машинном обучении это давно заметили: если вы слишком сильно сжимаете модель в одном направлении пространства параметров, шум в перпендикулярных направлениях растёт, а суммарная неопределённость остаётся снизу ограничена. Ровно тот же неустранимый минимум висит над квантовыми измерениями: положение и импульс ведут себя как сопряжённая пара, у которой произведение неопределённостей не падает ниже определённой константы.
Дальше Ванчурин в той же логике аккуратно выводит уравнение Шрёдингера, операторное представление состояний, матрицу плотности и ещё ряд механизмов, которые в стандартных учебниках вводятся как постулаты. У него они — теоремы, вытекающие из того, что под наблюдаемой физикой работает обучающаяся сеть в окрестности своего минимума. Пересказывать выкладки в книге смысла нет, но направление ясно: вместо квантовой странности как фундамента остаётся статистика обучающейся системы вблизи равновесия, к которой можно подойти с обычной математикой и по дороге не обращаться к интуиции «так устроен мир».
После покупки
Эта глава входит в полную версию
Первые главы открыты бесплатно. Полная книга доступна после покупки и остаётся в вашей библиотеке.
· · Уже купили? ВойдитеПисьмо о новых главах и опытах
Не чаще раза в неделю. Без регистрации, отписка в одно нажатие.