Топологическая Перспектива на Гроккинг

Опубликована статья "Топологическая Перспектива на Гроккинг:
Фазовая Синхронизация и Эмерджентная Структура
в Переобучённых Нейронных Сетях"

в https://zenodo.org/records/18066821на английском языке  "A Topological Perspective on Grokking: Phase Synchronization and Emergent Structure in Overparameterized Neural Networks"

версию статьи  на русском языке Вы можете скачать на
https://zenodo.org/records/18066721

Аннотация
Мы предлагаем топологическую перспективу на феномен гроккинга в переобучённых
нейронных сетях. Вместо полной физической теории генерализации, мы фокусируемся на
конкретном, проверяемом механизме: триадная фазовая синхронизация индуцирует топологическую реорганизацию в пространстве активаций, коррелирующую с внезапной генерализацией. Мы формулируем фальсифицируемое центральное утверждение: при сильной триадной регуляризации (; > ;c) происходит дискретный переход в топологической сложности (H1) пространства фаз, совпадающий с гроккингом. Мы предоставляем: (1) строгое определение приближённой U(1)-симметрии в пространстве фаз, (2) операциональный протокол измерения топологического перехода через персистентную гомологию, (3) эмпирические границы применимости (случаи, где гроккинг НЕ происходит), (4) формальное утверждение о связи синхронизации и топологии (Теорема 3.1). Мы явно разделяем установленные результаты, физические аналогии и спекулятивные гипотезы. Эта работа предлагает мост между эмпирическими наблюдениями о гроккинге [1, 2, 3] и строгими математическими инструментами топологии данных.