Динамика размерности представлений и информации о классе при обучении импульсной нейронной сети

Аннотация

Для одной импульсной сети ResNet-18, обученной классификации изображений, во всех её 17 импульсных слоях прослежены в ходе обучения размерность представлений и информация о классе в активности отдельных нейронов. В глубоких слоях размерность сначала снижается и лишь затем возрастает; линейная мера размерности этого сжатия не выявляет. Информация о классе в расчёте на нейрон в первые эпохи возрастает в ранних и средних слоях, затем снижается в них и возрастает в глубоких; эпоха её максимума не убывает с глубиной слоя.

Ключевые слова: импульсные нейронные сети, внутренняя размерность, взаимная информация, популяционное кодирование.

BibTeX
@article{IS-Pospelov-Plusnin-Rogozhnikova-Ivanova-Toropova-Ivashkina-Avetisov-Anokhin2026,
  author  = {Поспелов, Никита Андреевич and Плюснин, Виктор Владимирович and Рогожникова, Ольга Сергеевна and Иванова, Анна Андреевна and Торопова, Ксения Александровна and Ивашкина, Ольга Игоревна and Аветисов, Владик Аванесович and Анохин, Константин Владимирович},
  title   = {{Динамика размерности представлений и информации о классе при обучении импульсной нейронной сети}},
  journal = {Интеллектуальные системы. Теория и приложения},
  year    = {2026},
  volume  = {30},
  number  = {4},
  pages   = {393--396},
}
AMSBIB
\RBibitem{IS-Pospelov-Plusnin-Rogozhnikova-Ivanova-Toropova-Ivashkina-Avetisov-Anokhin2026}
\by Н.\,А.~Поспелов, В.\,В.~Плюснин, О.\,С.~Рогожникова, А.\,А.~Иванова, К.\,А.~Торопова, О.\,И.~Ивашкина, В.\,А.~Аветисов, К.\,В.~Анохин
\paper Динамика размерности представлений и информации о классе при обучении импульсной нейронной сети
\jour Интеллектуальные системы. Теория и приложения
\yr 2026
\vol 30
\issue 4
\pages 393--396
Опубликовано на условиях лицензии Creative Commons Attribution 4.0 International (CC BY 4.0)

← К номеру журнала

× Issue cover