EN
Выразимость CPL-функций нейронными схемами над ReLU-базисами
Опубликована: 2023 год, том 27, выпуск 1, С. 35–78
Аннотация
В работе рассматривается вопрос выразимости любой кусочно-линейной непрерывной функции многих переменных в виде нейронной схемы над базисом с нелинейностями типа max. Затем результат переносится на нейронные схемы, построенные над базисом с единственной нелинейной функцией RELU. Перед доказательством результата формулируются и доказываются несколько вспомогательных, технических лемм, расширяющих имеющиеся знания о свойствах кусочно-линейных функций и классов эквивалентности, порожденных некоторым набором гиперплоскостей. Также в работе даются оценки нелинейной сложности и глубины для построенных нейронных схем в двух данных базисах. Наконец, в работе доказывается равенство класса кусочно-линейных непрерывных функций, класса функций, представимых нейронными схемами над базисом первого типа и класса функций, представимых нейронными схемами над базисом второго типа.
Ключевые слова: Нейронные схемы, архитектура, восстановление функций, выразимость функций, выпуклые функции, кусочно-линейные непрерывные функции, RELU-функции, функция максимума.
BibTeX
@article{IS-Shishlyakov2023,
author = {Шишляков, Владимир Геннадьевич},
title = {{Выразимость CPL-функций нейронными схемами над ReLU-базисами}},
journal = {Интеллектуальные системы. Теория и приложения},
year = {2023},
volume = {27},
number = {1},
pages = {35--78},
}
AMSBIB
\RBibitem{IS-Shishlyakov2023}
\by В.\,Г.~Шишляков
\paper Выразимость CPL-функций нейронными схемами над ReLU-базисами
\jour Интеллектуальные системы. Теория и приложения
\yr 2023
\vol 27
\issue 1
\pages 35--78