О скорости сходимости субградиентного метода с изменением метрики и его приложения в схемах нейросетевых приближений
Исследуется релаксационный субградиентный метод с двухранговой коррекцией матриц метрики. Доказано, что на сильновыпуклых функциях, в случае существования линейного преобразования координат, уменьшающего степень обусловленности задачи, метод имеет линейную скорость сходимости, соответствующую...
| Published in: | Вестник Томского государственного университета. Математика и механика № 55. С. 22-37 |
|---|---|
| Main Author: | |
| Other Authors: | |
| Format: | Article |
| Language: | Russian |
| Subjects: | |
| Online Access: | http://vital.lib.tsu.ru/vital/access/manager/Repository/vtls:000635364 Перейти в каталог НБ ТГУ |
| Summary: | Исследуется релаксационный субградиентный метод с двухранговой коррекцией матриц метрики. Доказано, что на сильновыпуклых функциях, в случае существования линейного преобразования координат, уменьшающего степень обусловленности задачи, метод имеет линейную скорость сходимости, соответствующую этой степени обусловленности. Экспериментально установлено, что скорости сходимости квазиньютоновского и изучаемого методов на гладких функциях практически эквивалентны. Вычислительные возможности метода используются для построения эффективных алгоритмов обучения нейронных сетей. |
|---|---|
| Bibliography: | Библиогр.: 30 назв. |
| ISSN: | 1998-8621 |