Новости
Все новости...
User Menu
Задать вопрос

Ваше имя:

Ваш емайл:

Тема:

Сообщение:

verification image, type it in the box
Код вписать ниже:
Повышение качества, скорости обучения нейронных сетей при прогнозировании поведения временных рядов
В.А. Крисилов, Д.Н. Олешко (Одесский национальный политехнический университет)

В данной работе предложен ряд способов, позволяющих существенно сократить время обучения искусственных многослойных нейронных сетей с обратным распространением ошибки (Back Propagation). В качестве базового положения эти подходы используют Принцип Достаточности. Описана система прогнозирования временных рядов FORECAST, использующая для построения прогнозов нейронную сеть и указанные подходы, рассмотрено решение задачи прогнозирования экономических показателей.

Одним из популярных сегодня подходов решения задачи прогнозирования является являестся использование искусственных нейронных сетей [1, 2]. В рамках этого подхода поведение некоторого процесса чаще всего преобразовывается во временной ряд, и далее нейронной сетью прогнозируется уже поведение этого временного ряда.

Однако, в большинстве задач прогнозирования разработчик сталкивается с непериодическими процессами, относительно быстро изменяющимися во времени. Такие изменения в поведении прогнозируемой величины требуют дообучения сети, а иногда и переформирования ее структуры. Существующие системы прогнозирования в большинстве оказываются неспособными работать с такими процессами. Это связано со значительным временем, которое они затрачивают на структурный и параметрический синтез нейронной сети. Например, в системе “Neuro Builder” [3] для выбора одной сети создается популяция нейронных сетей, насчитывающая более 1000 вариантов, из которых потом в процессе их обучения выбирается лучшая. При этом необходимо заметить, что обучение одной такой нейронной сети – это десятки часов машинного времени. Такие временные затраты недопустимы при прогнозировании быстроизменяющихся процессов, например, прогнозирование курсов ценных бумаг или поведения некоторого процесса на опасном производстве.

Существующие средства и подходы уменьшения времени обучения нейронных сетей [4] реализованы в основном только в системах моделирования, таких как “Neuro Shell”, “Neuro Solutions”. Однако эти подходы либо дают выигрыш во времени, но не дают возможность сети экстраполировать свои выводы за область известных данных (RBF сети) или имеют существенные ограничения на условия решаемой задачи либо на структуру нейронной сети (метод Левенберга-Маркара) [5]. Сами же системы моделирования из-за специфики своей направленности не могут быть использованы в качестве полноценных систем прогнозирования.

Анализ обучения нейронных сетей различными алгоритмами позволил выявить те аспекты данного процесса, которые в основном приводят к значительным затратам времени. Во-первых, это установка на получение как можно меньшей ошибки нейронной сети или вообще сведения ее к нулю, когда вполне достаточно было бы ограничиться некоторой заданной точностью распознавания. Во-вторых, при использовании классических подходов к обучению с постоянным шагом изменения весовых коэффициентов имеется высокая вероятность того, что данная величина шага не позволит нейронной сети попасть в точку оптимума. Это в свою очередь заставит сеть совершать бесконечные колебания вокруг этой точки. Наконец, обучающая выборка и множество распознаваемых классов могут быть построены слишком противоречиво и неравномерно. Это, в свою очередь, приведет к тому, что сеть будет обучаться очень долго и, в результате, просто не сможет выявить закономерности поведения процесса и решить поставленную ей задачу. В то время как реорганизация классов и наборов в выборке позволили бы ей качественно и быстро обучиться.

Настоящая работа посвящена решению актуальной задачи повышения скорости обучения нейронных сетей. В ней предложен ряд способов, позволяющих сократить время обучения при сохранении достаточной точности решения задачи. Это более гибкие процедуры вычисления весовых коэффициентов сети и улучшение характеристик обучающей выборки. Также рассмотрена система прогнозирования, в которой эти способы были реализованы.
Информация с сайта http://neuroschool.narod.ru
 
 
Наши продукты
Sample Image NNGPULIB 1.0

Программный модуль ускорения расчета выхода многослойных нейронных сетей прямого распространения сигнала с применением графического процессора. Подробнее...

Sample Image PWNLIB 1.0

С++ Библиотека класса нейронных сетей типа “FeedForward”.

Подробнее...

Наши услуги

Распознавание и классификация

Способ распознавания и систематизации объектов с использованием нейронных сетей при на данный момент считается максимально эффективным.
Подробнее...

Системы контроля доступа

С 2009 г. посредством нашего партнера, компании УП "Техноэксклюзив" , Павлин Техно предлагает эффективные системы контроля доступа и учета рабочего времени для системных интеграторов и компаний-установщиков.
Подробнее...

Автоматизация и интеллектуальные системы

Услуге автоматизации производства и разработке интеллектуальных роботизированных систем: разработка стратегии автоматизации для Вашего предприятия, создание и внедрение разработанного по индивидуальному сценарию программного обеспечения с интеллектуальными компонентами.
Подробнее...

Программная реализация

Создание интеллектуального программного обеспечения на заказ, которое будет решать задачи именно Вашего бизнеса: начиная с выявления и формулировки задач, стоящих перед будущей программой и заканчивая обучением сотрудников, которые будут работать с ней.
Подробнее...

Вычислительные алгоритмы

Анализ ситуации, разработка математической модели, построение соответствующего вычислительного алгоритма, его тестирование и адаптация к архитектуре будущей системы, дальнейшая разработка программы для использования алгоритма.
Подробнее...
Все услуи »
Опрос
Скажите, пожалуйста, кто Вы, и почему Вы интересуетесь вопросами нейросетевых технологий и AI?