Новости
Все новости...
User Menu
Задать вопрос

Ваше имя:

Ваш емайл:

Тема:

Сообщение:

verification image, type it in the box
Код вписать ниже:
Методы ускорения обучения нейронных сетей Крисилов В.А., Олешко Д.Н.
В.А. Крисилов, Д.Н. Олешко (Украина, Одесса, ОГПУ)

В докладе, на примере многослойных полносвязных нейронных сетей рассматривается проблема долговременности их обучения. Предложены возможные методы увеличения скорости обучения сетей: управление процедурами вычисления и изменения весовых коэффициентов, реорганизация объектов в распознаваемых классах.

Искусственные нейронные сети находят все более широкое применение в решении задач искусственного интеллекта. Они уже доказали свою способность решать такие задачи как ассоциативный поиск, кластирование и распознавание образов.

На сегодняшний день в распоряжение разработчика предоставлено большое количество различных моделей нейронных сетей и алгоритмов их обучения. И хотя постоянно ведутся научные исследования в области совершенствования существующих и создания новых моделей и обучающих алгоритмов, теория нейронных сетей пока остается слабо формализованной. Однако, уже на данном этапе четко прорисовываются два основных этапа создания нейронного вычислителя: структурный и параметрический синтез. В рамках первого этапа перед разработчиком ставятся задачи: определения модели сети, определение ее структуры, выбор алгоритма обучения. Параметрический синтез включает в себя процессы обучения нейронной сети и верификации полученных результатов. Причем в зависимости от результатов верификации возникает необходимость возврата на различные стадии структурного или параметрического синтеза, т.о. становится очевидной итеративность процесса проектирования нейронного вычислителя.

Слабая формализованность этих этапов приводит к тому, что разработчику, проектирующему нейронный вычислитель, приходится сталкиваться с решением некоторых проблем. Например, на этапе структурного синтеза, при проектировании нейровычислителя, решающего нестандартную задачу, приходится прилагать значительные усилия для выбора модели сети, её внутренней структуры и способа обучения. Проблемой параметрического синтеза сетей является трудоемкость их обучения. Если решать реальные задачи, учитывая все возможные факторы, то время обучения нейронной сети для такой задачи оказывается достаточно продолжительным. Но при решении некоторых задач требуется затратить как можно меньше времени на этот процесс, например, работа в реальном масштабе времени.

Данная статья ставит своей задачей предложить возможные методы уменьшения времени, затрачиваемого на обучение многослойных нейронных сетей с обратным распространением ошибки. В качестве таких методов предлагаются: управление процедурами изменения и вычисления весовых коэффициентов, реорганизация объектов в распознаваемых классах. Были предложены два возможных пути решения этой задачи. Первый основывался на выборе определенного функционального базиса нейронной сети. Второй метод управлял значением шага изменения весов сети, рассматривая его с точки зрения центробежной силы и, корректируя его таким образом, чтобы его вектор всегда был направлен на оптимум множества весовых коэффициентов.

В предлагаемой работе поставленная задача рассматривается с точки зрения переобучения нейронной сети. В большинстве случаев нейронную сеть обучают, пока ее ошибка не станет равной нулю. Это приводит порой к неоправданным затратам драгоценных ресурсов времени, хотя для решения большей части задач достаточно, чтобы эта ошибка не превышала определенного значения.

Иногда степень достаточности определяется исходя из условий задачи и искомого результата. Однако, в большинстве случаев этот процесс протекает на интуитивном уровне и руководствующий принцип не фиксируется сознанием в достаточной мере. На самом деле этот момент является одним из самых важных в решении задач подобного типа, и оптимальное значение варьируемого параметра может зависеть от многих исходных величин и ограничений накладываемых на решение задачи. Таким образом, появляется необходимость в формализации данного принципа; в дальнейшем — Принципа Достаточности (ПД).

скачать zip(67k)
Информация с сайта http://neuroschool.narod.ru
 
 
Наши продукты
Sample Image NNGPULIB 1.0

Программный модуль ускорения расчета выхода многослойных нейронных сетей прямого распространения сигнала с применением графического процессора. Подробнее...

Sample Image PWNLIB 1.0

С++ Библиотека класса нейронных сетей типа “FeedForward”.

Подробнее...

Наши услуги

Распознавание и классификация

Способ распознавания и систематизации объектов с использованием нейронных сетей при на данный момент считается максимально эффективным.
Подробнее...

Системы контроля доступа

С 2009 г. посредством нашего партнера, компании УП "Техноэксклюзив" , Павлин Техно предлагает эффективные системы контроля доступа и учета рабочего времени для системных интеграторов и компаний-установщиков.
Подробнее...

Автоматизация и интеллектуальные системы

Услуге автоматизации производства и разработке интеллектуальных роботизированных систем: разработка стратегии автоматизации для Вашего предприятия, создание и внедрение разработанного по индивидуальному сценарию программного обеспечения с интеллектуальными компонентами.
Подробнее...

Программная реализация

Создание интеллектуального программного обеспечения на заказ, которое будет решать задачи именно Вашего бизнеса: начиная с выявления и формулировки задач, стоящих перед будущей программой и заканчивая обучением сотрудников, которые будут работать с ней.
Подробнее...

Вычислительные алгоритмы

Анализ ситуации, разработка математической модели, построение соответствующего вычислительного алгоритма, его тестирование и адаптация к архитектуре будущей системы, дальнейшая разработка программы для использования алгоритма.
Подробнее...
Все услуи »
Опрос
Скажите, пожалуйста, кто Вы, и почему Вы интересуетесь вопросами нейросетевых технологий и AI?