Модель сети с обратным распространением - Прогнозирующие системы
Способом обратного распространения (back propogation) называется способ обучения многослойных НС. В таких НС связи между собой имеют только соседние слои, при этом каждый нейрон предыдущего слоя связан со всеми нейронами последующего слоя [5, 8, 16, 27, 30, 42, 48, 49]. Нейроны обычно имеют сигмоидальную функцию возбуждения. Первый слой нейронов называется входным и содержит число нейронов соответствующее распознаваемому образу. Последний слой нейронов называется выходным и содержит столько нейронов, сколько классов образов распознается. Между входным и выходным слоями располагается один или более скрытых (теневых) слоев. Определение числа скрытых слоев и числа нейронов в каждом слое для конкретной задачи является неформальной задачей.
Принцип обучения такой нейронной сети базируется на вычислении отклонений значений сигналов на выходных процессорных элементах от эталонных и обратном "прогоне" этих отклонений до породивших их элементов с целью коррекции ошибки. Еще в 1974 году Поль Дж. Вербос [5] изобрел значительно более эффективную процедуру для вычисления величины, называемой производной ошибки по весу, когда работал над своей докторской диссертацией в Гарвардском университете. Процедура, известная теперь как алгоритм обратного распространения, стала одним из наиболее важных инструментов в обучении нейронных сетей [5, 16, 27, 30, 42, 48, 49]. Однако этому алгоритму свойственны и недостатки, главный из которых - отсутствие сколько-нибудь приемлемых оценок времени обучения. Понимание, что сеть, в конце концов, обучится, мало утешает, если на это могут уйти годы. Тем не менее, алгоритм обратного распространения имеет широчайшее применение. Например, успех фирмы NEC в распознавании букв, был достигнут именно благодаря алгоритму обратного распространения. Подробнее метод обратного распространения описан в главе 3.
Похожие статьи
-
В данной главе мы приводим детальное описание метода обратного распространения - способа обучения многослойных НС. Подробно описана НС для распознавания...
-
Современная оценка алгоритма обратного распространения - Прогнозирующие системы
На протяжении нескольких лет после его изобретения алгоритм обратного распространением оставался почти незамеченным, вероятно, потому, что не был в...
-
Идея создания алгоритма обратного распространения Примерно в 1974 году Поль Дж. Вербос изобрел значительно более эффективную процедуру для вычисления EW,...
-
В данной главе мы обсуждаем известные модели НС: модель Маккалоха и Питтса; модель Розенблата; модели Хопфилда и Больцмана; модель на основе обратного...
-
Модель Хопфилда - Прогнозирующие системы
В 70-е годы интерес к нейронным сетям значительно упал, однако работы по их исследованию продолжались. Был предложен ряд интересных разработок, таких,...
-
Применение нейронных сетей в финансовой сфере - Прогнозирующие системы
Характерный пример успешного применения нейронных вычислений в финансовой сфере - управление кредитными рисками. Как известно, до выдачи кредита банки...
-
Способы реализации нейронных сетей - Прогнозирующие системы
Нейронные сети могут быть реализованы двумя путями: первый - это программная модель НС [2, 3, 15, 34], второй - аппаратная [14, 31, 34, 45, 50]. На...
-
Задачи, решаемые на основе нейронных сетей - Прогнозирующие системы
В литературе [33, 41, 43] встречается значительное число признаков, которыми должна обладать задача, чтобы применение НС было оправдано и НС могла бы ее...
-
Модели нейронных сетей, Модель Маккалоха - Прогнозирующие системы
Модель Маккалоха Теоретические основы нейроматематики были заложены в начале 40-х годов. В 1943 году У. Маккалох и его ученик У. Питтс сформулировали...
-
В данной главе описан способ прогнозирования с помощью НС, основанный на методе окон. Также приведен обзор применения НС в финансовой сфере. Общий подход...
-
Модель Розенблата - Прогнозирующие системы
Серьезное развитие нейрокибернетика получила в работах американского нейрофизиолога Френсиса Розенблата (Корнелльский университет). В 1958 году он...
-
Модели временных последовательностей, Критерии производительности - Прогнозирующие системы
Используемые для наших целей временные последовательности представляют собой последовательность наблюдений за интересующей переменной. Переменная...
-
Прогнозирование курса Ukb/Usd, Общий подход к прогнозированию курса UKB/USD - Прогнозирующие системы
В данной главе описаны эксперименты по прогнозированию курса американского доллара по отношению к украинскому карбованцу (UKB/USD). Сначала описаны...
-
В зависимости от содержания задачи может быть два случая: когда ребра графа G единичной длины; когда ребра графа произвольной длины. Для каждого из этих...
-
Важнейшие математические модели обычно обладают важным свойством Универсальности : принципиально разные реальные явления могут описываться одной и той же...
-
Определение . Алгебраическим дополнением минора матрицы называется его Дополнительный минор , умноженный на (-1) в степени, равной сумме номеров строк и...
-
Задача маршрутизации реализуется набором алгоритмов, каждый из которых осуществляет решение задачи коммивояжера. Коммивояжер (распространитель товаров)...
-
Для заданного региона обслуживания с помощью технологии ГИС предоставляется карта автомобильных дорог, на которой указаны пункты, соответствующие...
-
Выводы - Прогнозирующие системы
Прогнозирование с помощью НС курса UKB/USD показало эффективность предлагаемого подхода. Наилучшие результаты при симуляции прогнозирования были получены...
-
Описание экспериментов - Прогнозирующие системы
Эксперимент 1 Описание исторических данных: Данные подаются на входы НС в виде временной последовательности ежедневных измерений фактического курса (в...
-
Процедура решения задач минимизации издержек - Модель оценки издержек в системе складского комплекса
Пусть Z есть вектор, компонентами которого являются все переменные, по которым проводится оптимизация, то есть все компоненты вектора Z . В соответствии...
-
Задача кластеризации может быть сведена к задаче раскраски вершин графа. Для этого строится граф несовместимости. Вершинам графа соответствуют...
-
Основные результаты работы состоят в следующем: 1. Рассмотрены математические модели, лежащие в основе системы оптимизации доставки товаров...
-
Моделирование в условиях противодействия, игровые модели - Основы теории систем и системного анализа
Как уже неоднократно отмечалось, системный анализ невозможен без учета взаимодействий данной системы с внешней средой. Ранее упоминалась необходимость...
-
Основные понятия сетевых и графовых моделей Объектом исследования является сеть, состоящая из узлов и линий связи. Предполагается, что в сети имеется два...
-
Литература - Прогнозирующие системы
1. Aбу-Мустафа Я. С., Псалтис Д. Оптические нейронно-сетевые компьютеры//В мире науки, 1987. №5. С. 42-50. 2. Барцев С. И. Некоторые свойства адаптивных...
-
В практике управления системами различного назначения (экономическими, финансовыми, техническими и др.) неизбежно приходится сталкиваться с различными...
-
В модели рассматривается радиальная тепловая сеть. Потребление тепла в промышленном секторе учитывается при расчете зоны теплового влияния станции, т. к....
-
Для трехотраслевой экономической системы заданы матрица коэффициентов Прямых материальных затрат И вектор конечной продукции Найти коэффициенты полных...
-
В статье рассматриваются вопросы, связанные с совершенствованием процессов управления непрерывными ХТС. Предлагается возможность такой организации...
-
Литература - Расчетная модель оптимизации системы теплоснабжения региона
1. Клименко В. А., Орлов Ю. Н. Математическая модель оптимизации системы теплоснабжения. / Препринт ИПМ РАН, №52, 2003. 2. http://www. omsk. elektra....
-
Энергосистема г. Омска - Расчетная модель оптимизации системы теплоснабжения региона
Крупные теплофикационные системы на базе ТЭЦ общего пользования построены и функционируют в основном в городах с расчетной тепловой нагрузкой более 500...
-
При управлении подвижными объектами (такими, например, как мобильные роботы, подводные аппараты и т. п.) часто имеет место неопределенность цели, когда...
-
Искусственные нейронные сети (ИНС) рассматриваются исследователями как возможная альтернатива статистическим методам. Исследования, использующие ИНС, как...
-
Задача кластеризации реализуется набором методов (алгоритмов), каждый из которых осуществляет разбиения региона на компактные зоны обслуживания. Аппарат...
-
По мере работ стало понятно, что нам не удавалось приблизиться к качеству, сравнимому с уровнем анализа эксперта, поскольку около 20% тестов...
-
Модель Мальтуса Скорость роста пропорциональна текущему размеру популяции. Она описывается дифференциальным уравнением Где б -- некоторый параметр,...
-
Основные понятия теории экономико-математического моделирования Кибернетический подход к исследованию экономико-математических систем Обычно...
-
МЕТОДЫ ОПИСАНИЯ СОЦИАЛЬНО-ПОЛИТИЧЕСКИХ И ЭКОНОМИЧЕСКИХ ПРОЦЕССОВ Динамический образ системы. Системный процесс В своей повседневной жизни процессами люди...
-
В основе модели крупномасштабной транспортной сети лежит принцип иерархической организации территорий (в нисходящем направлении). Рассмотрим карту сети...
Модель сети с обратным распространением - Прогнозирующие системы