Современная оценка алгоритма обратного распространения - Прогнозирующие системы
На протяжении нескольких лет после его изобретения алгоритм обратного распространением оставался почти незамеченным, вероятно, потому, что не был в должной мере оценен специалистами. В начале 80-х годов Д. Румельхарт, работавший в то время в Калифорнийском университете в Сан-Диего, и Д. Паркер из Станфордского университете независимо друг от друга вновь открыли алгоритм. В 1986 году Румельхарт, Р. Уильямс, также из Калифорнийского университета в Сан-Диего, и Джеффери Е. Хинтон [5] продемонстрировали способность алгоритма обучить скрытые элементы вырабатывать интересные представления для сложных паттернов на входе и тем самым сделали его известным.
Алгоритм обратного распространения оказался на удивление эффективным в обучении сетей со многими слоями решению широкого класса задач [2, 5, 15]. Но более всего он эффективен в ситуациях, когда отношения между входом и выходом нелинейны, а количество обучающих данных велико. Применяя алгоритм, исследователи создали нейронные сети, способные распознавать рукописные цифры, предсказывать изменения валютного курса и оптимизировать химические процессы. Они даже воспользовались алгоритмом для обучения сетей, которые идентифицируют переродившиеся пред-раковые клетки в анализируемых образцах ткани и регулируют положение зеркал в телескопах, чтобы исключить атмосферные искажения.
Р. Андерсен из Массачусетского технологического института и Д. Зипсер из Калифорнийского университета в Сан-Диего показали, что алгоритм обратного распространения представляет собой весьма эффективный инструмент для понимания функций некоторых нейронов в коре головного мозга. Они научили нейронную сеть реагировать на зрительные стимулы, применив алгоритм обратного распространения. Затем они обнаружили, что реакция скрытых элементов удивительно схожа с реакцией реальных нейронов, выполняющих преобразование зрительной информации, поступающей от сетчатки, в форму, необходимую для более глубоких областей мозга, перерабатывающих зрительную информацию.
Похожие статьи
-
Идея создания алгоритма обратного распространения Примерно в 1974 году Поль Дж. Вербос изобрел значительно более эффективную процедуру для вычисления EW,...
-
Модель сети с обратным распространением - Прогнозирующие системы
Способом обратного распространения (back propogation) называется способ обучения многослойных НС. В таких НС связи между собой имеют только соседние...
-
В данной главе мы приводим детальное описание метода обратного распространения - способа обучения многослойных НС. Подробно описана НС для распознавания...
-
В данной главе мы обсуждаем известные модели НС: модель Маккалоха и Питтса; модель Розенблата; модели Хопфилда и Больцмана; модель на основе обратного...
-
Определение . Алгебраическим дополнением минора матрицы называется его Дополнительный минор , умноженный на (-1) в степени, равной сумме номеров строк и...
-
Прогнозирование курса Ukb/Usd, Общий подход к прогнозированию курса UKB/USD - Прогнозирующие системы
В данной главе описаны эксперименты по прогнозированию курса американского доллара по отношению к украинскому карбованцу (UKB/USD). Сначала описаны...
-
Модель Хопфилда - Прогнозирующие системы
В 70-е годы интерес к нейронным сетям значительно упал, однако работы по их исследованию продолжались. Был предложен ряд интересных разработок, таких,...
-
Зарождение современной химии, Теория флогистона и система Лавуазье - Химия сегодня
Представления древнегреческих натурфилософов оставались основными идейными истоками естествознания вплоть до XVIII в. До начала эпохи Возрождения в науке...
-
В данной главе описан способ прогнозирования с помощью НС, основанный на методе окон. Также приведен обзор применения НС в финансовой сфере. Общий подход...
-
Способы реализации нейронных сетей - Прогнозирующие системы
Нейронные сети могут быть реализованы двумя путями: первый - это программная модель НС [2, 3, 15, 34], второй - аппаратная [14, 31, 34, 45, 50]. На...
-
Задачи, решаемые на основе нейронных сетей - Прогнозирующие системы
В литературе [33, 41, 43] встречается значительное число признаков, которыми должна обладать задача, чтобы применение НС было оправдано и НС могла бы ее...
-
Пусть к примеру необходимо стабилизировать ПИ-регулятором объект с передаточной функцией (9) Составляем структурную схему моделирования в среде Simulink...
-
Литература - Прогнозирующие системы
1. Aбу-Мустафа Я. С., Псалтис Д. Оптические нейронно-сетевые компьютеры//В мире науки, 1987. №5. С. 42-50. 2. Барцев С. И. Некоторые свойства адаптивных...
-
Экономические методики валютного прогнозирования - Прогнозирующие системы
Мировая практика выработала два основных подхода к прогнозированию динамики валютного курса - фундаментальный и технический. Фундаментальный подход...
-
Описание экспериментов - Прогнозирующие системы
Эксперимент 1 Описание исторических данных: Данные подаются на входы НС в виде временной последовательности ежедневных измерений фактического курса (в...
-
В процессе анализа и обобщения результатов исследований, проведенных в [4 - 10], стало ясно, что не все ситуации экспертного задания исходных параметров,...
-
Модели нейронных сетей, Модель Маккалоха - Прогнозирующие системы
Модель Маккалоха Теоретические основы нейроматематики были заложены в начале 40-х годов. В 1943 году У. Маккалох и его ученик У. Питтс сформулировали...
-
В данном случае анализируемые системы характеризуются не одним набором показателей эффективности, а несколькими: (18) Где - группа показателей...
-
Применение нейронных сетей в финансовой сфере - Прогнозирующие системы
Характерный пример успешного применения нейронных вычислений в финансовой сфере - управление кредитными рисками. Как известно, до выдачи кредита банки...
-
Для реализации математической модели оценки состояния СЭС разработан алгоритм определения целей развития СЭС. Для разработки алгоритма необходим анализ...
-
В настоящей работе предлагается классификация задач многокритериальной оценки эффективности систем различного назначения. В качестве факторов...
-
1. Барановская Т. П., Лойко В. И., Трубилин А. И. Потоковые и инвестиционно-ресурсные модели управления агропромышленным комплексом: монография....
-
Отсутствие моделей и количественных методик, позволяющих оценить эффект от намеченных интеграционных процессов и степень их влияния на экономическую...
-
Пусть Dl, r() соответственно левые (правые) границы интервалов I, отвечающих на криволинейной трапеции ОИО значениям 0< < 1. Тогда интересующая нас...
-
Построение, или моделирование, конечной факторной системы для анализируемого экономического показателя хозяйственной деятельности можно осуществить как...
-
Модели временных последовательностей, Критерии производительности - Прогнозирующие системы
Используемые для наших целей временные последовательности представляют собой последовательность наблюдений за интересующей переменной. Переменная...
-
Методы прогнозирования - Прогнозирующие системы
Методы прогнозирования можно разделить на два класса квалитативные и квантитативные, в зависимости от того, какие математические методы используются....
-
Выводы - Прогнозирующие системы
Прогнозирование с помощью НС курса UKB/USD показало эффективность предлагаемого подхода. Наилучшие результаты при симуляции прогнозирования были получены...
-
Основные понятия и определения проблемы прогнозирования - Прогнозирующие системы
Необходимо отметить, что мы рассматриваем прогнозирование в целях планирования производства или управления запасами. Таким образом, наш интерес лежит в...
-
В данной главе мы обсуждаем некоторые общие аспекты разработки прогнозирующих систем: понятие прогноза и цели его использования, основные понятия и...
-
Ответ: y=f(kx) получается из Графика функции f(x) сжатием его вдоль оси ох в k раз, если k>1 и растяжением в 1 деленную на k раз, если k>0 но меньше 1....
-
Рис.2. Схема алгоритма моделируемой модели Обоснования выбранных систем проектирования В качестве программной среды моделирования решено использовать...
-
Процедура решения задач минимизации издержек - Модель оценки издержек в системе складского комплекса
Пусть Z есть вектор, компонентами которого являются все переменные, по которым проводится оптимизация, то есть все компоненты вектора Z . В соответствии...
-
Построим теперь на базе полиинтервальной оценки такую теоретико-вероятностную модель представления экспертных знаний, которая сочетала бы в себе описание...
-
Построим формализованную модель оценки суммарных издержек в складском грузообороте. Введем обозначения (все показатели соотнесены к периоду в один год и...
-
Разработка алгоритма нахождения входного потока заявок в имитационной модели контрольно-пропускной системы на основе статистических данных В наши дни...
-
В данном случае для выбора эффективных решений используется набор принципов оптимальности: (16) В качестве принципов оптимальности выступают принципы:...
-
Основные процессы СЭС представлены комплексом направлений деятельности, которые можно представить как EP(t)={EP1(t), EP2(t) ... EPN(t)},, где i=1..n, n -...
-
В результате проведенного финансового анализа предприятия можно сделать вывод, что состояние его удовлетворительное, но имеется ряд недостатков: В...
-
В нашем анализе данных показателей рынков под "самородками" понимаются зависимости, отражающие степень эффективности рекламных кампаний. Эксперты часами...
Современная оценка алгоритма обратного распространения - Прогнозирующие системы