Построение оценки по интерпретатору - Функциональные модели универсального нейрокомпьютера

Если в качестве ответа нейронная сеть должна выдать число, то естественной оценкой является квадрат разности выданного сетью выходного сигнала и правильного ответа. Все остальные оценки для обучения сетей решению таких задач являются модификациями данной. Приведем пример такой модификации. Пусть при составлении задачника величина, являющаяся ответом, измерялась с некоторой точностью ?. Тогда нет смысла требовать от сети обучиться выдавать в качестве ответа именно величину. Достаточно, если выданный сетью ответ попадет в интервал. Оценка, удовлетворяющая этому требованию, имеет вид:

Эту оценку будем называть оценкой числа с допуском ?.

Для задач классификации также можно пользоваться оценкой типа суммы квадратов отклонений выходных сигналов сети от требуемых ответов. Однако, эта оценка плоха тем, что во-первых, требования при обучении сети не совпадают с требованиями интерпретатора, во-вторых - такая оценка не позволяет оценить уровень уверенности сети в выданном ответе. Достоинством такой оценки является ее универсальность. Опыт работы с нейронными сетями, накопленный красноярской группой НейроКомп, свидетельствует о том, что при использовании оценки, построенной по интерпретатору, в несколько раз возрастает скорость обучения. Рассмотрим построение оценок по интерпретатору для четырех рассмотренных в предыдущем разделе интерпретаторов ответа.

В ряде описаний оценки и ее производной, приведенных далее, используется следующая функция и ее производная:

1. Кодирование номером канала. Знаковый интерпретатор. Пусть для рассматриваемого примера правильным ответом является k-ый класс. Тогда вектор выходных сигналов сети должен удовлетворять следующей системе неравенств:

Где ?- уровень надежности.

Оценку, вычисляющую расстояние от точки ? в пространстве выходных сигналов до множества точек, удовлетворяющих этой системе неравенств, можно записать в виде:

Производная оценки по i-му выходному сигналу равна .

2. Кодирование номером канала. Максимальный интерпретатор. Пусть для рассматриваемого примера правильным ответом является k-ый класс. Тогда вектор выходных сигналов сети должен удовлетворять следующей системе неравенств:при. Оценкой решения сетью данного примера является расстояние от точки ??в пространстве выходных сигналов до множества точек, удовлетворяющих этой системе неравенств. Для записи оценки, исключим из вектора выходных сигналов сигнал, а остальные сигналы отсортируем по убыванию. Обозначим величину через, а вектор отсортированных сигналов через. Система неравенств в этом случае приобретает вид, при i>1. Множество точек удовлетворяющих этой системе неравенств обозначим через D. Очевидно, что если, то точка ??принадлежит множеству D. Если, то найдем проекцию точки ??на гиперплоскость. Эта точка имеет координаты. Если, то точка принадлежит множеству D. Если нет, то точку ? нужно проектировать на гиперплоскость. Найдем эту точку. Ее координаты можно записать в следующем виде. Эта точка обладает тем свойством, что расстояние от нее до точки ? минимально. Таким образом, для нахождения величины b достаточно взять производную от расстояния по b и приравнять ее к нулю:

Из этого уравнения находим b и записываем координаты точки :

.

Эта процедура продолжается дальше, до тех пор, пока при некотором l не выполнится неравенство или пока l не окажется равной N-1. Оценкой является расстояние от точки ? до точки. Она равна следующей величине

.

Производная оценки по выходному сигналу равна

Для перехода к производным по исходным выходным сигналам необходимо обратить сделанные на первом этапе вычисления оценки преобразования.

3. Двоичный интерпретатор. Оценка для двоичного интерпретатора строится точно также как и для знакового интерпретатора при кодировании номером канала. Пусть правильным ответом является k-ый класс, тогда обозначим через K множество номеров сигналов, которым в двоичном представлении k соответствуют единицы. При уровне надежности оценка задается формулой:

Производная оценки по i-му выходному сигналу равна:

.

4. Порядковый интерпретатор. Для построения оценки по порядковому интерпретатору необходимо предварительно переставить компоненты вектора ? в соответствии с подстановкой, кодирующей правильный ответ. Обозначим полученный в результате вектор через. Множество точек, удовлетворяющих условию задачи, описывается системой уравнений, где ? - уровень надежности. Обозначим это множество через D. Оценка задается расстоянием от точки ? до проекции этой точки на множество D. Опишем процедуру вычисления проекции.

Просмотрев координаты точки, отметим те номера координат, для которых нарушается неравенство.

Множество отмеченных координат либо состоит из одной последовательности последовательных номеров, или из нескольких таких последовательностей. Найдем точку, которая являлась бы проекцией точки на гиперплоскость, определяемую уравнениями, где i пробегает множество индексов отмеченных координат. Пусть множество отмеченных координат распадается на n последовательностей, каждая из которых имеет вид, где m - номер последовательности. Тогда точка имеет вид:

Точка является проекцией, и следовательно, расстояние от до должно быть минимальным. Это расстояние равно. Для нахождения минимума этой функции необходимо приравнять к нулю ее производные по. Получаем систему уравнений. Решая ее, находим.

Если точка удовлетворяет неравенствам, приведенным в первом пункте процедуры, то расстояние от нее до точки является оценкой. В противном случае, повторяем первый шаг процедуры, используя точку вместо ; Объединяем полученный список отмеченных компонентов со списком, полученным при поиске предыдущей точки; находим точку, повторяя все шаги процедуры, начиная со второго.

Отметим, что в ходе процедуры число отмеченных последовательностей соседних индексов не возрастает. Некоторые последовательности могут сливаться, но новые возникать не могут. После нахождения проекции можно записать оценку:

.

Обозначим через m-ую последовательность соседних координат, выделенную при последнем исполнении первого шага процедуры вычисления оценки: . Тогда производную оценки по выходному сигналу можно записать в следующем виде:

Таким образом, построение оценки по интерпретатору сводится к следующей процедуре.

Определяем множество допустимых точек, то есть таких точек в пространстве выходных сигналов, которые интерпретатор ответа будет интерпретировать как правильный ответ со стопроцентным уровнем уверенности.

Находим проекцию выданной сетью точки на это множество. Проекцией является ближайшая точка из множества.

Записываем оценку как расстояние от точки, выданной сетью, до ее проекции на множество допустимых точек.

Похожие статьи




Построение оценки по интерпретатору - Функциональные модели универсального нейрокомпьютера

Предыдущая | Следующая