Гибридные нейросети. - страница 19

Важна постановка задачи. Как обучаем (учитель) ошибка на выходе сети - все второстепенно.

У нейросети, обучающейся складывать 2+3 ошибка будет MSE. У нейросети, обучающейся распознаванию образов, ошибка будет другой. Или вы предлагаете трактовать постановку задачи в каких-то других терминах?

Постановка задачи, это что вы пытаетесь сделать, с помощью сети. Давайте на примере, есть ф-ция x(t) = 4*x(t-1)*(1 - x(t-1)).

Мы будем аппроксимировать ее значение для t=100,150; соответственно cтроим обучающую выборку и тестовую, как продолжение обучающей.

Х0 = 0.2, кол-во элементов обучающей - 100, элементы с 1-100. И тестовой - 50, элементы от 100 до 150

В атаче .rar там графики:

learning-1.gif - обучающая выборка

test-1.gif - тестовая

learning-2.gif - распределение значений обучающей выборки

Начинаем обучать, соответственно на вход подаем Х на выходе ожидаем Х+1, сеть 1-6-1. Обучаем градиентным методом с адаптивным шагом.

Т.е. обучающая пара {X,D}, где D=X(t+1)

Имеем в ходе обучения

MSE: 0,3549103488
Epoch: 3375

error.gif - график ошибки

Тестируем на тестовой выборке

Testing error
MSE: 0,7089074281

test-2.gif - график тестирования, ожидаемые на выходе данные и то, что выдает модель сети.

test-3.gif - график распределения значений тестовой выборки

Т.е. цель достигнута

как регулировать скорость обучения нелинейно?

Ну в данном случае я использовал адаптивный шаг, который вычисляется в зависимости от dE/dW.

delw=n(DE/DW) как вот эту n регулировать апроксимируюшим многочленом третий степени?

rip, а как у Вас эта функция применима к форексу? Тоже MSE вычисляете?

Да ни как :) Это просто одна из тестовых ф-ций, которая позволяется видеть, правильно ли работает сеть.

Я имею в виду метод остановки обучения. Какой критерий для этого используете применимо к форексу? В данном примере Вы использовали среднеквадратическую ошибку.

MSE