Знатокам нейросетей и FANN вопрос

 

В первую очередь скорее всего Ю. Решетову - в основе лежит его советник (в той части где работа с НС и обучение).

Вот такая картинка интересная при оптимизации получается:


Оптимизируется один единственный фейковый параметр. То-есть банально обучается сеть.

Смущает длинная ровная линия баланса, как буд-то ничего не происходит. А потом вдруг рраз - и скачек.

Может дело быть в амплитуде входных параметров для сетей? они в основном в пределах -0.01 <> 0.01. Может помножить, скажем на 10,

перед передачей в сетки?

 

Мой личный опыт говорит, что диапазон может быть любой, хоть от -2000 до 8,758.


Главное, чтобы он был постоянен и выдерживался на ООС.

 

Да я не о том, какие результаты какой диапазон выдает, а о том, что длительное время (циклы обучения в смысле) сетки выдают одинаковые результаты.

 
Вопрос вроде был "Может дело быть в амплитуде входных параметров для сетей? они в основном в пределах -0.01 <> 0.01. Может помножить, скажем на 10, перед передачей в сетки"?


Причём здесь "Да я не о том, какие результаты какой диапазон выдает"?


Вопрос был задан про входной диапазон и необходимость его умножения.


Я ответила именно про входной диапазон.


Где тут слова про результаты?

 
Ну значит я неправильно выразился. Спросим так: влияет ли амплитуда входных параметров на скорость обучения сети (и на момент, когда она вообще начнет обучаться)?
 

Мой личный опыт говорит, что диапазон может быть любой, хоть от -2000 до 8,758.


Главное, чтобы он был постоянен и выдерживался на ООС.


Т.е. мой личный опыт говорит, что разбег есть, но им можно пренебречь.


Речь идёт именно о входных параметрах.

 
Swetten >>:

Т.е. мой личный опыт говорит, что разбег есть, но им можно пренебречь.

Спасибо! Вот примерно это я и хотел узнать, что "разбег" мне не причудился, это не глюк в коде, и на дальнейшую работу не повлияет.
 

Рано радоваться. Поставьте с десяток экспериментов -- много времени не займёт. Варьируйте только множитель.


Ибо много зависит от типа сети и способа обучения.


Но в итоге всё должно сойтись практически до цента.

 
Swetten >>:

Рано радоваться. Поставьте с десяток экспериментов -- много времени не займёт. Варьируйте только множитель.


Сделал дополнительный параметр для оптимизации - множитель (на входы). Ну и сети соответственно под каждый множитель разные.

Новая загадка для глаз:


Прямо таки визуально видна линия на уровне 10670. Что-ж это за число такое магическое?

Причина обращения: