Нейронные сети. Вопросы экспертам. - страница 20

Наверное для начала

1) структура сети: количество слоев, нейронов, весов

2) объем обучающей выборки и количество эпох

3) относительная ошибка сети в конце обучения

4) параметры инициализации весов - форма распределения значений и их дисперсия.

Пролистал назад ветку, насчет 1 и 2 понял.

по п. 3, если я правильно Вас понял, во вложении.

по п. 4, ничего в руководстве найти не могу, буду копать дальше, но я думаю, что распределение равномерное на диапазоне значений, напр., [-1;1]

И это я так понимаю на периоде обучения? FANN?

Ну ГА тоже не чужда проблема паралича.

Ксати, посмотрел с интересом Вашу библиотеку. Ветки с ее обсуждением не было? Есть мысли и вопросы....

1) Не чужда. Но эта проблема гораздо менее актуальна, по сравнению с другими методами оптимизации/обучения НС.

2) Конкретно по моему алгоритму ветки с обсуждением не было. Отвечал не некоторые вопросы здесь.

Краткосрочные курсы повышения квалификации "Искусственные нейронные сети
и генетические алгоритмы"

Заканчивается прием заявок на прохождение краткосрочных курсов повышения
квалификации "Искусственные нейронные сети и генетические алгоритмы",
проводимых факультетом дополнительного образования Московского
Государственного Университета им. М.В.Ломоносова на базе НИИ ядерной
физики МГУ. Окончившим курсы МГУ выдаёт удостоверение государственного
образца о повышении квалификации.
Занятия будут проходить два раза в неделю в вечернее время с 19-00.
Начало занятий 25 февраля 2011 г.

Ознакомиться с программой курсов, получить более подробную информацию и
подать заявку для прохождения курсов Вы можете по адресу:
http://www.neuroproject.ru/kpk.php

Мда.

% правильных - это на обучающей выборке или на тестовой?

И еще вопрос: не кажется ли вам, что для сети-классификатора 1 вход это уж как-то совсем... мало?

1. Да, это FANN.

2. Нет, это результаты OOS одной и той же НС прошедшей обучение в одних и тех же условиях, на одних и тех же ОП.

)) Спасибо за внимательность.

1. % правильных - это на тестовой выборке. В контексте данной ТС -- 57% это хорошо, 60% - очень хорошо, 65% и более - отлично.

2. Почему мало? Достаточно. Если я могу разделить эти данные (с размерностью=1) на классы линейными или визуальными методами, почему я не могу это стабильно воспроизвести с помощью НС?

...............

Сейчас попробовал в "Статистика 6" классифицировать представленные обучающие примеры (ОП) вероятностной нейросетью (ВНС).

Эмпирически подобрал коэффициент сглаживания = 0,05.

Затем неоднократно переобучал её. Результаты стабильны и не изменяются от обучения к обучению.

Если это так, то возникает новый вопрос, как ВНС перенести для использования с FANN?

Владислав, спасибо за предложенный метод.

Вот выдержка из описания:

Часто в алгоритмах машинного обучения возникает необходимость классифицировать данные. 
Каждый объект данных представлен как вектор (точка) в p-мерном пространстве (последовательность p чисел). 
Каждая из этих точек принадлежит только одному из двух классов.

Это обязательное условие для данного метода?

Ведь в моих ОП классы сильно перемешаны:

И размерность моих ОП равная 1, тоже я так понимаю работает не в плюс:

Стоит отметить, что если исходное пространство имеет достаточно высокую размерность, то можно надеяться, 
что в нём выборка окажется линейно разделимой.

=====================================================

Если Вы уже используете этот метод, может быть попробуете разделить мои данные?