Вероятностная нейронная сеть

1) Вероятностные нейронные сети (PNN) есть тоже самое, что и многослойный персептрон (MLP).

2) Обучение такое же.

3) Вообще, это многообразие сетей лишь запутывает. На самом деле, сети делятся:

а) по количеству скрытых слоев

б) по топологии связей, звездообразные, решетка (и др. какие взбредут в голову)

в) по типу активационной функции в нейронах

г) С обратными связями или без, с гибридными связями.

д) а),б),в), и г) могут быть в одной сети.

зы не заморачивайтесь особо насчет определений.

В правом верхнем углу есть поиск. Воспользуйтесь им.

Я попросил объяснить мат.апппарат. )))

Вот у нас есть образцы n из A и k из B.  каждый обр. обладает z кол-вом  параметров. Появляется неизвестный элемент и нам надо его отнести к А или B. Ну и как? Евклидово расстояние брать?

в 2-х словах:

в заданной точке(распознаваемый вектор) суммируется активность радиальных функций(потенциал), сначала суммируется по классу А, потом по классу В, вывод о том к какому классу относится распознаваемй вектор делается сравнением сумм(кто больше тот и выиграл).

2 joo:

Вероятностная сеть и МЛП очень сильно различаются. Во всяком случае принцип у них заложен разный.

Другое дело что я тоже не рекомендую заморачивать на разных сетках, всё что нужно выжимается из обычного МЛП.

У Вас задача классификации.

Для обучения сети используются примеры, ответ на который либо 1, либо -1 (принадлежность к А или В)

В качестве активационной функции нейронов используем сигмоиду

Имеет вид:

Скажем, к пространству А относятся все ответы 1, а к пространству В все ответы -1. Причем, эти пространства необязательно разделены четкой прямой линией (может быть и кривая)

Все ответы точно не попадающие ни в А ни в Б по имеющимся признакам (читаем - входные данные) будут расположены сеткой в пространстве -1...1

с вероятностью такой:

PS Вы же это знали, не так ли?

Я думаю дело не только в функции активации

Вопрос был про мат аппарат. Различия у них по учителю. У PNN ответы -1 и 1, все что между ними - вероятность принадлежности к классу, а у MLP (MNN) ответы на всем промежутке -1 и 1. Разница только в учителе (контрольные данные для обучения), а сети одни и те же.

Да не только в учителе дело. Принцип другой. МЛП чертит линии(гиперплоскости), а вероятностная окружности(гипершары).

Взять простой пример:

Линейный перцептрон просто линией разделил и всё, линия у него бесконечна.

А значение потенциалов обоих классов будет практически нулевым. Разница есть?

Пример.

Необходимо организовать классификацию, мужчина или женщина.

Есть такие признаки, кол-во признаков соответствует кл-ву нейронов во входном слое

1. Наличие/отсутствие первичных половых признаков.

2. Наличие/отсутствие вторичных половых признаков

3. Длина волос.

4. Ширина бедер

5. Ширина плеч.

6. Наличие волосяного покрова на конечностях.

7. Наличие косметики.

Кодируем признаки в диапазон -1...1.

Предъявляем сети при обучении 100% принадлежащие признаки к половой принадлежности. Ответы -1 и 1.

Комбинации признаков будут давать не "нечеткие ответы", например (-0,8) будет соответствовать 80% вероятности принадлежности к женскому полу.