Pravděpodobnostní neuronová síť - Probabilistic neural network

A pravděpodobnostní neurální síť (PNN) [1] je dopředná neuronová síť, který je široce používán při klasifikaci a rozpoznávání vzorů. V algoritmu PNN je funkce rodičovské distribuce pravděpodobnosti (PDF) každé třídy aproximována a Okno Parzen a neparametrická funkce. Poté se pomocí PDF každé třídy odhadne pravděpodobnost třídy nových vstupních dat a poté se použije Bayesovo pravidlo k přidělení třídy s nejvyšší pravděpodobností zadní strany novým vstupním datům. Touto metodou je minimalizována pravděpodobnost nesprávné klasifikace.[2] Tento typ ANN byl odvozen z Bayesovská síť[3] a zavolal statistický algoritmus Diskriminační analýza jádra Fishera.[4] To bylo představeno D.F. Specht v roce 1966.[5][6] V PNN jsou operace organizovány do vícevrstvé dopředné sítě se čtyřmi vrstvami:

  • Vstupní vrstva
  • Vrstva vzoru
  • Sumační vrstva
  • Výstupní vrstva

Vrstvy

PNN se často používá při klasifikačních problémech.[7] Když je přítomen vstup, první vrstva vypočítá vzdálenost od vstupního vektoru k cvičným vstupním vektorům. Tím se vytvoří vektor, kde jeho prvky označují, jak blízko je vstup tréninkovému vstupu. Druhá vrstva shrnuje příspěvek pro každou třídu vstupů a vytváří její čistý výstup jako vektor pravděpodobností. Nakonec funkce přenosu soutěží na výstupu druhé vrstvy vybere maximum z těchto pravděpodobností a vytvoří 1 (pozitivní identifikace) pro tuto třídu a 0 (negativní identifikace) pro necílené třídy.

Vstupní vrstva

Každý neuron ve vstupní vrstvě představuje predikční proměnnou. V kategorických proměnných N-1 neurony se používají, když existují N počet kategorií. Standardizuje rozsah hodnot odečtením mediánu a dělením Rozsah interkvartilní. Potom vstupní neurony přivádějí hodnoty ke každému z neuronů ve skryté vrstvě.

Vrstva vzoru

Tato vrstva obsahuje jeden neuron pro každý případ v datové sadě tréninku. Ukládá hodnoty proměnných prediktoru pro případ spolu s cílovou hodnotou. Skrytý neuron vypočítá euklidovskou vzdálenost testovacího případu od středu neuronu a poté použije radiální základní funkce funkce jádra pomocí hodnot sigma.

Sumační vrstva

Pro PNN existuje jeden vzorový neuron pro každou kategorii cílové proměnné. Skutečná cílová kategorie každého tréninkového případu je uložena s každým skrytým neuronem; vážená hodnota vycházející ze skrytého neuronu se přivádí pouze k neuronu typu, který odpovídá kategorii skrytého neuronu. Vzorové neurony přidávají hodnoty pro třídu, kterou představují.

Výstupní vrstva

Výstupní vrstva porovnává vážené hlasy pro každou cílovou kategorii nahromaděnou ve vrstvě vzoru a používá největší hlas k předpovědi cílové kategorie.

Výhody

Místo použití PNN existuje několik výhod a nevýhod vícevrstvý perceptron.[8]

  • PNN jsou mnohem rychlejší než vícevrstvé perceptronové sítě.
  • PNN mohou být přesnější než vícevrstvé perceptronové sítě.
  • Sítě PNN jsou vůči odlehlým hodnotám relativně necitlivé.
  • Sítě PNN generují přesné predikované skóre pravděpodobnosti cíle.
  • PNN přistupují k Bayesově optimální klasifikaci.

Nevýhody

  • PNN jsou pomalejší než vícevrstvé perceptronové sítě při klasifikaci nových případů.
  • PNN vyžadují více paměti pro uložení modelu.

Aplikace založené na PNN

  • pravděpodobnostní neuronové sítě při modelování strukturálního poškození potrubí dešťové vody.[9]
  • metoda pravděpodobnostní neuronových sítí k diagnostice vzorků žaludečního endoskopu na základě FTIR spektroskopie.[10]
  • Pravděpodobnostní neuronové sítě při řešení různých problémů s klasifikací vzorů.[11]
  • Aplikace pravděpodobnostních neuronových sítí na populační farmakokinetiky.[12]
  • Pravděpodobnostní neurální sítě k předpovědi třídy leukémie a embryonálního nádoru centrálního nervového systému.[13]
  • Identifikace lodi pomocí pravděpodobnostních neuronových sítí.[14]
  • Pravděpodobná správa konfigurace senzorů založených na neuronových sítích v bezdrátové síti ad hoc síť.[15]
  • Pravděpodobnostní neurální síť v rozpoznávání znaků.
  • Klasifikace obrazu pomocí dálkového průzkumu.[16]

Reference

  1. ^ Mohebali, Behshad; Tahmassebi, Amirhessam; Meyer-Baese, Anke; Gandomi, Amir H. (2020). Pravděpodobnostní neuronové sítě: stručný přehled teorie, implementace a aplikace. Elsevier. str. 347–367. doi:10.1016 / B978-0-12-816514-0.00014-X.
  2. ^ „Competitive probabilistic neuron network (PDF Download Available)“. ResearchGate. Citováno 2017-03-16.
  3. ^ „Archivovaná kopie“. Archivovány od originál dne 18. 12. 2010. Citováno 2012-03-22.CS1 maint: archivovaná kopie jako titul (odkaz)
  4. ^ „Archivovaná kopie“ (PDF). Archivovány od originál (PDF) dne 31.01.2012. Citováno 2012-03-22.CS1 maint: archivovaná kopie jako titul (odkaz)
  5. ^ Specht, D. F. (01.06.1967). "Generování polynomiálních diskriminačních funkcí pro rozpoznávání vzorů". Transakce IEEE na elektronických počítačích. EC-16 (3): 308–319. doi:10.1109 / PGEC.1967.264667. ISSN  0367-7508.
  6. ^ Specht, D. F. (1990). "Pravděpodobnostní neuronové sítě". Neuronové sítě. 3: 109–118. doi:10.1016 / 0893-6080 (90) 90049-Q.
  7. ^ http://www.mathworks.in/help/toolbox/nnet/ug/bss38ji-1.html[trvalý mrtvý odkaz ]
  8. ^ „Archivovaná kopie“. Archivovány od originál dne 02.03.2012. Citováno 2012-03-22.CS1 maint: archivovaná kopie jako titul (odkaz)
  9. ^ http://vuir.vu.edu.au/583/1/UrbanWater-Dung.pdf
  10. ^ Li, Q. B .; Li, X .; Zhang, G. J .; Xu, Y. Z .; Wu, J. G .; Sun, X. J. (2009). "[Aplikace metody pravděpodobnostních neuronových sítí na diagnostiku vzorků žaludečního endoskopu na základě FTIR spektroskopie]". Guang Pu Xue Yu Guang Pu Fen Xi. 29 (6): 1553–7. PMID  19810529.
  11. ^ http://www.idosi.org/wasj/wasj4(6)/3.pdf
  12. ^ Berno, E .; Brambilla, L .; Canaparo, R .; Casale, F .; Costa, M .; Della Pepa, C .; Eandi, M .; Pasero, E. (2003). "Aplikace pravděpodobnostních neuronových sítí na populační farmakokinetiky". Proceedings of the International Joint Conference on Neural Networks, 2003. 2637–2642. doi:10.1109 / IJCNN.2003.1223983. ISBN  0-7803-7898-9.
  13. ^ http://dl.acm.org/citation.cfm?id=1011984
  14. ^ http://www.iaeng.org/publication/IMECS2009/IMECS2009_pp1291-1294.pdf
  15. ^ „Archivovaná kopie“ (PDF). Archivovány od originál (PDF) dne 14.06.2010. Citováno 2012-03-22.CS1 maint: archivovaná kopie jako titul (odkaz)
  16. ^ Zhang, Y. (2009). „Klasifikace obrazu pomocí dálkového průzkumu Země založená na vylepšené pravděpodobnostní neurální síti“. Senzory. 9 (9): 7516–7539. doi:10,3390 / s90907516. PMC  3290485. PMID  22400006.