Obecná regresní neuronová síť - General regression neural network

Zobecněná regresní neuronová síť (GRNN) je variace na radiální základ neuronové sítě. GRNN navrhl D.F. Specht v roce 1991.^[1]

GRNN lze použít pro regrese, předpověď, a klasifikace. GRNN může být také dobrým řešením pro online dynamické systémy.

GRNN představuje vylepšenou techniku ​​v neuronových sítích založenou na neparametrická regrese. Myšlenka je, že každý tréninkový vzorek bude představovat průměr na radiální bázi neuron.^[2]

Matematické znázornění

${ displaystyle Y (x) = { frac { součet _ {k = 1} ^ {N} y_ {k} K (x, x_ {k})} { součet _ {k = 1} ^ {N } K (x, x_ {k})}}}$

kde:

• ${ displaystyle Y (x)}$ je predikční hodnota vstupu ${ displaystyle x}$
• ${ displaystyle y_ {k}}$ je aktivační hmotnost neuronu vzorové vrstvy při ${ displaystyle k}$
• ${ displaystyle K (x, x_ {k})}$ je Radiální základní jádro (Gaussovo jádro), jak je formulováno níže.

Gaussovo jádro

${ displaystyle K (x, x_ {k}) = e ^ {- d_ {k} / 2 sigma ^ {2}}, qquad d_ {k} = (x-x_ {k}) ^ {T} (x-x_ {k})}$

kde ${ displaystyle d_ {k}}$ je čtvercová euklidovská vzdálenost mezi tréninkovými vzorky ${ displaystyle x_ {k}}$ a vstup ${ displaystyle x.}$

Implementace

GRNN byla implementováno v mnoha počítačových jazycích včetně MATLAB,^[3] R- programovací jazyk, Python (programovací jazyk) a Node.js.

Neuronové sítě (konkrétně vícevrstvý Perceptron) mohou vymezit nelineární vzory v datech kombinací s generalizovanými lineárními modely zvážením distribuce výsledků (zjevně odlišných od původních GRNN). Došlo k několika úspěšným vývojům, včetně Poissonovy regrese, ordinální logistické regrese, kvantilové regrese a multinomické logistické regrese, které popsal Fallah v roce 2009.^[4]

Výhody a nevýhody

Podobně jako RBFNN má GRNN následující výhody:

• Jednoprůchodové učení, takže ne zpětná propagace je požadováno.
• Vysoká přesnost odhadu, protože používá Gaussovské funkce.
• Zvládne zvuky ve vstupech.
• Vyžaduje pouze menší počet datových sad.

Hlavní nevýhody GRNN jsou:

• Jeho velikost může být obrovská, což by ji výpočetně předražilo.
• Neexistuje žádná optimální metoda, jak ji vylepšit.

Reference