Radiální základní funkce - Radial basis function - Wikipedia

A radiální základní funkce (RBF) je funkce se skutečnou hodnotou ${ textstyle varphi}$ jehož hodnota závisí pouze na vzdálenosti mezi vstupem a nějakým pevným bodem, buď původ, aby ${ textstyle varphi ( mathbf {x}) = varphi ( left | mathbf {x} right |)}$ , nebo nějaký jiný pevný bod ${ textstyle mathbf {c}}$ , nazvaný a centrum, aby ${ textstyle varphi ( mathbf {x}) = varphi ( vlevo | mathbf {x} - mathbf {c} vpravo |)}$ . Libovolná funkce ${ textstyle varphi}$ který uspokojí vlastnost ${ textstyle varphi ( mathbf {x}) = varphi ( left | mathbf {x} right |)}$ je radiální funkce. Vzdálenost je obvykle Euklidovská vzdálenost, i když jiné metriky jsou někdy používány. Často se používají jako kolekce ${ displaystyle { varphi _ {k} } _ {k}}$ který tvoří a základ pro některé funkční prostor zájmu, odtud název.

Součty radiálních bázových funkcí se obvykle používají přibližné dané funkce. Tento proces aproximace lze také interpretovat jako jednoduchý druh nervová síť; to byl kontext, ve kterém byly původně aplikovány na strojové učení, v práci David Broomhead a David Lowe v roce 1988,^[1]^[2] z kterého pocházel Michael J. D. Powell klíčový výzkum z roku 1977.^[3]^[4]^[5]RBF se také používají jako jádro v podpora vektorové klasifikace.^[6] Tato technika se ukázala dostatečně efektivní a pružná, takže radiální bázové funkce se nyní používají v různých inženýrských aplikacích.^[7]^[8]

Definice

Radiální funkce je funkce ${ textstyle varphi: [0, infty) to mathbb {R}}$ . Při spárování s metrikou ve vektorovém prostoru ${ textstyle | cdot |: V až [0, infty)}$ funkce ${ textstyle varphi _ { mathbf {c}} = varphi ( | mathbf {x} - mathbf {c} |)}$ se říká, že je radiální jádro se středem na ${ textstyle mathbf {c}}$ . Radiální funkce a související radiální jádra jsou považovány za radiální základní funkce, pokud pro jakoukoli sadu uzlů ${ displaystyle { mathbf {x} _ {k} } _ {k = 1} ^ {n}}$

Jádra ${ displaystyle varphi _ { mathbf {x} _ {1}}, varphi _ { mathbf {x} _ {2}}, dots, varphi _ { mathbf {x} _ {n}} }$ jsou lineárně nezávislé (například ${ displaystyle varphi (r) = r ^ {2}}$ v ${ displaystyle V = mathbb {R}}$ není radiální základní funkce)

Jádra ${ displaystyle varphi _ { mathbf {x} _ {1}}, varphi _ { mathbf {x} _ {2}}, dots, varphi _ { mathbf {x} _ {n}} }$ tvoří základ pro a Haarův prostor, což znamená, že interpolační matice

{ displaystyle { begin {bmatrix} varphi ( | mathbf {x} _ {1} - mathbf {x} _ {1} |) & varphi ( | mathbf {x} _ {2 } - mathbf {x} _ {1} |) & dots & varphi ( | mathbf {x} _ {n} - mathbf {x} _ {1} |) varphi ( | mathbf {x} _ {1} - mathbf {x} _ {2} |) & varphi ( | mathbf {x} _ {2} - mathbf {x} _ {2} |) & dots & varphi ( | mathbf {x} _ {n} - mathbf {x} _ {2} |) vdots & vdots & ddots & vdots varphi ( | mathbf {x} _ {1} - mathbf {x} _ {n} |) & varphi ( | mathbf {x} _ {2} - mathbf {x} _ {n} |) & dots & varphi ( | mathbf {x} _ {n} - mathbf {x} _ {n} |) end {bmatrix}}}

není singulární. ^[9]^[10]

Příklady

Mezi běžně používané typy radiálních základních funkcí patří (psaní ${ textstyle r = left | mathbf {x} - mathbf {x} _ {i} right |}$ a pomocí ${ textstyle varepsilon}$ k označení a parametr tvaru které lze použít ke změně velikosti vstupu radiálního jádra^[11]):

Nekonečně hladké RBF

Tyto radiální základní funkce jsou z ${ displaystyle C ^ { infty} ( mathbb {R})}$ a jsou přísně pozitivní určité funkce^[12] které vyžadují vyladění parametru tvaru ${ displaystyle varepsilon}$

Gaussian: ${ displaystyle varphi (r) = e ^ {- ( varepsilon r) ^ {2}}}$

A Gaussova funkce pro několik možností

{ displaystyle varepsilon}

.

Děj měřítka Funkce nárazu s několika možnostmi

{ displaystyle varepsilon}

.

Multiquadric: ${ displaystyle varphi (r) = { sqrt {1 + ( varepsilon r) ^ {2}}}}$

Inverzní kvadratické: ${ displaystyle varphi (r) = { dfrac {1} {1 + ( varepsilon r) ^ {2}}}}$

Inverzní multiquadric: ${ displaystyle varphi (r) = { dfrac {1} { sqrt {1 + ( varepsilon r) ^ {2}}}}}$

Polyharmonické spline: ${ displaystyle { begin {zarovnáno} varphi (r) & = r ^ {k}, & k & = 1,3,5, dotsc varphi (r) & = r ^ {k} ln (r ), & k & = 2,4,6, dotsc end {zarovnáno}}}$ * Pro rovnoměrné polyharmonické drážkování ${ displaystyle (k = 2,4,6, dotsc)}$ , aby se předešlo numerickým problémům v ${ displaystyle r = 0}$ kde ${ displaystyle ln (0) = - infty}$ , výpočetní implementace je často psána jako ${ displaystyle varphi (r) = r ^ {k-1} ln (r ^ {r})}$ .

Tenká deska spline (speciální polyharmonický spline): ${ displaystyle varphi (r) = r ^ {2} ln (r)}$

Kompaktně Podporováno RBF

Tyto RBF jsou kompaktně podporovány, a proto jsou nenulové pouze v okruhu ${ displaystyle 1 / varepsilon}$ , a tedy mít řídké diferenciační matice

Funkce nárazu:

{ displaystyle varphi (r) = { begin {cases} exp left (- { frac {1} {1 - ( varepsilon r) ^ {2}}} right) & { mbox {pro }} r <{ frac {1} { varepsilon}} 0 & { mbox {jinak}} end {případy}}}

Přiblížení

K vytvoření se obvykle používají radiální základní funkce aproximace funkcí formuláře

{ displaystyle y ( mathbf {x}) = součet _ {i = 1} ^ {N} w_ {i} , varphi ( left | mathbf {x} - mathbf {x} _ { i} vpravo |),}

kde aproximační funkce ${ textový styl y ( mathbf {x})}$ je reprezentován jako součet ${ displaystyle N}$ radiální základní funkce, každá spojená s jiným středem ${ textstyle mathbf {x} _ {i}}$ a vážený příslušným koeficientem ${ textstyle w_ {i}.}$ Váhy ${ textstyle w_ {i}}$ lze odhadnout pomocí maticových metod z lineární nejmenší čtverce, protože aproximační funkce je lineární v závažích ${ textstyle w_ {i}}$ .

Obzvláště se používají aproximační schémata tohoto druhu^{[Citace je zapotřebí ]} v predikce časových řad a řízení z nelineární systémy vystavování dostatečně jednoduché chaotický chování a 3D rekonstrukce v počítačová grafika (například, hierarchický RBF a Pose Space Deformation ).

Síť RBF

Dvě nenormalizované Gaussovy radiální bázové funkce v jedné vstupní dimenzi. Centra základních funkcí jsou umístěna na

{ textstyle x_ {1} = 0,75}

a

{ textstyle x_ {2} = 3,25}

.

Součet

{ displaystyle y ( mathbf {x}) = součet _ {i = 1} ^ {N} w_ {i} , varphi ( left | mathbf {x} - mathbf {x} _ { i} vpravo |),}

lze také interpretovat jako poměrně jednoduchý jednovrstvý typ umělá neuronová síť volal a síť radiálních základních funkcí, přičemž radiální základní funkce přebírají roli aktivačních funkcí sítě. Je možné ukázat, že jakákoli spojitá funkce na a kompaktní interval lze v zásadě interpolovat s libovolnou přesností součtem tohoto tvaru, pokud je dostatečně velký počet ${ textstyle N}$ je použito radiálních základních funkcí.

Přibližný ${ textový styl y ( mathbf {x})}$ je diferencovatelné s ohledem na váhy ${ textstyle w_ {i}}$ . Váhy by se tak mohly naučit pomocí kterékoli ze standardních iteračních metod pro neuronové sítě.

Použití radiálních bázových funkcí tímto způsobem poskytuje rozumný interpolační přístup za předpokladu, že fitovací sada byla zvolena tak, že systematicky pokrývá celý rozsah (ideální jsou datové body ve stejné vzdálenosti). Avšak bez polynomiálního členu, který je kolmý k radiálním základním funkcím, mají odhady mimo fitovací sadu tendenci fungovat špatně.^{[Citace je zapotřebí ]}

Viz také

Reference

^ Síťové funkce radiální báze Archivováno 2014-04-23 na Wayback Machine
^ Broomhead, David H .; Lowe, David (1988). „Funkční interpolace s více proměnnými a adaptivní sítě“ (PDF). Složité systémy. 2: 321–355. Archivovány od originál (PDF) dne 2014-07-14.
^ Michael J. D. Powell (1977). Msgstr "Restartujte procedury pro metodu konjugovaného gradientu". Matematické programování. 12 (1): 241–254. doi:10.1007 / bf01593790. S2CID 9500591.
^ Sahin, Ferat (1997). Přístup funkce radiální báze k problému klasifikace barevného obrazu v průmyslové aplikaci v reálném čase (M.Sc.). Virginia Tech. p. 26. hdl:10919/36847. Radiální bazické funkce byly poprvé představeny Powellem k vyřešení skutečného vícerozměrného interpolačního problému.
^ Broomhead & Lowe 1988, str. 347: „Rádi bychom poděkovali profesorovi M.J.D. Powellovi na katedře aplikované matematiky a teoretické fyziky na univerzitě v Cambridge za poskytnutí počátečního podnětu pro tuto práci.“
^ VanderPlas, Jake (6. května 2015). „Úvod do podpory vektorových strojů“. [O'Reilly]. Citováno 14. května 2015.
^ Buhmann, Martin Dietrich (2003). Radiální základní funkce: teorie a implementace. Cambridge University Press. ISBN 978-0511040207. OCLC 56352083.
^ Biancolini, Marco Evangelos (2018). Rychlé radiální základní funkce pro inženýrské aplikace. Springer International Publishing. ISBN 9783319750118. OCLC 1030746230.
^ Fasshauer, Gregory E. (2007). Meshfree Aproximační metody s MATLAB. Singapur: World Scientific Publishing Co. Pte. Ltd. str. 17–25. ISBN 9789812706331.
^ Wendland, Holger (2005). Scattered Data Aproximation. Cambridge: Cambridge University Press. str. 11, 18–23, 64–66. ISBN 0521843359.
^ Fasshauer, Gregory E. (2007). Meshfree Aproximační metody s MATLAB. Singapur: World Scientific Publishing Co. Pte. Ltd. str. 37. ISBN 9789812706331.
^ Fasshauer, Gregory E. (2007). Meshfree Aproximační metody s MATLAB. Singapur: World Scientific Publishing Co. Pte. Ltd. str. 37–45. ISBN 9789812706331.

Další čtení

Hardy, R.L. (1971). "Multiquadric rovnice topografie a jiné nepravidelné plochy". Journal of Geophysical Research. 76 (8): 1905–1915. Bibcode:1971JGR .... 76,1905H. doi:10.1029 / jb076i008p01905.
Hardy, R.L. (1990). „Teorie a aplikace multiquadric-biharmonic metody, 20 let objevu, 1968 1988“. Comp. Math Applic. 19 (8/9): 163–208. doi:10.1016 / 0898-1221 (90) 90272-l.
Stiskněte, WH; Teukolsky, SA; Vetterling, WT; Flannery, BP (2007), „Část 3.7.1. Interpolace funkcí radiálního základu“, Numerické recepty: Umění vědecké práce na počítači (3. vyd.), New York: Cambridge University Press, ISBN 978-0-521-88068-8
Sirayanone, S., 1988, Srovnávací studie krigingu, multiquadric-biharmonie a dalších metod řešení problémů s minerálními zdroji, PhD. Disertační práce, Katedra věd o Zemi, Iowa State University, Ames, Iowa.
Sirayanone, S .; Hardy, R.L. (1995). „Metoda vícekvadric-biharmonie používaná pro nerostné zdroje, meteorologické a další aplikace“. Journal of Applied Sciences and Computations. 1: 437–475.

[1] Síťové funkce radiální báze Archivováno 2014-04-23 na Wayback Machine

[2] Broomhead, David H .; Lowe, David (1988). „Funkční interpolace s více proměnnými a adaptivní sítě“ (PDF). Složité systémy. 2: 321–355. Archivovány od originál (PDF) dne 2014-07-14.

[3] Michael J. D. Powell (1977). Msgstr "Restartujte procedury pro metodu konjugovaného gradientu". Matematické programování. 12 (1): 241–254. doi:10.1007 / bf01593790. S2CID 9500591.

[4] Sahin, Ferat (1997). Přístup funkce radiální báze k problému klasifikace barevného obrazu v průmyslové aplikaci v reálném čase (M.Sc.). Virginia Tech. p. 26. hdl:10919/36847. Radiální bazické funkce byly poprvé představeny Powellem k vyřešení skutečného vícerozměrného interpolačního problému.

[CITEREFBroomheadLowe1988-5] Broomhead & Lowe 1988, str. 347: „Rádi bychom poděkovali profesorovi M.J.D. Powellovi na katedře aplikované matematiky a teoretické fyziky na univerzitě v Cambridge za poskytnutí počátečního podnětu pro tuto práci.“

[6] VanderPlas, Jake (6. května 2015). „Úvod do podpory vektorových strojů“. [O'Reilly]. Citováno 14. května 2015.

[7] Buhmann, Martin Dietrich (2003). Radiální základní funkce: teorie a implementace. Cambridge University Press. ISBN 978-0511040207. OCLC 56352083.

[8] Biancolini, Marco Evangelos (2018). Rychlé radiální základní funkce pro inženýrské aplikace. Springer International Publishing. ISBN 9783319750118. OCLC 1030746230.

[9] Fasshauer, Gregory E. (2007). Meshfree Aproximační metody s MATLAB. Singapur: World Scientific Publishing Co. Pte. Ltd. str. 17–25. ISBN 9789812706331.

[wendland2005-10] Wendland, Holger (2005). Scattered Data Aproximation. Cambridge: Cambridge University Press. str. 11, 18–23, 64–66. ISBN 0521843359.

[11] Fasshauer, Gregory E. (2007). Meshfree Aproximační metody s MATLAB. Singapur: World Scientific Publishing Co. Pte. Ltd. str. 37. ISBN 9789812706331.

[12] Fasshauer, Gregory E. (2007). Meshfree Aproximační metody s MATLAB. Singapur: World Scientific Publishing Co. Pte. Ltd. str. 37–45. ISBN 9789812706331.

[1]

[2]

[3]

[4]

[5]

[6]

[7]

[8]

[9]

[10]

[11]

[12]