Odepření základny pronásledování - Basis pursuit denoising

v aplikovaná matematika a statistika, odepření základny pronásledování (BPDN) označuje a matematická optimalizace problém formy

{ displaystyle min _ {x} vlevo ({ frac {1} {2}} | y-Ax | _ {2} ^ {2} + lambda | x | _ {1} že jo),}

kde ${ displaystyle lambda}$ je parametr, který řídí kompromis mezi řídkost a věrnost rekonstrukce, ${ displaystyle x}$ je ${ displaystyle N krát 1}$ vektor řešení, ${ displaystyle y}$ je ${ displaystyle M krát 1}$ vektor pozorování, ${ displaystyle A}$ je ${ displaystyle M krát N}$ transformační matice a ${ displaystyle M$ . Toto je příklad konvexní optimalizace a také z kvadratické programování.

Někteří autoři označují odepření základny pronásledování jako následující úzce související problém:

{ displaystyle min _ {x} | x | _ {1} { text {předmět}} | y-sekera | _ {2} ^ {2} leq delta,}

který, pro všechny dané ${ displaystyle lambda}$ , je pro některé ekvivalentní neomezené formulaci (obvykle neznámé a priori) hodnota ${ displaystyle delta}$ . Oba problémy jsou si docela podobné. V praxi je obvykle upřednostňována neomezená formulace, pro kterou jsou vyvinuty nejvíce specializované a efektivní výpočetní algoritmy.

Oba typy odepření základny pronásledování řeší a regulace problém s kompromisem mezi malým zbytkem (výroba ${ displaystyle y}$ blízko k ${ displaystyle Axe}$ z hlediska čtvercové chyby) a provedení ${ displaystyle x}$ jednoduché v ${ displaystyle ell _ {1}}$ - normální smysl. Lze to považovat za matematické vyjádření Occamova břitva, hledání nejjednoduššího možného vysvětlení (tj. takového, které přináší ${ displaystyle min _ {x} | x | _ {1}}$ ) schopný zohlednit pozorování ${ displaystyle y}$ .

Přesná řešení pro odhalování základů pronásledování jsou často nejlepší výpočtově přijatelnou aproximací nedeterminovaného systému rovnic.^{[Citace je zapotřebí ]} Odepření základny pronásledování má potenciální aplikace ve statistice (viz LASO metoda regulace ), komprese obrazu a komprimované snímání.

Když ${ displaystyle delta = 0}$ , tento problém se stává základní pronásledování.

Odhalování základny pronásledování zavedli Chen a Donoho v roce 1994,^[1] v oblasti zpracování signálu. Ve statistikách je to dobře známé pod jménem LASO poté, co byl představen Tibshirani v roce 1996.

Řešení potlačení pronásledování základny

Problém je konvexní kvadratický problém, takže jej lze vyřešit mnoha obecnými řešiteli, například metody vnitřních bodů. Pro velmi velké problémy bylo navrženo mnoho specializovaných metod, které jsou rychlejší než metody s vnitřními body.

Několik populárních metod pro řešení odepření základny pronásledování zahrnuje algoritmus v davu (rychlý řešitel velkých, řídkých problémů^[2]), pokračování homotopy, pokračování pevného bodu (zvláštní případ algoritmu dopředu-dozadu^[3]) a spektrální promítaný gradient pro minimalizaci L1 (což vlastně řeší LASO, související problém).

Reference

^ Chen, Shaobing; Donoho, D. (1994). "Základní pronásledování". Proceedings of 1994 28. Asilomar Conference on Signals, Systems and Computers. doi:10.1109 / ACSSC.1994.471413.
^ Vidět Gill, Patrick R .; Wang, Albert; Molnar, Alyosha (2011). „In-Crowd Algorithm for Fast Basis Pursuit Denoising“. Transakce IEEE při zpracování signálu. 59 (10): 4595–4605. doi:10.1109 / TSP.2011.2161292; ukázka MATLAB kód k dispozici [1].
^ "Dopředu zpětný algoritmus". Archivovány od originál 16. února 2014.

externí odkazy

Seznam Řešitelé BPDN na řídká a nízká aproximační wiki.

[1] Chen, Shaobing; Donoho, D. (1994). "Základní pronásledování". Proceedings of 1994 28. Asilomar Conference on Signals, Systems and Computers. doi:10.1109 / ACSSC.1994.471413.

[2] Vidět Gill, Patrick R .; Wang, Albert; Molnar, Alyosha (2011). „In-Crowd Algorithm for Fast Basis Pursuit Denoising“. Transakce IEEE při zpracování signálu. 59 (10): 4595–4605. doi:10.1109 / TSP.2011.2161292; ukázka MATLAB kód k dispozici [1].

[3] "Dopředu zpětný algoritmus". Archivovány od originál 16. února 2014.

[1]

[2]

[3]