Bayesovská pravděpodobnost - Bayesian probability - Wikipedia

Pro širší pokrytí tohoto tématu viz Bayesovské statistiky.
Část série na
Bayesovské statistiky
Bayes icon.svg
Teorie
Techniky
  • Nuvola apps edu mathematics blue-p.svg Matematický portál

Bayesovská pravděpodobnost je výklad pojmu pravděpodobnosti, ve kterém místo frekvence nebo sklon pravděpodobnosti nějakého jevu je interpretována jako rozumné očekávání[1] představující stav poznání[2] nebo jako kvantifikace osobní víry.[3]

Na Bayesovu interpretaci pravděpodobnosti lze pohlížet jako na rozšíření výroková logika což umožňuje uvažování s hypotézami;[4] tj. s návrhy, jejichž pravda nebo nepravda není známo. Podle Bayesovského pohledu je hypotéze přiřazena pravděpodobnost, zatímco pod častý závěr, hypotéza se obvykle testuje bez přiřazení pravděpodobnosti.

Bayesiánská pravděpodobnost patří do kategorie důkazních pravděpodobností; k vyhodnocení pravděpodobnosti hypotézy Bayesovský pravděpodobnost specifikuje a předchozí pravděpodobnost. To je zase aktualizováno na zadní pravděpodobnost ve světle nového, relevantního data (důkaz).[5] Bayesiánská interpretace poskytuje standardní sadu postupů a vzorců pro provedení tohoto výpočtu.

Termín Bayesian je odvozen od matematika a teologa z 18. století Thomas Bayes, který poskytl první matematické zpracování netriviálního problému statistiky analýza dat pomocí toho, co je nyní známé jako Bayesovský závěr.[6]:131 Matematik Pierre-Simon Laplace propagoval a popularizoval to, čemu se dnes říká Bayesova pravděpodobnost.[6]:97–98

Bayesovská metodologie

Bayesovské metody jsou charakterizovány následujícími koncepty a postupy:

  • Použití náhodné proměnné nebo obecněji neznámá množství,[7] modelovat všechny zdroje nejistota ve statistických modelech včetně nejistoty vyplývající z nedostatku informací (viz také aleatorická a epistemická nejistota ).
  • Potřeba určit předchozí rozdělení pravděpodobnosti s přihlédnutím k dostupným (předchozím) informacím.
  • Postupné používání Bayesův vzorec: až bude k dispozici více dat, vypočítejte zadní distribuci pomocí Bayesova vzorce; následně se zadní distribuce stane dalším předchůdcem.
  • Zatímco pro časté, a hypotéza je tvrzení (což musí být buď pravda, nebo nepravda ), takže častá pravděpodobnost hypotézy je buď 0 nebo 1, v Bayesovské statistice může být pravděpodobnost, kterou lze hypotéze přiřadit, také v rozsahu od 0 do 1, pokud je pravdivostní hodnota nejistá.

Objektivní a subjektivní Bayesovské pravděpodobnosti

Obecně řečeno, existují dva výklady Bayesovské pravděpodobnosti. Pro objektivisty, kteří interpretují pravděpodobnost jako příponu logika, pravděpodobnost kvantifikuje rozumné očekávání, že každý (dokonce i „robot“), který sdílí stejné znalosti, by měl sdílet v souladu s pravidly Bayesovské statistiky, což lze odůvodnit Coxova věta.[2][8] Pro subjektivisty pravděpodobnost odpovídá osobní víře.[3] Racionalita a soudržnost umožňují značné rozdíly v omezeních, která představují; omezení jsou odůvodněna Holandská kniha argument nebo teorie rozhodování a de Finettiho věta.[3] Objektivní a subjektivní varianty Bayesovské pravděpodobnosti se liší hlavně v jejich interpretaci a konstrukci předchozí pravděpodobnosti.

Dějiny

Hlavní článek: Historie statistik § Bayesovská statistika

Termín Bayesian pochází z Thomas Bayes (1702–1761), který prokázal zvláštní případ toho, čemu se nyní říká Bayesova věta v příspěvku s názvem „Esej o řešení problému v Nauce o šancích ".[9] Ve zvláštním případě to byla předchozí a zadní distribuce beta distribuce a data pocházela Bernoulliho zkoušky. to bylo Pierre-Simon Laplace (1749–1827), který představil obecnou verzi věty a použil ji k přiblížení problémů v nebeská mechanika, lékařská statistika, spolehlivost, a jurisprudence.[10] Early Bayesian závěr, který používal uniformní předci po Laplaceově zásada nedostatečného důvodu, byl zavolán "inverzní pravděpodobnost " (protože to vyvozuje zpětně od pozorování k parametrům nebo od účinků k příčinám).[11] Po 20. letech 20. století byla „inverzní pravděpodobnost“ do značné míry nahrazena souborem metod, které se začaly nazývat časté statistiky.[11]

Ve 20. století se myšlenky Laplaceova rozvíjely dvěma směry, z nichž vznikly objektivní a subjektivní proudy v Bayesovské praxi.Harold Jeffreys ' Teorie pravděpodobnosti (poprvé publikováno v roce 1939) sehrálo důležitou roli při oživení bayesovského pohledu na pravděpodobnost, následované díly od Abraham Wald (1950) a Leonard J. Savage (1954). Přídavné jméno Bayesian sám se datuje do 50. let; odvozený Bayesianismus, neo-bayesianismus je ražení mincí šedesátých let.[12][13][14] V proudu objektivistů závisí statistická analýza pouze na předpokládaném modelu a analyzovaných datech.[15] Není třeba zapojovat žádná subjektivní rozhodnutí. Naproti tomu „subjektivističtí“ statistici popírají možnost plně objektivní analýzy pro obecný případ.

V 80. letech došlo k dramatickému nárůstu výzkumu a aplikací bayesovských metod, většinou připisovaných objevu Markovský řetězec Monte Carlo metod a následného odstranění mnoha výpočetních problémů a ke vzrůstajícímu zájmu o nestandardní a složité aplikace.[16] Přestože statistika frekventantů zůstává silná (o čemž svědčí skutečnost, že většina vysokoškolské výuky na ní stále stojí) [17][Citace je zapotřebí ]), Bayesovské metody jsou široce přijímány a používány např. V oblasti strojové učení.[18]

Odůvodnění Bayesovských pravděpodobností

Využití bayesiánských pravděpodobností jako základu Bayesovský závěr bylo podpořeno několika argumenty, jako např Coxovy axiomy, Holandský knižní argument, argumenty založené na teorie rozhodování a de Finettiho věta.

Axiomatický přístup

Richard T. Cox to ukázal[8] Bayesovská aktualizace vyplývá z několika axiomů, včetně dvou funkční rovnice a hypotéza diferencovatelnosti. Předpoklad odlišitelnosti nebo dokonce kontinuity je kontroverzní; Halpern našel protiklad na základě svého pozorování, že booleovská algebra výroků může být konečná.[19] Další axiomatizace navrhli různí autoři za účelem zpřísnění teorie.[7]

Holandský knižní přístup

Argument nizozemské knihy navrhl de Finetti; je založen na sázení. A Holandská kniha vznikne, když chytrý hráč podá sadu sázek, které zaručují zisk, bez ohledu na to, jaký bude výsledek sázek. Pokud bookmaker následuje pravidla Bayesovského počtu při konstrukci svých kurzů, nizozemskou knihu nelze vytvořit.

Nicméně, Ian Hacking poznamenali, že tradiční nizozemské argumenty o knihách nespecifikovaly bayesiánskou aktualizaci: ponechaly otevřenou možnost, že by se nebajesianská pravidla aktualizace mohla vyhnout nizozemským knihám. Například, Hackování píše[20][21] „A ani nizozemský argument v knize, ani žádný jiný v arzenálu důkazů o pravděpodobnostních axiomech nevyvolává dynamický předpoklad. Ani jeden neznamená bajesianismus. Personalista tedy vyžaduje, aby byl dynamický předpoklad bajesiánský. personalista by mohl opustit bayesiánský model učení ze zkušeností. Sůl by mohla ztratit chuť. “

Ve skutečnosti existují neabesiánská pravidla pro aktualizaci, která se rovněž vyhýbají nizozemským knihám (jak je popsáno v literatuře o „kinematika pravděpodobnosti "[22] po zveřejnění Richard C. Jeffreys „pravidlo, které je samo o sobě považováno za Bayesian[23]). Další hypotézy dostatečné k (jednoznačně) specifikaci Bayesovské aktualizace jsou podstatné[24] a není všeobecně považována za uspokojivou.[25]

Přístup teorie rozhodování

A teoreticko-rozhodovací odůvodnění použití Bayesiánského závěru (a tedy Bayesiánských pravděpodobností) bylo dáno Abraham Wald, který dokázal, že každý přípustný statistický postup je buď Bayesiánský postup, nebo limit Bayesovských postupů.[26] Naopak každý Bayesiánský postup je přípustný.[27]

Osobní pravděpodobnosti a objektivní metody pro konstrukci předchůdců

V návaznosti na práci na očekávaná užitečnost teorie z Ramsey a von Neumann, teoretici rozhodování připočítali racionální chování pomocí rozdělení pravděpodobnosti pro činidlo. Johann Pfanzagl dokončil Teorie her a ekonomické chování poskytnutím axiomatizace subjektivní pravděpodobnosti a užitečnosti, úkol, který von Neumann a Oskar Morgenstern: jejich původní teorie předpokládala, že všichni agenti měli pro větší pohodlí stejné rozdělení pravděpodobnosti.[28] Oskar Morgenstern schválil Pfanzaglovu axiomatizaci: „Von Neumann a já jsme očekávali ... [otázka, zda by pravděpodobnosti] mohly být, možná typičtěji, subjektivní a konkrétně jsme uvedli, že v druhém případě lze nalézt axiomy, z nichž lze odvodit požadovaná numerická utilita spolu s číslem pro pravděpodobnosti (srov. str Teorie her a ekonomické chování ). To jsme neprovedli; prokázal to Pfanzagl ... se vší potřebnou přísností “.[29]

Ramsey a Savage poznamenal, že rozdělení pravděpodobnosti jednotlivého agenta lze objektivně studovat v experimentech. Postupy pro testování hypotéz o pravděpodobnostech (pomocí konečných vzorků) je způsobeno Ramsey (1931) a de Finetti (1931, 1937, 1964, 1970). Oba Bruno de Finetti[30][31] a Frank P. Ramsey[31][32] uznat jejich dluhy vůči pragmatická filozofie, zejména (pro Ramsey) do Charles S. Peirce.[31][32]

„Ramseyho test“ pro hodnocení rozdělení pravděpodobnosti je teoreticky proveditelný a experimentální psychology zaměstnává půl století.[33]Tato práce ukazuje, že Bayesovské věty o pravděpodobnosti mohou být padělané, a tak splňují empirické kritérium Charles S. Peirce, jehož dílo inspirovalo Ramseyho. (Tento padělání -kritérium popularizovalo Karl Popper.[34][35])

Moderní práce na experimentálním hodnocení osobních pravděpodobností využívá randomizaci, oslepující a booleovské rozhodovací postupy experimentu Peirce-Jastrow.[36] Jelikož jednotlivci jednají podle různých úsudků o pravděpodobnosti, jsou pravděpodobnosti těchto agentů „osobní“ (ale lze je objektivně studovat).

Osobní pravděpodobnosti jsou problematické pro vědu a pro některé aplikace, kde rozhodujícím orgánům chybí znalosti nebo čas k určení informovaného rozdělení pravděpodobnosti (podle kterého jsou připraveni jednat). Aby vyhověli potřebám vědy a lidských omezení, vyvinuli Bayesoví statistici „objektivní“ metody pro stanovení dřívějších pravděpodobností.

Někteří Bayesané skutečně tvrdili, že předchozí stav znalostí je definován the (jedinečné) předchozí rozdělení pravděpodobnosti pro „běžné“ statistické problémy; srov. dobře nastolené problémy. Hledání správné metody pro konstrukci takových „objektivních“ předchůdců (pro příslušné třídy pravidelných problémů) bylo úkolem statistických teoretiků od Laplaceova po John Maynard Keynes, Harold Jeffreys, a Edwin Thompson Jaynes. Tito teoretici a jejich nástupci navrhli několik metod pro konstrukci „objektivních“ priorit (Bohužel není jasné, jak posoudit relativní „objektivitu“ priorit založených na těchto metodách):

Každá z těchto metod přispívá užitečnými prioritami k „běžným“ problémům s jedním parametrem a každá předchozí zvládá některé náročné úkoly statistické modely (s „nepravidelností“ nebo několika parametry). Každá z těchto metod byla v Bayesovské praxi užitečná. Ve skutečnosti metody konstruování „objektivních“ (alternativně „výchozích“ nebo „nevědomých“) priorit byly vyvinuty uznávanými subjektivními (nebo „osobními“) Bayesovci jako James Berger (Duke University ) a José-Miguel Bernardo (Universitat de València ), jednoduše proto, že takové priority jsou potřebné pro bayesiánskou praxi, zejména ve vědě.[37] Pátrání po „univerzální metodě konstruování priorit“ nadále přitahuje statistické teoretiky.[37]

Bayesovský statistik tedy potřebuje buď použít informované priority (s využitím příslušných odborných znalostí nebo předchozích údajů), nebo si vybrat mezi konkurenčními metodami pro konstrukci „objektivních“ priorit.

Viz také

Reference

  1. ^ Cox, R.T. (1946). "Pravděpodobnost, frekvence a rozumné očekávání". American Journal of Physics. 14 (1): 1–10. Bibcode:1946AmJPh..14 .... 1C. doi:10.1119/1.1990764.CS1 maint: ref = harv (odkaz)
  2. ^ A b Jaynes, E.T. (1986). "Bayesovské metody: Obecné souvislosti". In Justice, J. H. (ed.). Maximum-entropie a Bayesovské metody v aplikované statistice. Cambridge: Cambridge University Press. CiteSeerX  10.1.1.41.1055.
  3. ^ A b C de Finetti, Bruno (2017). Teorie pravděpodobnosti: Kritická úvodní léčba. Chichester: John Wiley & Sons Ltd. ISBN  9781119286370.
  4. ^ Hailperin, Theodore (1996). Logika sentimentální pravděpodobnosti: Počátky, vývoj, aktuální stav a technické aplikace. London: Associated University Presses. ISBN  0934223459.
  5. ^ Paulos, John Allen (5. srpna 2011). „Matematika změny mysli [Sharon Bertsch McGrayne]“. Knižní recenze. New York Times. Citováno 2011-08-06.
  6. ^ A b Stigler, Stephen M. (březen 1990). Historie statistik. Harvard University Press. ISBN  9780674403413.
  7. ^ A b Dupré, Maurice J .; Tipler, Frank J. (2009). „Nové axiomy pro přísnou Bayesovu pravděpodobnost“. Bayesova analýza. 4 (3): 599–606. CiteSeerX  10.1.1.612.3036. doi:10.1214 / 09-BA422.
  8. ^ A b Cox, Richard T. (1961). Algebra pravděpodobného závěru (Dotisk ed.). Baltimore, MD; Londýn, Velká Británie: Johns Hopkins Press; Oxford University Press [distributor]. ISBN  9780801869822.
  9. ^ McGrayne, Sharon Bertsch (2011). Teorie, která nezemře. [https://archive.org/details/theorythatwouldn0000mcgr/page/10 10  ], str. 10, na Knihy Google.
  10. ^ Stigler, Stephen M. (1986). "Kapitola 3". Dějiny statistiky. Harvard University Press.
  11. ^ A b Fienberg, Stephen. E. (2006). „Kdy se Bayesian Inference stal„ Bayesianem “?“ (PDF). Bayesova analýza. 1 (1): 5, 1–40. doi:10.1214 / 06-BA101. Archivovány od originál (PDF) dne 10. září 2014.
  12. ^ Harris, Marshall Dees (1959). „Poslední vývoj takzvaného Bayesovského přístupu ke statistikám“. Centrum zemědělského práva. Právně-ekonomický výzkum. University of Iowa: 125 (fn. # 52), 126. Práce Wald, Statistické rozhodovací funkce (1950) a Savage, Statistický základ (1954) jsou běžně považovány za výchozí body pro současné Bayesovské přístupy
  13. ^ Annals of the Computation Laboratory of Harvard University. 31. 1962. str. 180. Tato revoluce, která může nebo nemusí uspět, je neo-bayesianismus. Jeffreys se pokusil zavést tento přístup, ale v té době neuspěl v obecném odvolání.
  14. ^ Kempthorne, Oscar (1967). Klasický problém závěru - dobrota fit. Páté Berkeley Symposium o matematické statistice a pravděpodobnosti. p. 235. Je zvědavé, že i při svých činnostech, které nesouvisejí s etikou, lidstvo hledá náboženství. V současné době je nejnáročnějším „tlačeným“ náboženstvím bayesianismus.
  15. ^ Bernardo, J.M. (2005). "Referenční analýza". Bayesovské myšlení - modelování a výpočet. Příručka statistiky. 25. str. 17–90. doi:10.1016 / S0169-7161 (05) 25002-2. ISBN  9780444515391.
  16. ^ Wolpert, R.L. (2004). „Rozhovor s Jamesem O. Bergerem“. Statistická věda. 9: 205–218. doi:10.1214/088342304000000053.
  17. ^ Bernardo, José M. (2006). Bayesovský základ matematické statistiky (PDF). ICOTS-7. Bern.
  18. ^ Bishop, C.M. (2007). Rozpoznávání vzorů a strojové učení. Springer.
  19. ^ Halpern, J. (1999). „Protiklad k větám o Coxovi a Fineovi“ (PDF). Journal of Artificial Intelligence Research. 10: 67–85. doi:10.1613 / jair.536. S2CID  1538503.
  20. ^ Hacking (1967), oddíl 3, strana 316
  21. ^ Hackování (1988, strana 124)
  22. ^ Skyrms, Brian (1. ledna 1987). "Dynamická koherence a pravděpodobnostní kinematika". Filozofie vědy. 54 (1): 1–20. CiteSeerX  10.1.1.395.5723. doi:10.1086/289350. JSTOR  187470.
  23. ^ Joyce, James (30. září 2003). „Bayesova věta“. Stanfordská encyklopedie filozofie. stanford.edu.
  24. ^ Fuchs, Christopher A .; Schack, Rüdiger (1. ledna 2012). Ben-Menahem, Yemima; Hemmo, Meir (eds.). Pravděpodobnost ve fyzice. Sbírka Frontiers. Springer Berlin Heidelberg. str.233 –247. arXiv:1103.5950. doi:10.1007/978-3-642-21329-8_15. ISBN  9783642213281. S2CID  119215115.
  25. ^ van Frassen, Bas (1989). Zákony a symetrie. Oxford University Press. ISBN  0-19-824860-1.
  26. ^ Wald, Abraham (1950). Statistické rozhodovací funkce. Wiley.
  27. ^ Bernardo, José M .; Smith, Adrian F.M. (1994). Bayesiánská teorie. John Wiley. ISBN  0-471-92416-4.
  28. ^ Pfanzagl (1967, 1968)
  29. ^ Morgenstern (1976, strana 65)
  30. ^ Galavotti, Maria Carla (1. ledna 1989). „Antrealismus ve filozofii pravděpodobnosti: subjektivismus Bruna de Finettiho“. Erkenntnis. 31 (2/3): 239–261. doi:10.1007 / bf01236565. JSTOR  20012239. S2CID  170802937.
  31. ^ A b C Galavotti, Maria Carla (1. prosince 1991). „Pojem subjektivní pravděpodobnosti v práci Ramseyho a de Finettiho.“ Theoria. 57 (3): 239–259. doi:10.1111 / j.1755-2567.1991.tb00839.x. ISSN  1755-2567.
  32. ^ A b Dokic, Jérôme; Engel, Pascal (2003). Frank Ramsey: Pravda a úspěch. Routledge. ISBN  9781134445936.
  33. ^ Davidson a kol. (1957)
  34. ^ Thornton, Stephen (7. srpna 2018). „Karl Popper“. Stanfordská encyklopedie filozofie.
  35. ^ Popper, Karl (2002) [1959]. Logika vědeckého objevu (2. vyd.). Routledge. p. 57. ISBN  0-415-27843-0 - prostřednictvím Knih Google. (překlad originálu z roku 1935, v němčině).
  36. ^ Peirce & Jastrow (1885)
  37. ^ A b Bernardo, J. M. (2005). "Referenční analýza". In Dey, D.K .; Rao, C. R. (eds.). Příručka statistiky (PDF). 25. Amsterdam: Elsevier. str. 17–90.

Bibliografie