Informační geometrie - Information geometry

Sada všech normálních distribucí tvoří statistickou varietu s hyperbolická geometrie.

Informační geometrie je interdisciplinární obor, který aplikuje techniky diferenciální geometrie studovat teorie pravděpodobnosti a statistika. Studuje to statistické rozdělovače, což jsou Riemannovy rozdělovače jejichž body odpovídají rozdělení pravděpodobnosti.

Úvod

Historicky lze informační geometrii vysledovat zpět k práci C. R. Rao, který jako první léčil Fisherova matice jako Riemannova metrika.[1][2] Moderní teorie je do značné míry způsobena Shun'ichi Amari, jehož práce měla velký vliv na rozvoj oboru.[Citace je zapotřebí ]

Klasická informační geometrie byla považována za parametrizovanou statistický model jako Riemannovo potrubí. U takových modelů existuje přirozená volba Riemannovy metriky známé jako Fisherova metrika informací. Ve zvláštním případě, že statistický model je exponenciální rodina, je možné vyvolat statistické potrubí pomocí hesenské metriky (tj. Riemannovy metriky dané potenciálem konvexní funkce). V tomto případě potrubí přirozeně dědí dva ploché afinní spojení, stejně jako kanonický Bregmanova divergence. Historicky byla velká část práce věnována studiu související geometrie těchto příkladů. V moderním prostředí platí informační geometrie v mnohem širším kontextu, včetně neexponenciálních rodin, neparametrické statistiky, a dokonce i abstraktní statistické rozdělovače nevyvolávané ze známého statistického modelu. Výsledky kombinují techniky z teorie informace, afinní diferenciální geometrie, konvexní analýza a mnoho dalších polí.

Standardní odkazy v této oblasti jsou kniha Shun’ichi Amari a Hiroshi Nagaoka, Metody informační geometrie,[3] a novější kniha Nihat Ay a dalších.[4] Jemný úvod uvádí průzkum Frank Nielsen.[5] V roce 2018 časopis Informační geometrie byl propuštěn, který se věnuje oboru.

Přispěvatelé

Historie informační geometrie je spojena s objevy alespoň následujících lidí a mnoha dalších.

Aplikace

Jako interdisciplinární pole se informační geometrie používala v různých aplikacích.

Zde neúplný seznam:

  • Statistická inference
  • Časové řady a lineární systémy
  • Kvantové systémy
  • Neuronové sítě
  • Strojové učení
  • Statistická mechanika
  • Biologie
  • Statistika
  • Matematické finance

Viz také

Reference

  1. ^ Rao, C. R. (1945). "Informace a přesnost dosažitelné při odhadu statistických parametrů". Bulletin of Calcutta Mathematical Society. 37: 81–91. Přetištěno Průlomy ve statistice. Springer. 1992. str. 235–247. doi:10.1007/978-1-4612-0919-5_16.
  2. ^ Nielsen, F. (2013). „Cramér-Rao Lower Bound and Information Geometry“. In Bhatia, R .; Rajan, C. S. (eds.). Connected at Infinity II: On the Work of Indian Mathematicians. Speciální svazek textů a čtení z matematiky (TRIM). Hindustan Book Agency. arXiv:1301.3578. ISBN  978-93-80250-51-9.
  3. ^ Amari, Shun'ichi; Nagaoka, Hiroshi (2000). Metody informační geometrie. Překlady matematických monografií. 191. Americká matematická společnost. ISBN  0-8218-0531-2.
  4. ^ Ay, Nihat; Jost, Jürgen; Lê, Hông Vân; Schwachhöfer, Lorenz (2017). Informační geometrie. Ergebnisse der Mathematik und ihrer Grenzgebiete. 64. Springer. ISBN  978-3-319-56477-7.
  5. ^ Nielsen, Frank (2018). "Základní úvod do informační geometrie". arXiv:1808.08271. Citovat deník vyžaduje | deník = (Pomoc)

Další čtení

  • Amari, Shun'ichi (1985). Diferenciálně-geometrické metody ve statistice. Poznámky k přednášce ve statistice. Berlín: Springer-Verlag. ISBN  0-387-96056-2.
  • Murray, M .; Rice, J. (1993). Diferenciální geometrie a statistika. Monografie o statistice a aplikované pravděpodobnosti. 48. Chapman a Hall. ISBN  0-412-39860-5.
  • Kass, R.E .; Vos, P. W. (1997). Geometrické základy asymptotické inference. Série v pravděpodobnosti a statistice. Wiley. ISBN  0-471-82668-5.
  • Marriott, Paul; Losos, Mark, eds. (2000). Aplikace diferenciální geometrie v ekonometrii. Cambridge University Press. ISBN  0-521-65116-6.

externí odkazy