Střední vzájemná hodnost - Mean reciprocal rank

The průměrná vzájemná hodnost je statistický míra pro vyhodnocení jakéhokoli procesu, který produkuje seznam možných odpovědí na vzorek dotazů seřazený podle pravděpodobnosti správnosti. Reciproční pořadí odpovědi na dotaz je multiplikativní inverzní hodnosti první správné odpovědi: 1 za první místo,12 za druhé místo,13 za třetí místo atd. Průměrné reciproční pořadí je průměrem vzájemných pořadí výsledků u vzorku dotazů Q:[1][2]

kde odkazuje na poziční pozici za prvé příslušný dokument pro i-tý dotaz.

Vzájemná hodnota střední vzájemné hodnosti odpovídá harmonický průměr z řad.

Příklad

Předpokládejme například, že máme následující tři ukázkové dotazy pro systém, který se pokouší přeložit anglická slova do jejich množného čísla. V každém případě systém provede tři odhady, přičemž první je ten, který považuje za nejpravděpodobnější správný:

DotazNavrhované výsledkySprávná odpověďHodnostReciproční pozice
kočkacatten, cati, kočkykočky31/3
Toritorii, Tori, torusyTori21/2
virusviry, virii, viriviry11

Vzhledem k těmto třem vzorkům bychom mohli vypočítat průměrné vzájemné pořadí jako (1/3 + 1/2 + 1) / 3 = 11/18 nebo přibližně 0,61.

Pokud žádný z navrhovaných výsledků není správný, je reciproční pořadí 0.[1] Vezměte na vědomí, že se bere v úvahu pouze pořadí první relevantní odpovědi, možné další relevantní odpovědi jsou ignorovány. Pokud mají uživatelé zájem také o další relevantní položky, průměrná průměrná přesnost je potenciální alternativní metrika.

Viz také

Reference

  1. ^ A b E. Voorhees (1999). „Sborník z 8. konference o vyhledávání textů“ (PDF). Zpráva o sledování odpovědí na otázky TREC-8. str. 77–82.
  2. ^ D. R. Radev; H. Qi; H. Wu; W. Fan (2002). „Vyhodnocení webových systémů odpovídání na otázky“ (PDF). Sborník LREC.