Střední vzájemná hodnost - Mean reciprocal rank
![]() | tento článek potřebuje další citace pro ověření.Červen 2007) (Zjistěte, jak a kdy odstranit tuto zprávu šablony) ( |
The průměrná vzájemná hodnost je statistický míra pro vyhodnocení jakéhokoli procesu, který produkuje seznam možných odpovědí na vzorek dotazů seřazený podle pravděpodobnosti správnosti. Reciproční pořadí odpovědi na dotaz je multiplikativní inverzní hodnosti první správné odpovědi: 1 za první místo,1⁄2 za druhé místo,1⁄3 za třetí místo atd. Průměrné reciproční pořadí je průměrem vzájemných pořadí výsledků u vzorku dotazů Q:[1][2]
kde odkazuje na poziční pozici za prvé příslušný dokument pro i-tý dotaz.
Vzájemná hodnota střední vzájemné hodnosti odpovídá harmonický průměr z řad.
Příklad
Předpokládejme například, že máme následující tři ukázkové dotazy pro systém, který se pokouší přeložit anglická slova do jejich množného čísla. V každém případě systém provede tři odhady, přičemž první je ten, který považuje za nejpravděpodobnější správný:
Dotaz | Navrhované výsledky | Správná odpověď | Hodnost | Reciproční pozice |
---|---|---|---|---|
kočka | catten, cati, kočky | kočky | 3 | 1/3 |
Tori | torii, Tori, torusy | Tori | 2 | 1/2 |
virus | viry, virii, viri | viry | 1 | 1 |
Vzhledem k těmto třem vzorkům bychom mohli vypočítat průměrné vzájemné pořadí jako (1/3 + 1/2 + 1) / 3 = 11/18 nebo přibližně 0,61.
Pokud žádný z navrhovaných výsledků není správný, je reciproční pořadí 0.[1] Vezměte na vědomí, že se bere v úvahu pouze pořadí první relevantní odpovědi, možné další relevantní odpovědi jsou ignorovány. Pokud mají uživatelé zájem také o další relevantní položky, průměrná průměrná přesnost je potenciální alternativní metrika.
Viz také
Reference
- ^ A b E. Voorhees (1999). „Sborník z 8. konference o vyhledávání textů“ (PDF). Zpráva o sledování odpovědí na otázky TREC-8. str. 77–82.
- ^ D. R. Radev; H. Qi; H. Wu; W. Fan (2002). „Vyhodnocení webových systémů odpovídání na otázky“ (PDF). Sborník LREC.