Algoritmická průhlednost - Algorithmic transparency

Algoritmická průhlednost je princip, že faktory, které ovlivňují rozhodnutí učiněná algoritmy by měly být viditelné nebo transparentní pro lidi, kteří používají, regulují a jsou ovlivňováni systémy, které tyto algoritmy používají. Ačkoli tuto frázi v roce 2016 vytvořili Nicholas Diakopoulos a Michael Koliska o úloze algoritmů při rozhodování o obsahu služeb digitální žurnalistiky,[1] základní princip sahá až do 70. let a rozmach automatizovaných systémů pro hodnocení spotřebitelských úvěrů.

Fráze „algoritmická transparentnost“ a „algoritmická odpovědnost“[2] jsou někdy používány zaměnitelně - zejména proto, že byly vytvořeny stejnými lidmi - ale mají jemně odlišné významy. Konkrétně „algoritmická průhlednost“ uvádí, že vstupy do algoritmu a samotné použití algoritmu musí být známé, ale nemusí být férové. „Algoritmická odpovědnost“ znamená, že organizace, které používají algoritmy, musí být odpovědné za rozhodnutí učiněná těmito algoritmy, i když rozhodnutí činí stroj, a nikoli člověk.[3]

Aktuální výzkum týkající se algoritmické transparentnosti, který se zajímá o oba společenské dopady přístupu k vzdáleným službám běžícím algoritmům.[4], stejně jako matematické a počítačové vědy přístupy, které lze použít k dosažení algoritmické transparentnosti[5] Ve Spojených státech Federální obchodní komise Úřad pro ochranu spotřebitele studuje, jak spotřebitelé používají algoritmy prováděním vlastního výzkumu algoritmické transparentnosti a financování externího výzkumu.[6] V Evropská unie, zákony o ochraně údajů, které vstoupily v platnost v květnu 2018, zahrnují „právo na vysvětlení“ rozhodnutí učiněných algoritmy, i když není jasné, co to znamená.[7]

Viz také

Reference

  1. ^ Nicholas Diakopoulos & Michael Koliska (2016): Algorithmic Transparency in the News Media, Digital Journalism, doi:10.1080/21670811.2016.1208053
  2. ^ Diakopoulos, Nicholas (2015). „Algorithmic Accountability: Journalistic Investigation of Computational Power Structures“. Digitální žurnalistika. 3 (3): 398-415.
  3. ^ Dickey, Megan Rose (30. dubna 2017). „Algoritmická odpovědnost“. TechCrunch. Citováno 4. září 2017.
  4. ^ „Workshop o datech a transparentnosti algoritmů“. 2015. Citováno 4. ledna 2017.
  5. ^ „Spravedlnost, odpovědnost a transparentnost ve strojovém učení“. 2015. Citováno 29. května 2017.
  6. ^ Noyes, Katherine (9. dubna 2015). „FTC se obává algoritmické transparentnosti a vy byste měli být také“. PCWorld. Citováno 4. září 2017.
  7. ^ „Falešné svědectví“. Příroda. 557 (7707): 612. 31. května 2018.