Diferenciální technologický vývoj - Differential technological development - Wikipedia

Diferenciální technologický vývoj je strategie správy technologií s cílem snížit rizika z vznikající technologie ovlivňováním sekvence, ve které jsou vyvíjeny. V rámci této strategie by se společnosti snažily oddálit vývoj škodlivých technologií a jejich aplikací a zároveň urychlit vývoj prospěšných technologií, zejména těch, které nabízejí ochranu před škodlivými technologiemi.[1][2]

Historie nápadu

Diferenciální technologický vývoj byl původně navržen filozofem Nick Bostrom v roce 2002[1] a tuto myšlenku aplikoval na řízení umělé inteligence ve své knize z roku 2014 Superinteligence: Cesty, nebezpečí, strategie.[3] Tuto strategii podpořil také filozof Toby Ord ve své knize z roku 2020 Precipice: Existenční riziko a budoucnost lidstva, který píše, že „I když může být příliš obtížné zabránit vývoji rizikové technologie, můžeme být schopni snížit existenční riziko urychlením vývoje ochranných technologií ve vztahu k nebezpečným technologiím. ““[2][4]

Neformální diskuse

Paul Christiano věří, že zatímco se zrychlení technologického pokroku jeví jako jeden z nejlepších způsobů, jak zlepšit blahobyt lidí v příštích několika desetiletích, rychlejší růst nemůže být pro vzdálenou budoucnost stejně důležitý, protože růst musí být nakonec fyzicky omezen. Z pohledu daleké budoucnosti se tedy diferenciální technologický vývoj jeví jako zásadnější.[5][nespolehlivý zdroj? ]

Luke Muehlhauser a Anna Salamon, inspirovaní Bostromovým návrhem, navrhli obecnější projekt „diferenciálního intelektuálního pokroku“, ve kterém společnost posouvá svou moudrost, filozofickou propracovanost a chápání rizik rychleji než její technologická síla.[6][nespolehlivý zdroj? ][7][nespolehlivý zdroj? ] Brian Tomasik tuto představu rozšířil.[8][nespolehlivý zdroj? ]

Viz také

Reference

  1. ^ A b Bostrom, Nick (2002). „Existenční rizika: Analýza scénářů vyhynutí člověka“. Citovat deník vyžaduje | deník = (Pomoc) 9 Journal of Evolution and Technology Jetpress Oxfordský výzkumný archiv
  2. ^ A b Ord, Toby (2020). Precipice: Existenční riziko a budoucnost lidstva. Spojené království: Bloomsbury Publishing. p. 200. ISBN  1526600218.
  3. ^ Bostrom, Nick (2014). Superinteligence: Cesty, nebezpečí, strategie. Oxford: Oxford University Press. str. 229–237. ISBN  978-0199678112.
  4. ^ Purtill, Corinne. „Jak blízko je lidstvo na hraně?“. Newyorčan. Citováno 2020-11-27.
  5. ^ Christiano, Paul (15. října 2014). „O pokroku a prosperitě“. Efektivní fórum altruismu. Citováno 21. října 2014.
  6. ^ Muehlhauser, Luke; Anna Salamon (2012). „Intelligence Explosion: Evidence and Import“ (PDF): 18–19. Archivovány od originál (PDF) dne 26. října 2014. Citováno 29. listopadu 2013. Citovat deník vyžaduje | deník = (Pomoc)
  7. ^ Muehlhauser, Luke (2013). Tváří v tvář explozi inteligence. Výzkumný ústav strojové inteligence. Citováno 29. listopadu 2013.
  8. ^ Tomasik, Brian (23. října 2013). „Diferenciální intelektuální pokrok jako projekt pozitivního součtu“. Ústav základního výzkumu. Citováno 18. února 2016.