Výzkumný ústav strojové inteligence - Machine Intelligence Research Institute

Výzkumný ústav strojové inteligence
Logo MIRI.png
Formace2000; před 20 roky (2000)
TypNezisková organizace výzkumný institut
ÚčelVýzkum přátelská umělá inteligence a Problém s ovládáním AI
Umístění
Klíčoví lidé
Eliezer Yudkowsky
webová stránkainteligence.org

The Výzkumný ústav strojové inteligence (MIRI), dříve Institut singularity pro umělou inteligenci (SIAI), je nezisková výzkumný institut od roku 2005 se zaměřuje na identifikaci a řízení potenciálu existenční rizika z umělé obecné inteligence. Práce MIRI se zaměřila na a přátelská AI přístupu k návrhu systému a předpovídání rychlosti vývoje technologie.

Dějiny

Yudkowsky na Stanfordská Univerzita v roce 2006

V roce 2000 Eliezer Yudkowsky založil Singularity Institute for Artificial Intelligence s finančními prostředky od Briana a Sabine Atkinsových s cílem urychlit vývoj umělá inteligence (AI).[1][2][3] Yudkowsky se však začal obávat, že by se mohly vyvinout systémy AI vyvinuté v budoucnu superinteligentní a představují rizika pro lidstvo,[1] a v roce 2005 se institut přestěhoval do Silicon Valley a začal se zaměřovat na způsoby identifikace a řízení těchto rizik, která byla v té době vědci v oboru do značné míry ignorována.[2]

Počínaje rokem 2006 organizoval institut Summit singularity diskutovat o budoucnosti AI včetně jejích rizik, nejprve ve spolupráci s Stanfordská Univerzita as financováním z Peter Thiel. The San Francisco Chronicle popsal první konferenci jako „slavnostní večírek Bay Area pro filozofii inspirovanou technologiemi zvanou transhumanismus“.[4][5] V roce 2011 byly její kanceláře čtyřmi byty v centru Berkeley.[6] V prosinci 2012 institut prodal své jméno, webovou doménu a summit Singularity Singularity University,[7] a v následujícím měsíci získal název „Machine Intelligence Research Institute“.[8]

V letech 2014 a 2015 vzrostl veřejný a vědecký zájem o rizika umělé inteligence, což zvýšilo dary na financování výzkumu v MIRI a podobných organizacích.[3][9]:327

V roce 2019 Otevřená filantropie doporučila společnosti MIRI grant na obecnou podporu ve výši přibližně 2,1 milionu USD na dva roky.[10] V dubnu 2020 to Open Philanthropy doplnila o grant ve výši 7,7 mil. USD na dva roky.[11][12]

Výzkum a přístup

Nate Soares představuje přehled problému se zarovnáním AI na Google.

Přístup společnosti MIRI k identifikaci a řízení rizik AI, vedený Yudkowským, se primárně zaměřuje na to, jak navrhovat přátelskou AI, a to jak při počátečním návrhu systémů AI, tak při vytváření mechanismů, které zajistí, že vyvíjející se systémy AI zůstanou přátelské.[3][13][14]

Výzkumníci MIRI se zasazují o preventivní práci v oblasti včasné bezpečnosti.[15] Vědci MIRI však vyjádřili skepsi ohledně názorů na obhájci singularity jako Ray Kurzweil že superinteligence je „hned za rohem“.[13] Společnost MIRI financovala předpovědní práce prostřednictvím iniciativy s názvem AI Impacts, která studuje historické případy diskontinuálních technologických změn, a vyvinula nová opatření relativní výpočetní síly člověka a počítačového hardwaru.[16]

MIRI se přizpůsobuje zásadám a cílům EU efektivní altruismus hnutí.[17]

Díla zaměstnanců MIRI

  • Graves, Matthew (8. listopadu 2017). „Proč bychom se měli obávat umělé superinteligence“. Skeptik. Skeptická společnost. Citováno 28. července 2018.
  • LaVictoire, Patrick; Fallenstein, Benja; Yudkowsky, Eliezer; Bárász, Mihály; Christiano, Paul; Herreshoff, Marcello (2014). „Programová rovnováha v dilematu vězně pomocí Löbovy věty“. Multiagentní interakce bez předchozí koordinace: Příspěvky z workshopu AAAI-14. Publikace AAAI.
  • Soares, Nate; Levinstein, Benjamin A. (2017). „Podvádění smrti v Damašku“ (PDF). Workshop formální epistemologie (FEW). Citováno 28. července 2018.
  • Soares, Nate; Fallenstein, Benja; Yudkowsky, Eliezer; Armstrong, Stuart (2015). "Opravitelnost". Workshopy AAAI: Workshopy na dvacáté deváté konferenci AAAI o umělé inteligenci, Austin, TX, 25. – 26. Ledna 2015. Publikace AAAI.
  • Soares, Nate; Fallenstein, Benja (2015). „Sladění superinteligence s lidskými zájmy: program technického výzkumu“ (PDF). In Miller, James; Yampolskiy, Roman; Armstrong, Stuart; et al. (eds.). Technologická jedinečnost: Správa cesty. Springer.
  • Yudkowsky, Eliezer (2008). „Umělá inteligence jako pozitivní a negativní faktor globálního rizika“ (PDF). v Bostrom, Nick; Ćirković, Milan (eds.). Globální katastrofická rizika. Oxford University Press. ISBN  978-0199606504.
  • Taylor, Jessica (2016). „Kvantilizéry: bezpečnější alternativa k maximalizátorům pro omezenou optimalizaci“. Workshopy na třicáté konferenci AAAI o umělé inteligenci.
  • Yudkowsky, Eliezer (2011). „Komplexní hodnotové systémy v přátelské AI“ (PDF). Artificial General Intelligence: 4th International Conference, AGI 2011, Mountain View, CA, USA, 3. – 6. Srpna 2011. Berlín: Springer.

Viz také

Reference

  1. ^ A b „MIRI: Umělá inteligence: Nebezpečí dobrých úmyslů - Institut budoucnosti života“. Institut budoucnosti života. 11. října 2015.
  2. ^ A b Khatchadourian, Raffi. „Doomsday Invention“. Newyorčan.
  3. ^ A b C Waters, Richard (31. října 2014). "Umělá inteligence: stroj v člověku". Financial Times. Citováno 27. srpna 2018.
  4. ^ Abate, Tom (2006). „Chytřejší než ty?“. San Francisco Chronicle. Citováno 12. října 2015.
  5. ^ Abate, Tom (2007). „Veřejné setkání znovu posoudí budoucnost umělé inteligence“. San Francisco Chronicle. Citováno 12. října 2015.
  6. ^ Kaste, Martin (11. ledna 2011). „Singularita: Poslední vynález lidstva?“. Všechno zváženo, NPR.
  7. ^ „Tisková zpráva: Singularity University získává Summit Singularity“. Singularity University. 9. prosince 2012.
  8. ^ „Tisková zpráva: Nyní jsme„ Machine Intelligence Research Institute “(MIRI) - Machine Intelligence Research Institute“. Výzkumný ústav strojové inteligence. 30. ledna 2013.
  9. ^ Tegmark, Max (2017). Life 3.0: Being Human in the Age of Artificial Intelligence. Spojené státy: Knopf. ISBN  978-1-101-94659-6.
  10. ^ „Machine Intelligence Research Institute - General Support (2019)“. Otevřený projekt filantropie. 2019-03-29. Citováno 2019-10-08.
  11. ^ „Machine Intelligence Research Institute - General Support (2020)“. Otevřený projekt filantropie. Archivováno z původního 13. dubna 2020.
  12. ^ Bensinger, Rob (27. dubna 2020). „Dosud největší grant MIRI!“. MIRI.
  13. ^ A b LaFrance, Adrienne (2015). „Budování robotů s lepšími mravy než lidmi“. Atlantik. Citováno 12. října 2015.
  14. ^ Russell, Stuart; Norvig, Peter (2009). Umělá inteligence: moderní přístup. Prentice Hall. ISBN  978-0-13-604259-4.
  15. ^ Sathian, Sanjena (4. ledna 2016). „Nejdůležitější filozofové naší doby sídlí v Silicon Valley“. OZY. OZY. Citováno 28. července 2018.
  16. ^ Hsu, Jeremy (2015). „Zajistit, aby rychlý nárůst AI nebyl žádným překvapením“. Objevit. Citováno 12. října 2015.
  17. ^ „AI a efektivní altruismus“. Výzkumný ústav strojové inteligence. 2015-08-28. Citováno 2019-10-08.

Další čtení

externí odkazy