Centrum pro lidsky kompatibilní umělou inteligenci - Center for Human-Compatible Artificial Intelligence

Centrum pro lidsky kompatibilní umělou inteligenci
Centrum pro lidsky kompatibilní umělou inteligenci.png
Formace2016; Před 4 lety (2016)
Hlavní sídloBerkeley, Kalifornie
Vůdce
Stuart J. Russell
Mateřská organizace
University of California, Berkeley
webová stránkakompatibilní s člověkem.ai

The Centrum pro lidsky kompatibilní umělou inteligenci (CHAI) je výzkumné středisko v University of California, Berkeley (UC Berkeley) se zaměřením na pokročilé umělá inteligence (AI) bezpečnostní metody. CHAI byla založena v roce 2016 skupinou akademiků vedených profesorem počítačové vědy UC Berkeley a autorem AI Stuart J. Russell.[1][2] Russell je známý tím, že spoluautorem široce používané učebnice AI Umělá inteligence: moderní přístup.

Členství fakulty CHAI zahrnuje Bart Selman a Joseph Halpern z Cornell University,[3] Pieter Abbeel od UC Berkeley a Michael Wellman z University of Michigan.[4] V roce 2016 Otevřený projekt filantropie (OpenPhil) doporučil grant 5 555 550 $ na pět let na podporu CHAI.[5] Společnost CHAI získala v roce 2019 od společnosti OpenPhil další grant ve výši 200 000 USD.[6]

Výzkum

Přístup CHAI k výzkumu bezpečnosti AI se zaměřuje zejména na strategie sladění hodnot učení inverzní výztuže, ve kterém AI vyvozuje lidské hodnoty ze sledování lidského chování.[7] Rovněž pracovalo na modelování interakce člověk-stroj ve scénářích, kdy inteligentní stroje mají „vypnuto“, které jsou schopné přepsat.[8]

Viz také

Reference

  1. ^ Norris, Jeffrey (29. srpna 2016). „UC Berkeley zavádí Centrum pro lidskou kompatibilitu umělé inteligence“. Citováno 27. prosince 2019.
  2. ^ Solon, Olivia (30. srpna 2016). „Vzestup robotů: zapomeňte na zlou AI - skutečné riziko je mnohem zákeřnější“. Opatrovník. Citováno 27. prosince 2019.
  3. ^ Cornell University. „Human-Compatible AI“. Citováno 27. prosince 2019.
  4. ^ Centrum pro lidsky kompatibilní umělou inteligenci. "Lidé". Citováno 27. prosince 2019.
  5. ^ Otevřený projekt filantropie (Srpen 2016). „UC Berkeley - Center for Human-Compatible AI (2016)“. Citováno 27. prosince 2019.
  6. ^ Otevřený projekt filantropie (Listopad 2019). „UC Berkeley - Center for Human-Compatible AI (2019)“. Citováno 27. prosince 2019.
  7. ^ Conn, Ariel (31. srpna 2016). „Nové centrum pro lidskou kompatibilitu AI“. Institut budoucnosti života. Citováno 27. prosince 2019.
  8. ^ Bridge, Mark (10. června 2017). „Pokud by roboti nebyli tak sebevědomí, mohlo by jim to zabránit v převzetí“.

externí odkazy