Geoffrey Hinton - Geoffrey Hinton
Geoffrey Hinton | |
---|---|
![]() Hinton v roce 2013 | |
narozený | Geoffrey Everest Hinton 6. prosince 1947[1] |
Alma mater | |
Známý jako | |
Ocenění |
|
Vědecká kariéra | |
Pole | |
Instituce | University of Toronto Univerzita Carnegie Mellon University College v Londýně University of California, San Diego |
Teze | Relaxace a její role ve vidění (1977) |
Doktorský poradce | Christopher Longuet-Higgins[3][4][5] |
Doktorandi | |
Další významní studenti | |
webová stránka | www |
Geoffrey Everest Hinton CC FRS FRSC[11] (narozen 6. prosince 1947) je Anglicky kanadsky kognitivní psycholog a počítačový vědec, nejvíce známý pro jeho práci na umělé neuronové sítě. Od roku 2013 se věnuje práci Google (Google Brain ) a University of Toronto. V roce 2017 spoluzaložil a stal se hlavním vědeckým poradcem Vector Institute v Torontu.[12][13]
S David Rumelhart a Ronald J. Williams, Hinton byl spoluautorem vysoce citovaného článku publikovaného v roce 1986, který popularizoval zpětná propagace algoritmus pro trénování vícevrstvých neuronových sítí,[14] ačkoli nebyli první, kdo tento přístup navrhli.[15] Hinton je považován za vůdčí osobnost EU hluboké učení společenství.[16][17][18][19][20] Dramatický milník rozpoznávání obrazu AlexNet navržen ve spolupráci s jeho studenty Alex Krizhevsky[21] a Ilya Sutskever pro ImageNet výzva 2012[22] byl průlom v oblasti počítačového vidění.[23]
Hinton přijal rok 2018 Turing Award, dohromady s Yoshua Bengio a Yann LeCun, za jejich práci na hlubokém učení.[24] Někdy se jim říká „kmotři AI“ a „kmotři hlubokého učení“.[25][26]
Vzdělání
Hinton byl vzděláván v King's College v Cambridge, kterou ukončil v roce 1970 a Bakalář umění v experimentální psychologii.[1] Ve studiu pokračoval University of Edinburgh kde mu byla udělena a PhD v umělá inteligence v roce 1978 pro výzkum pod dohledem Christopher Longuet-Higgins.[3][27]
Kariéra a výzkum
Po ukončení doktorského studia pracoval v University of Sussex, a (po problémech s hledáním finančních prostředků v Británii)[28] the University of California, San Diego, a Univerzita Carnegie Mellon.[1] Byl zakládajícím ředitelem Gatsby Charitable Foundation Computational Neuroscience Unit ve společnosti University College v Londýně,[1] a je v současné době[Aktualizace][29] A profesor v počítačová věda oddělení na University of Toronto. Je držitelem a Canada Research Chair ve strojovém učení a v současné době je poradcem pro Učení ve strojích a mozcích program na Kanadský institut pro pokročilý výzkum. Hinton učil bezplatný online kurz Neural Networks na vzdělávací platformě Coursera v roce 2012.[30] Hinton se přidal Google v březnu 2013, kdy byla získána jeho společnost DNNresearch Inc. Plánuje „rozdělit svůj čas mezi univerzitní výzkum a práci ve společnosti Google“.[31]
Hintonův výzkum zkoumá způsoby využití neuronových sítí pro strojové učení, Paměť, vnímání a zpracování symbolů. Je autorem nebo spoluautorem více než 200 recenzováno publikace.[2][32]
Zatímco Hinton byl profesorem na Univerzita Carnegie Mellon (1982–1987), David E. Rumelhart a Hinton a Ronald J. Williams použil algoritmus zpětné propagace na vícevrstvé neuronové sítě. Jejich experimenty ukázaly, že takové sítě se mohou naučit užitečné interní reprezentace dat.[14] V rozhovoru z roku 2018[33] Hinton řekl, že „David E. Rumelhart přišel se základní myšlenkou backpropagation, takže je to jeho vynález. “Ačkoli tato práce byla důležitá pro popularizaci backpropagation, nebyla první, kdo tento přístup navrhl.[15] Reverzní režim automatické rozlišení, jehož backpropagation je zvláštní případ, navrhl Seppo Linnainmaa v roce 1970 a Paul Werbos navrhl jej použít k trénování neurálních sítí v roce 1974.[15]
Během stejného období společně vynalezl Hinton Boltzmann stroje s Davidem Ackleym a Terry Sejnowski.[34] Mezi jeho další příspěvky k výzkumu neuronových sítí patří distribuovaná reprezentace, neuronová síť s časovým zpožděním směsi odborníků, Helmholtzovy stroje a Produkt odborníků. V roce 2007 Hinton spoluautorem an neřízené učení papír s názvem Bezobslužné učení transformací obrazu.[35] Přístupný úvod do výzkumu Geoffreyho Hintona lze najít v jeho článcích v Scientific American v září 1992 a říjnu 1993.[36]
V říjnu a listopadu 2017 zveřejnila Hinton dvě otevřený přístup výzkumné práce[37][38] na téma neuronové sítě kapslí, které jsou podle Hintona „konečně něco, co funguje dobře“.[39]
Pozoruhodní bývalí studenti doktorského studia a postdoktorandští vědci z jeho skupiny patří Peter Dayan,[40] Sam Roweis,[40] Richard Zemel,[3][6] Brendan Frey,[7] Radford M. Neal,[8] Ruslan Salakhutdinov,[9] Ilya Sutskever,[10] Yann LeCun[41] a Zoubin Ghahramani.
Vyznamenání a ocenění

Hinton byl zvolen Člen Královské společnosti (FRS) v roce 1998.[11] Byl prvním vítězem soutěže Rumelhartova cena v roce 2001.[42] Jeho osvědčení o zvolení do Královské společnosti zní:
Geoffrey E. Hinton je mezinárodně uznávaný pro svou práci na umělých neurálních sítích, zejména pokud jde o to, jak mohou být navrženy tak, aby se učily bez pomoci lidského učitele. To může být začátek autonomních inteligentních strojů podobných mozku. Porovnal účinky poškození mozku s účinky ztrát v takové síti a našel nápadné podobnosti s lidským postižením, například pro rozpoznávání jmen a ztráty kategorizace. Jeho práce zahrnuje studium mentálních obrazů a vynalézání hádanek pro testování originality a kreativní inteligence. Je to koncepční, matematicky propracované a experimentální. Přináší tyto dovednosti s nápadným efektem, aby vytvořil důležitou práci, která je velmi zajímavá.[43]
V roce 2001 získal Hinton titul Čestný doktorát z University of Edinburgh.[44] V roce 2005 byl příjemcem Cena IJCAI za vynikající výzkum ocenění za celoživotní dílo.[Citace je zapotřebí ] Byl také oceněn v roce 2011 Zlatá medaile Herzberg Canada za vědu a techniku.[45] V roce 2013 získal Hinton čestný doktorát z Université de Sherbrooke.[Citace je zapotřebí ]
V roce 2016 byl zvolen zahraničním členem National Academy of Engineering „Za příspěvky k teorii a praxi umělých neuronových sítí a jejich aplikaci na rozpoznávání řeči a počítačové vidění“.[46] Získal také rok 2016 Cena IEEE / RSE Wolfson James Clerk Maxwell Award.[47]
Vyhrál Cena BBVA Foundation Frontiers of Knowledge (2016) v kategorii Informační a komunikační technologie „za jeho průkopnickou a velmi vlivnou práci“, aby vybavil stroje schopností učit se.[Citace je zapotřebí ]
Dohromady s Yann LeCun, a Yoshua Bengio, Hinton vyhrál 2018 Turing Award pro koncepční a technické průlomy, díky nimž se hluboké neuronové sítě staly kritickou součástí výpočetní techniky.[48][49][50]
V roce 2018 mu byla udělena společnost Companion of the Řád Kanady.[51]
Osobní život
Hinton je pravnuk obou logiků George Boole jehož práce se nakonec stala jedním ze základů moderní počítačové vědy a chirurga a autora James Hinton.[52] kdo byl otcem Charles Howard Hinton. Hintonův otec byl Howard Hinton.[1][53] Jeho prostřední jméno je od jiného příbuzného, George Everest.[28] Je synovcem ekonoma Colin Clark.[54] V roce 1994 přišel o první manželku s rakovinou vaječníků.[55]
Pohledy
Hinton se přestěhovala z USA do Kanady částečně kvůli deziluzi Ronald Reagan -era politika a nesouhlas s vojenským financováním umělé inteligence.[28]
Hinton podal petici proti smrtící autonomní zbraně. Ohledně existenční riziko umělé inteligence „Hinton obvykle odmítá předpovídat více než pět let do budoucna, a upozorňuje, že díky exponenciálnímu pokroku je nejistota příliš velká.[56] V neformálním rozhovoru s výzkumníkem rizik AI Nick Bostrom v listopadu 2015 zaslechl novinář Raffi Khatchadourian,[57] údajně uvedl, že to nečekal generál A.I. kterých má být dosaženo po celá desetiletí („Ne dříve než 2070“), a to v kontextu dichotomie dříve zavedené Bostromem mezi lidmi, kteří si myslí, že existenční riziko umělé inteligence je pravděpodobně beznadějný a dostatečně snadný na to, aby to bylo vyřešeno automaticky, Hinton „[je] v táboře, který je beznadějný.“[57] Prohlásil: „Myslím, že politické systémy to využijí k terorizaci lidí“ a vyjádřil přesvědčení, že agentury jako Národní bezpečnostní agentura (NSA) se již pokoušejí podobnou technologii zneužít.[57]
Na otázku Nicka Bostroma, proč pokračuje ve výzkumu navzdory svým vážným obavám, Hinton uvedl: „Mohl bych vám dát obvyklé argumenty. Pravdou však je, že vyhlídka na objev je příliš bonbón."[57]
Podle stejné zprávy Hinton kategoricky nevylučuje lidské bytosti ovládající umělou superinteligenci, ale varuje, že „neexistují dobré záznamy o méně inteligentních věcech ovládajících věci vyšší inteligence“.[57]
Reference
- ^ A b C d E Anon (2015) „Hinton, profesor Geoffrey Everest“. Kdo je kdo. ukwhoswho.com (online Oxford University Press vyd.). A & C Black, otisk Bloomsbury Publishing plc. (předplatné nebo Členství ve veřejné knihovně ve Velké Británii Požadované) doi:10.1093 / hm / 9780199540884.013.20261 (vyžadováno předplatné)
- ^ A b Geoffrey Hinton publikace indexované podle Google Scholar
- ^ A b C Geoffrey Hinton na Matematický genealogický projekt
- ^ Akademická genealogie Geoffrey E. Hinton
- ^ Gregory, R. L .; Murrell, J. N. (2006). „Hugh Christopher Longuet-Higgins. 11. dubna 1923 - 27. března 2004: zvolen FRS 1958“. Biografické monografie členů Královské společnosti. 52: 149–166. doi:10.1098 / rsbm.2006.0012.
- ^ A b Zemel, Richard Stanley (1994). Rámec minimální délky popisu pro učení bez dozoru (Disertační práce). University of Toronto. OCLC 222081343. ProQuest 304161918.
- ^ A b Frey, Brendan John (1998). Bayesovské sítě pro klasifikaci vzorů, kompresi dat a kódování kanálů (Disertační práce). University of Toronto. OCLC 46557340. ProQuest 304396112.
- ^ A b Neal, Radford (1995). Bayesovské učení pro neuronové sítě (Disertační práce). University of Toronto. OCLC 46499792. ProQuest 304260778.
- ^ A b Salakhutdinov, Ruslan (2009). Učení hlubokých generativních modelů (Disertační práce). University of Toronto. ISBN 9780494610800. OCLC 785764071. ProQuest 577365583.
- ^ A b Sutskever, Ilya (2013). Výcvik rekurentních neuronových sítí (Disertační práce). University of Toronto. OCLC 889910425. ProQuest 1501655550.
- ^ A b Anon (1998). „Profesor Geoffrey Hinton FRS“. Londýn: královská společnost. Archivovány od originál dne 3. listopadu 2015. Jedna nebo více z předchozích vět obsahuje text z webu royalsociety.org, kde:
"Veškerý text publikovaný pod nadpisem" Životopis "na stránkách profilu Fellow je k dispozici pod Mezinárodní licence Creative Commons Attribution 4.0." --„Podmínky a zásady společnosti Royal Society“. Archivovány od originálu dne 11. listopadu 2016. Citováno 9. března 2016.CS1 maint: BOT: stav původní adresy URL neznámý (odkaz)
- ^ Daniela Hernandez (7. května 2013). „Muž za Google Brain: Andrew Ng a hledání nové AI“. Kabelové. Citováno 10. května 2013.
- ^ „Geoffrey E. Hinton - Google AI“. Google AI.
- ^ A b Rumelhart, David E .; Hinton, Geoffrey E .; Williams, Ronald J. (9. října 1986). "Učení reprezentací chybami zpětného šíření". Příroda. 323 (6088): 533–536. Bibcode:1986 Natur.323..533R. doi:10.1038 / 323533a0. ISSN 1476-4687. S2CID 205001834.
- ^ A b C Schmidhuber, Jürgen (1. ledna 2015). "Hluboké učení v neuronových sítích: Přehled". Neuronové sítě. 61: 85–117. arXiv:1404.7828. doi:10.1016 / j.neunet.2014.09.003. PMID 25462637. S2CID 11715509.
- ^ „Geoffrey Hinton byl v roce 2012 krátce stážistou společnosti Google kvůli byrokracii - TechCrunch“. techcrunch.com. Citováno 28. března 2018.
- ^ Somersi, Jamesi. „Pokrok v AI vypadá, že se zrychluje, ale tady je důvod, proč by to mohlo plateau“. Recenze technologie MIT. Citováno 28. března 2018.
- ^ „Jak U‚ kmotra 'T hlubokého učení přetváří AI? “. University of Toronto News. Citováno 28. března 2018.
- ^ "'Kmotr hlubokého učení přetváří AI ". Citováno 28. března 2018.
- ^ „Geoffrey Hinton,‚ kmotr 'hlubokého učení, na AlphaGo “. Macleans.ca. 18. března 2016. Citováno 28. března 2018.
- ^ Dave Gershgorn (18. června 2018). „Vnitřní příběh o tom, jak je AI dost dobrá na to, aby ovládla Silicon Valley“. Křemen. Citováno 5. října 2018.
- ^ Krizhevsky, Alex; Sutskever, Ilya; Hinton, Geoffrey E. (3. prosince 2012). „Klasifikace ImageNet s hlubokými konvolučními neuronovými sítěmi“. Nips'12. Curran Associates Inc .: 1097–1105. Citovat deník vyžaduje
| deník =
(Pomoc) - ^ „Jak výzkum profesora v Torontu způsobil revoluci v umělé inteligenci | Toronto Star“. thestar.com. Citováno 13. března 2018.
- ^ 27. března, Emily Chung · Zprávy CBC · Zveřejněno; 27. března 2019 6:00 ET | Naposledy aktualizováno. „Kanadští vědci, kteří učili AI učit se jako lidé, vyhrávají cenu 1 milion USD | CBC News“. CBC. Citováno 27. března 2019.
- ^ Ranosa, Ted (29. března 2019). „Kmotři AI vyhráli letošní cenu Turing a 1 milion dolarů“. Tech Times. Citováno 5. listopadu 2020.
- ^ Shead, Sam. „3„ kmotři “umělé inteligence vyhráli prestižní Turingovu cenu v hodnotě 1 milion $“. Forbes. Citováno 5. listopadu 2020.
- ^ Hinton, Geoffrey Everest (1977). Relaxace a její role ve vidění (Disertační práce). University of Edinburgh. hdl:1842/8121. OCLC 18656113. EThOS uk.bl.ethos.482889.
- ^ A b C Smith, Craig S. (23. června 2017). „Muž, který pomohl proměnit Toronto v high-tech pařeniště“. The New York Times. Citováno 27. června 2017.
- ^ https://www.cs.toronto.edu/~hinton/fullcv.pdf
- ^ „Archivovaná kopie“. Archivovány od originál dne 31. prosince 2016. Citováno 30. prosince 2016.CS1 maint: archivovaná kopie jako titul (odkaz)
- ^ „Google zahájil spuštění neuronových sítí (Tisková zpráva). Toronto, ON. 12. března 2013. Citováno 13. března 2013.
- ^ Geoffrey Hinton publikace indexované indexem Scopus bibliografická databáze. (vyžadováno předplatné)
- ^ Ford, Martin (2018). Architekti inteligence: Pravda o AI od lidí, kteří ji vytvářejí. Packt Publishing. ISBN 978-1-78913-151-2.
- ^ Ackley, David H; Hinton Geoffrey E; Sejnowski, Terrence J (1985), „Algoritmus učení pro Boltzmannovy stroje“, Cognitive science, Elsevier, 9 (1): 147–169
- ^ Hinton, Geoffrey E. „Publikace Geoffrey E. Hintona v obráceném chronologickém pořadí“.
- ^ „Příběhy Geoffreye E. Hintona v časopise Scientific American“.
- ^ Sabour, Sara; Frosst, Nicholas; Hinton, Geoffrey. Října 2017. "Dynamické směrování mezi kapslemi"
- ^ "Maticové kapsle s EM směrováním" 3. listopadu 2017. OpenReview.net
- ^ Geib, Claudia. 2. listopadu 2017. „Konečně jsme vytvořili síť umělé inteligence, která je v procesu vytváření desetiletí.“ Futurism.com
- ^ A b „Postdoktorand Geoffrey Hinton“. Geoffrey Hinton.
- ^ „Výzkum a příspěvky Yanna LeCuna“. yann.lecun.com. Citováno 13. března 2018.
- ^ „Současní a předchozí příjemci“. Cena Davida E. Rumelharta. Archivovány od originál dne 2. března 2017.
- ^ Anon (1998). „Osvědčení o zvolení EC / 1998/21: Geoffrey Everest Hinton“. Londýn: královská společnost. Archivovány od originál dne 5. listopadu 2015.
- ^ „Významný absolvent Edinburghu získává cenu ACM A.M. Turinga“. Citováno 9. dubna 2019.
- ^ „Vědec umělé inteligence získává cenu M.“. CBC News. 14. února 2011.
- ^ „National Academy of Engineering Volí 80 členů a 22 zahraničních členů“. NAE. 8. února 2016.
- ^ „Medaile a uznání IEEE 2016, příjemci a citace“ (PDF). IEEE. Citováno 7. července 2016.
- ^ „Hlavní vědecký poradce vektorových institutů Dr. Geoffrey Hinton získává cenu ACM A.M. Turinga vedle Dr.Yoshua Bengio a Dr.Yann Lecun“. NAE. 27. března 2019.
- ^ „Tři průkopníci v oblasti umělé inteligence vyhrávají cenu Turing“. New York Times. 27. března 2019. Citováno 27. března 2019.
- ^ „Otcové revoluce hlubokého učení dostávají cenu ACM A.M. Turinga - Bengio, Hinton a LeCun předvedli zásadní průlomy v oblasti umělé inteligence“. Sdružení pro výpočetní techniku. 27. března 2019. Citováno 27. března 2019.
- ^ „Generální guvernér oznamuje 103 nových jmenování do Řádu Kanady, prosinec 2018“.
- ^ Isaac Newton logiky
- ^ Salt, George (1978). „Howard Everest Hinton. 24. srpna 1912 - 2. srpna 1977“. Biografické monografie členů Královské společnosti. 24: 150–182. doi:10.1098 / rsbm.1978.0006. ISSN 0080-4606.
- ^ Shute, Joe (26. srpna 2017). „„ Kmotr AI “, díky němuž jsou chytré stroje a zda se nás roboti opravdu naučí všechny zabít?“. The Telegraph. Citováno 20. prosince 2017.
- ^ Shute, Joe (26. srpna 2017). „„ Kmotr AI “, díky němuž jsou chytré stroje a zda se nás roboti opravdu naučí všechny zabít?“. The Telegraph. Citováno 30. ledna 2018.
- ^ Hinton, Geoffrey. „Přednáška 16d Mlha pokroku“ (PDF).
- ^ A b C d E Khatchadourian, Raffi (16. listopadu 2015). „Doomsday Invention“. Newyorčan. Citováno 30. ledna 2018.