Seppo Linnainmaa - Seppo Linnainmaa
Seppo Ilmari Linnainmaa (narozen 28. září 1945) je a Finština matematik a počítačový vědec. Narodil se v Pori.[1] V roce 1974 získal vůbec první doktorát v oboru počítačových věd na VŠE University of Helsinki.[2] V roce 1976 se stal asistentem. V letech 1984-1985 působil jako hostující profesor na University of Maryland, USA. V letech 1986-1989 byl předsedou finské společnosti pro umělou inteligenci. V letech 1989–2007 působil jako profesor výzkumu na Centrum technického výzkumu VTT z Finsko. On odešel v roce 2007.
Explicitní, efektivní chyba zpětná propagace v libovolném, diskrétním, případně řídce spojeném, neuronové sítě - podobné sítě byly poprvé popsány v diplomové práci z roku 1970 (Linnainmaa, 1970, 1976), i když bez odkazu na NN,[3] když Linnainmaa zavedl obrácený režim automatické rozlišení (AD), aby bylo možné efektivně vypočítat derivát a rozlišitelný složená funkce které lze reprezentovat jako a graf rekurzivním použitím řetězové pravidlo k stavebním kamenům funkce.[2][4][5][6] Linnainmaa ji publikoval jako první, následoval Gerardi Ostrowski, který ji použil v kontextu určitých modelů procesů v chemickém inženýrství asi o pět let dříve, ale dříve ji nezveřejnil.
S rychle se rozvíjejícími počítači se tato metoda stala velmi používanou v mnoha aplikacích. Například, zpětná propagace chyb v vícevrstvé perceptrony, technika používaná v strojové učení, je speciální případ reverzního režimu AD[je třeba další vysvětlení ].
Poznámky
- ^ Ellonen, Leena, ed. (2008). Suomen professorit 1640–2007 (ve finštině). Helsinky: Professoriliitto. str. 405. ISBN 978-952-99281-1-8.
- ^ A b Griewank, Andreas (2012). Kdo vynalezl reverzní režim diferenciace? Příběhy o optimalizaci, Documenta Matematica, Extra Volume ISMP (2012), 389-400.
- ^ Jürgen Schmidhuber, (2015). Kdo vynalezl backpropagation?
- ^ Linnainmaa, Seppo (1970). Reprezentace kumulativní chyby zaokrouhlování algoritmu jako Taylorovo rozšíření místních chyb zaokrouhlování. Diplomová práce (ve finštině), Univ. Helsinky, 6-7.
- ^ Linnainmaa, Seppo (1976). Taylorovo rozšíření akumulované chyby zaokrouhlování. BIT Numerická matematika, 16 (2), 146-160.
- ^ Griewank, Andreas a Walther, A .. Principy a techniky algoritmické diferenciace, druhé vydání. SIAM, 2008.