Software pro neurální sítě - Neural network software

Software pro neurální sítě je zvyklý simulovat, výzkum, rozvíjet a použít umělé neuronové sítě, softwarové koncepty převzaty z biologické neurální sítě, a v některých případech širší pole adaptivní systémy jako umělá inteligence a strojové učení.

Simulátory

Simulátory neuronových sítí jsou softwarové aplikace, které se používají k simulaci chování umělých nebo biologických neuronových sítí. Zaměřují se na jeden nebo omezený počet konkrétních typů neuronových sítí. Obvykle jsou samostatné a nejsou určeny k vytváření obecných neuronových sítí, které lze integrovat do jiného softwaru. Simulátory mají obvykle zabudovanou nějakou formu vizualizace sledovat tréninkový proces. Některé simulátory také vizualizují fyzickou strukturu neuronové sítě.

Výzkumné simulátory

SNNS výzkum simulátoru neuronových sítí

Historicky nejběžnější typ softwaru neuronových sítí byl určen pro výzkum struktur a algoritmů neuronových sítí. Primárním účelem tohoto typu softwaru je prostřednictvím simulace získat lepší pochopení chování a vlastností neuronových sítí. Dnes ve studiu umělých neuronových sítí byly simulátory do značné míry nahrazeny vývojovými prostředími založenými na obecnějších komponentách jako výzkumnými platformami.

Mezi běžně používané simulátory umělých neuronových sítí patří Stuttgartský simulátor neuronových sítí (SNNS), Naléhavé a Neural Lab.

Při studiu biologických neuronových sítí je však stále jediným dostupným přístupem simulační software. V takových simulátorech jsou studovány fyzikální biologické a chemické vlastnosti nervové tkáně, stejně jako elektromagnetické impulsy mezi neurony.

Mezi běžně používané simulátory biologických sítí patří Neuron, GENESIS, HNÍZDO a Briane.

Simulátory analýzy dat

Na rozdíl od simulátorů výzkumu jsou simulátory analýzy dat určeny pro praktické aplikace umělých neuronových sítí. Jejich primární zaměření je na dolování dat a předpovídání. Simulátory analýzy dat obvykle mají nějakou formu schopností předzpracování. Na rozdíl od obecnějších vývojových prostředí používají simulátory analýzy dat relativně jednoduchou statickou neurální síť, kterou lze konfigurovat. Většina simulátorů analýzy dat na trhu používá jako své jádro sítě pro zpětné šíření nebo samoorganizující se mapy. Výhodou tohoto typu softwaru je jeho relativně snadné použití. Neural Designer je jedním příkladem simulátoru analýzy dat.

Simulátory pro výuku teorie neuronových sítí

Když Paralelní distribuované zpracování objemy[1][2][3] byly vydány v letech 1986-87 a poskytovaly relativně jednoduchý software. Původní software PDP nevyžadoval žádné programovací dovednosti, což vedlo k jeho přijetí širokou škálou výzkumníků v různých oborech. Původní software PDP byl vyvinut do výkonnějšího balíčku s názvem PDP ++, který se zase stal ještě výkonnější platformou zvanou Naléhavé. S každým vývojem se software stal výkonnějším, ale také odstrašujícím pro začátečníky.

V roce 1997 byl vydán software tLearn, který doprovází knihu.[4] To byl návrat k myšlence poskytnout malý, uživatelsky přívětivý simulátor, který byl navržen s ohledem na nováčka. tLearn povolil základní dopředné sítě spolu s jednoduchými rekurentními sítěmi, které lze trénovat jednoduchým algoritmem zpětného šíření. tLearn nebyl aktualizován od roku 1999.

V roce 2011 byl vydán simulátor Basic Prop. Basic Prop je samostatná aplikace distribuovaná jako platformově neutrální soubor JAR, který poskytuje mnoho stejných jednoduchých funkcí jako tLearn.

V roce 2012 zahrnoval Wintempla obor názvů nazvaný NN se sadou tříd C ++, které se mají implementovat: sítě pro předávání dopředu, pravděpodobnostní neurální sítě a sítě Kohonen. Neural Lab je založen na třídách Wintempla. Výukový program Neural Lab a Wintempla tutorial vysvětlují některé z těchto tříd pro neuronové sítě. Hlavní nevýhodou Wintempla je, že se kompiluje pouze s Microsoft Visual Studio.

Vývojová prostředí

Vývojová prostředí pro neuronové sítě se od výše popsaného softwaru liší primárně na dvou účtech - lze je použít k vývoji vlastních typů neuronových sítí a podporují rozvinutí neuronové sítě mimo prostředí. V některých případech pokročili předzpracování, možnosti analýzy a vizualizace.[5]

Komponentní

Peltarion Synapse komponentní vývojové prostředí.

Modernější typ vývojových prostředí, která jsou v současné době upřednostňována jak v průmyslovém, tak ve vědeckém využití, je založena na a paradigma založené na komponentách. Neuronová síť je konstruována připojením adaptivních součástí filtru v toku potrubního filtru. To umožňuje větší flexibilitu, protože lze vytvářet vlastní sítě i vlastní komponenty používané sítí. V mnoha případech to umožňuje kombinaci adaptivních a neadaptivních komponent. Tok dat je řízen řídicím systémem, který je vyměnitelný, stejně jako adaptační algoritmy. Další důležitou funkcí jsou možnosti nasazení.

S příchodem rámců založených na komponentách, jako je .SÍŤ a Jáva, vývojová prostředí založená na komponentách jsou schopna nasadit vyvinutou neurální síť do těchto rámců jako zděděné komponenty. Některý software může navíc tyto komponenty nasadit na několik platforem, například vestavěné systémy.

Mezi vývojová prostředí založená na komponentách patří: Peltarion Synapse, NeuroDimension Neuro řešení, Vědecký software Neuro laboratoř a LIONsolver integrovaný software. Volný, uvolnit otevřený zdroj prostředí založené na komponentách zahrnují Encog a Neuroph.

Kritika

Nevýhodou vývojových prostředí založených na komponentách je, že jsou složitější než simulátory. Vyžadují více učení, aby plně fungovaly, a jejich vývoj je komplikovanější.

Vlastní neuronové sítě

Většina implementací neuronových sítí, které jsou k dispozici, jsou však vlastní implementace v různých programovacích jazycích a na různých platformách. Základní typy neuronových sítí lze snadno implementovat přímo. Je jich také mnoho programovací knihovny které obsahují funkce neuronové sítě a které lze použít ve vlastních implementacích (například TensorFlow, Theano atd., obvykle poskytuje vazby na jazyky, jako je Krajta, C ++, Jáva ).

Standardy

Aby mohly být modely neuronových sítí sdíleny různými aplikacemi, je nutný společný jazyk. The Prediktivní značkovací jazyk modelu (PMML) byla navržena k řešení této potřeby. PMML je jazyk založený na XML, který poskytuje aplikacím způsob, jak definovat a sdílet modely neuronových sítí (a další modely dolování dat) mezi aplikacemi kompatibilními s PMML.

PMML poskytuje aplikacím metodu definování modelů nezávislou na prodejci, takže proprietární problémy a nekompatibility již nejsou překážkou výměny modelů mezi aplikacemi. Umožňuje uživatelům vyvíjet modely v rámci aplikace jednoho dodavatele a používat aplikace jiných dodavatelů k vizualizaci, analýze, hodnocení nebo jinému použití modelů. Dříve to bylo velmi obtížné, ale s PMML je nyní výměna modelů mezi kompatibilními aplikacemi přímá.

Spotřebitelé a producenti PMML

K výrobě a spotřebě PMML se nabízí řada produktů. Tento stále rostoucí seznam zahrnuje následující produkty neuronových sítí:

  • R: produkuje PMML pro neuronové sítě a další modely strojového učení prostřednictvím balíčku pmml.
  • SAS Enterprise Miner: produkuje PMML pro několik těžebních modelů, včetně neuronové sítě, lineární a logistická regrese, rozhodovací stromy a další modely dolování dat.
  • SPSS: produkuje PMML pro neuronové sítě i pro mnoho dalších těžebních modelů.
  • STATISTICA: produkuje PMML pro neuronové sítě, modely dolování dat a tradiční statistické modely.

Viz také

Reference

  1. ^ Rumelhart, D.E., J.L. McClelland a výzkumná skupina PDP (1986). Parallel Distributed Processing: Explorations in the Microstructure of Cognition. Svazek 1: Foundations, Cambridge, MA: MIT Press
  2. ^ McClelland, J.L., D.E. Rumelhart a výzkumná skupina PDP (1986). Parallel Distributed Processing: Explorations in the Microstructure of Cognition. Svazek 2: Psychologické a biologické modely, Cambridge, MA: MIT Press
  3. ^ McClelland a Rumelhart „Explorations in Parallel Distributed Processing Handbook“, MIT Press, 1987
  4. ^ Plunkett, K. a Elman, J.L., Exercises in Rethinking Innateness: A Handbook for Connectionist Simulation (MIT Press, 1997)
  5. ^ „Potrubí výzkumu a vývoje pokračuje: Spuštění verze 11.1 - Stephen Wolfram“. blog.stephenwolfram.com. Citováno 2017-03-22.

externí odkazy