Celulární neurální síť - Cellular neural network

Tento článek možná bude muset být přepsáno vyhovět požadavkům Wikipedie standardy kvality, protože odkazy je třeba vyčistit a je třeba přidat odkazy na další články z Wikipedie. Můžeš pomoct. The diskusní stránka může obsahovat návrhy. (Leden 2013)

v počítačová věda a strojové učení, buněčné neuronové sítě (CNN) (nebo buněčné nelineární sítě (CNN)) plocha paralelní výpočty paradigma podobné neuronové sítě, s tím rozdílem, že komunikace je povolena pouze mezi sousedními jednotkami. Mezi typické aplikace patří zpracování obrazu, analýza 3D povrchů, řešení parciální diferenciální rovnice, snižování nevizuálních problémů na geometrický mapy, modelování biologických vidění a další senzorický motor orgány.^[1]

Architektura CNN

Vzhledem k jejich počtu a rozmanitosti architektury, je těžké přesně definovat procesor CNN. Z hlediska architektury jsou procesory CNN systémem konečných jednotek s pevným počtem, pevným počtem, pevným umístěním, pevnou topologií, místně propojenými jednotkami s více vstupy a jedním výstupem a nelineárním zpracováním. Nelineární procesní jednotky jsou často označovány jako neurony nebo buňky. Matematicky lze každou buňku modelovat jako a disipativní, nelineární dynamický systém kde jsou informace kódovány prostřednictvím počátečního stavu, vstupů a proměnných použitých k definování jejího chování. Dynamika je obvykle kontinuální, jako v případě Kontinuální čas Procesory CNN (CT-CNN), ale mohou být diskrétní, jako v případě Diskrétní čas Procesory CNN (DT-CNN).

Každá buňka má jeden výstup, kterým komunikuje svůj stav s ostatními buňkami i externími zařízeními. Výstup je obvykle skutečný, ale může být komplex nebo dokonce čtveřice, tj. vícehodnotová CNN (MV-CNN). Ve většině procesorů CNN jsou procesní jednotky identické, ale existují aplikace vyžadující neidentické jednotky, které se nazývají procesory CNN (Non-Uniform Processor CNN (NUP-CNN)) a skládají se z různých typů buněk. V původním procesoru Chua-Yang CNN (CY-CNN) byl stav buňky váženým součtem vstupů a výstupem byl po částech lineární funkce. Stejně jako originál perceptron - neuronové sítě založené na funkcích, které mohl provádět, byly omezené: konkrétně nebyl schopen modelovat nelineární funkce, jako například XOR. Složitější funkce jsou realizovatelné pomocí nelineárních procesorů CNN (NL-CNN).

Buňky jsou definovány v normovaném prostoru, obvykle dvojrozměrném Euklidovská geometrie, jako mřížka. Buňky však nejsou omezeny na dvourozměrné prostory; mohou být definovány v libovolný počet rozměrů a může být náměstí, trojúhelník, šestihranný nebo jakékoli jiné prostorově invariantní uspořádání. Topologicky, buňky mohou být uspořádány na nekonečné rovině nebo na a toroidní prostor. Propojení buněk je místní, což znamená, že všechna spojení mezi buňkami jsou v určeném poloměru (s měřenou vzdáleností topologicky ). Připojení lze také časově zpozdit, aby bylo možné zpracování v časové doméně.

Většina architektur CNN má buňky se stejnými relativními propojeními, ale existují aplikace, které vyžadují prostorově variantní topologii, tj. Procesory CNN (Multiple-Neighborhood-Size CNN) (MNS-CNN). Rovněž lze použít procesory CNN s více vrstvami (ML-CNN), kde jsou všechny buňky ve stejné vrstvě identické, k rozšíření schopností procesorů CNN.

Definice systému je soubor nezávislých, interagujících entit tvořících integrovaný celek, jejichž chování je odlišné a kvalitativně větší než jeho entity. Ačkoli jsou připojení místní, výměna informací může nastat globálně prostřednictvím difúze. V tomto smyslu jsou procesory CNN systémy, protože jejich dynamika je odvozena z interakce mezi zpracovatelskými jednotkami a nikoli v rámci zpracovatelských jednotek. Ve výsledku vykazují naléhavé a kolektivní chování. Matematicky, vztah mezi buňkou a jejími sousedy, který se nachází v oblasti vlivu, může být definován a spojka zákon, a to je to, co primárně určuje chování procesoru. Když jsou zákony spojky modelovány podle fuzzy logika, je to fuzzy CNN.^[2] Když jsou tyto zákony modelovány výpočetní slovesná logika, stává se výpočetním slovesem CNN (sloveso CNN)^[3][4].^[5] Fuzzy i slovesná CNN jsou užitečná pro modelování sociálních sítí, když je lokálních propojení dosaženo pomocí jazykové podmínky.

Přehled literatury

Myšlenku na procesory CNN představil Leon Chua a Dvoudílný článek Lin Yang z roku 1988 „Celulární neurální sítě: teorie“ a „Celulární neurální sítě: aplikace“ v IEEE transakcích na obvodech a systémech. V těchto článcích Chua a Yang nastínili základní matematiku, která stojí za procesory CNN. Používají tento matematický model k demonstraci pro konkrétní implementaci CNN, že pokud jsou vstupy statické, jednotky zpracování se sblíží a lze je použít k provádění užitečných výpočtů. Poté navrhnou jednu z prvních aplikací procesorů CNN: zpracování obrazu a rozpoznávání vzorů (což je dosud největší aplikace). Leon Chua je stále aktivní ve výzkumu CNN a mnoho svých článků publikuje v International Journal of Bifurcation and Chaos, jehož je redaktorem. Oba Transakce IEEE na obvodech a systémech a International Journal of Bifurcation také obsahují řadu užitečných článků o procesorech CNN od jiných znalých výzkumníků. První z nich má tendenci se soustředit na nové architektury CNN a druhý více na dynamické aspekty procesorů CNN.

Další klíčový článek, Tamas Roska a článek Leon Chua z roku 1993 „The CNN Universal Machine: An Analogic Array Computer“ představil první inženýrsky výzkumnou komunitu první algoritmicky programovatelný analogový procesor CNN. Mnohonárodnostní úsilí bylo financováno z Úřad námořního výzkumu, Národní vědecká nadace a Maďarská akademie věd a prozkoumány Maďarskou akademií věd a University of California. Tento článek dokázal, že procesory CNN byly vyrobitelné, a poskytl výzkumníkům fyzickou platformu pro testování jejich teorií CNN. Po tomto článku začaly společnosti investovat do větších a schopnějších procesorů založených na stejné základní architektuře jako univerzální procesor CNN. Tamas Roska je dalším klíčovým přispěvatelem do CNN. Jeho jméno je často spojováno s biologicky inspirovanými platformami a algoritmy pro zpracování informací, publikoval řadu klíčových článků a podílel se na společnostech a výzkumných institucích vyvíjejících technologii CNN.

V publikované literatuře je několik přehledů procesorů CNN. Jednou z lepších referencí je práce, “Celulární neurální sítě: recenze "napsáno pro Neural Nets WIRN Vietri 1993, Valerio Cimagalli a Marco Balsi. Příspěvek poskytuje definice, typy CNN, dynamiku, implementace a aplikace v relativně malém, čitelném dokumentu. K dispozici je také kniha" Cellular Neural Networks and Visual Computing Foundations and Applications ", autori Leon Chua a Tamas Roska, kteří poskytují příklady a cvičení, která pomáhají ilustrovat body neobvyklým způsobem u článků a článků v časopisech. Kniha pokrývá mnoho různých aspektů procesorů CNN a může sloužit jako učebnice pro Magisterský nebo Ph.D. kurz. Tyto dvě reference jsou považovány za neocenitelné, protože dokážou organizovat obrovské množství literatury CNN do souvislého rámce.

Nejlepší místo pro literaturu CNN je ze sborníku „The International Workshop on Cellular Neural Networks and their Applications“. Sborník je k dispozici online na adrese IEEE Xplore, pro konference konané v letech 1990, 1992, 1994, 1996, 1998, 2000, 2002, 2005 a 2006. Ve dnech 14. – 16. července se ve španělském Santiagu de Composetela koná seminář. Témata zahrnují teorii, design, aplikace, algoritmy, fyzické implementace a programovací / tréninkové metody. Pro pochopení analogu polovodič založená na technologii CNN, AnaLogic Computers má svou produktovou řadu, kromě publikovaných článků dostupných na jejich domovské stránce a jejich publikačním seznamu. Mají také informace o dalších technologiích CNN, jako jsou optické výpočty. Mnoho běžně používaných funkcí již bylo implementováno pomocí procesorů CNN. Dobrý referenční bod pro některé z nich lze najít v knihovnách zpracování obrazu pro vizuální počítače založené na CNN, jako jsou systémy založené na CNN od Analogic.

Související architektury zpracování

Procesory CNN lze považovat za hybrid mezi ANN a CA (Kontinuální automaty ). Procesní jednotky CNN a NN jsou podobné. V obou případech jsou procesorové jednotky vícevstupové, dynamické systémy a chování celkových systémů je poháněno především váhami lineárního propojení procesorové jednotky. Hlavním diskriminátorem je, že v procesorech CNN se připojení provádí lokálně, zatímco v ANN jsou připojení globální. Například, neurony v jedné vrstvě jsou plně připojeny k jiné vrstvě v dopředném NN a všechny neurony jsou plně propojeny dovnitř Hopfieldovy sítě. Váhy propojení obsahují v ANNech informace o předchozím stavu nebo zpětné vazbě systému zpracování, ale v procesorech CNN se váhy používají k určení dynamiky systému. Kromě toho kvůli vysoké vzájemné propojitelnosti ANN nemají tendenci využívat lokalitu ani v souboru dat, ani při zpracování, a ve výsledku se obvykle jedná o vysoce redundantní systémy, které umožňují robustní, chování odolné vůči chybám bez katastrofických chyb. Křížem mezi procesorem ANN a procesorem CNN je poměrná paměť CNN (RMCNN). V procesorech RMCNN je propojení buněk lokální a topologicky neměnné, ale váhy se používají k ukládání předchozích stavů a ​​ne ke kontrole dynamiky. Váhy buněk se během určitého stavu učení mění a vytvářejí dlouhodobou paměť.

Topologie a dynamika procesorů CNN se velmi podobá topologii a dynamice CA. Stejně jako většina procesorů CNN se CA skládá z pevného počtu identických procesorů, které jsou prostorově diskrétní a topologicky jednotné. Rozdíl je v tom, že většina procesorů CNN má kontinuální hodnotu, zatímco CA mají diskrétní hodnoty. Chování buněk procesoru CNN je dále definováno pomocí některých nelineární funkce zatímco buňky procesoru CA jsou definovány nějakým stavovým strojem. Existují však určité výjimky. Kontinuální hodnota Mobilní automaty nebo Continuous Automata jsou CA s kontinuálním rozlišením. V závislosti na tom, jak je zadán daný kontinuální automat, může to být také CNN. Jsou tu také Kontinuální prostorové automaty, které se skládají z nekonečného počtu prostorově spojitých automatů s kontinuální hodnotou. V této oblasti se vykonává značná práce, protože spojité prostory lze matematicky modelovat snadněji než diskrétní prostory, což umožňuje kvantitativnější přístup na rozdíl od empirického přístupu některých výzkumníků mobilní automaty. Kontinuální procesory prostorových automatů lze fyzicky realizovat prostřednictvím nekonvenční platformy pro zpracování informací, jako je například chemický počítač. Dále je možné, že velké procesory CNN (z hlediska rozlišení vstupu a výstupu) lze modelovat jako kontinuální prostorové automaty.

Model výpočtu

Dynamické chování procesorů CNN lze matematicky vyjádřit jako řadu obyčejných diferenciální rovnice, kde každá rovnice představuje stav jednotlivé procesní jednotky. Chování celého procesoru CNN je definováno jeho počátečními podmínkami, vstupy, vzájemným propojením buněk (topologie a váhy) a samotnými buňkami. Jedním z možných použití procesorů CNN je generování signálů se specifickými dynamickými vlastnostmi a reakce na ně. Například CNN procesory byly použity ke generování multi-scroll chaosu, synchronizovat s chaotickými systémy a vykazují víceúrovňovou hysterezi. Procesory CNN jsou navrženy speciálně pro řešení místních nízkoúrovňových problémů náročných na procesor vyjádřených jako funkce prostoru a času. Například procesory CNN lze použít k implementaci filtrů s vysokou a nízkou propustí a morfologické operátory. Mohou být také použity k přiblížení široké škály Parciální diferenciální rovnice (PDE), jako je odvod tepla a šíření vln.

Procesory CNN lze použít jako Reakční difúze (RD) procesory. RD procesory jsou prostorově invariantní, topologicky invariantní, analogové, paralelní procesory charakterizované reakcemi, kde se dva agenti mohou spojit a vytvořit třetího agenta, a difúze, šíření agentů. Procesory RD jsou obvykle implementovány prostřednictvím chemikálií v a Petriho miska (procesor), světlo (vstup) a kamera (výstup), procesory RD však lze implementovat také prostřednictvím vícevrstvého procesoru CNN. K vytváření lze použít procesory D. Voronoiovy diagramy a hrát skeletonizace. Hlavní rozdíl mezi chemickou implementací a implementací CNN spočívá v tom, že implementace CNN jsou podstatně rychlejší než jejich chemické protějšky a chemické procesory jsou prostorově spojité, zatímco procesory CNN jsou prostorově diskrétní. Nejvyzkoumanější procesor RD, procesory Belousov-Zhabotinsky (BZ), již byl simulován pomocí čtyřvrstvých procesorů CNN a byl implementován v polovodiči.

Stejně jako CA lze výpočty provádět prostřednictvím generování a šíření signálů, které v průběhu času rostou nebo se mění. Výpočty může nastat v signálu nebo k němu může dojít prostřednictvím interakce mezi signály. Jeden typ zpracování, který využívá signály a získává na síle, je zpracování vln, což zahrnuje generování, rozšiřování a případnou kolizi vln. Zpracování vln lze použít k měření vzdáleností a hledání optimálních cest. Výpočty mohou také nastat prostřednictvím částic, kluzáků, roztoků a filtrů lokalizovaných struktur, které si zachovávají svůj tvar a rychlost. Vzhledem k tomu, jak tyto struktury interagují / kolidují navzájem a se statickými signály, lze je použít k ukládání informací jako stavů a ​​implementaci různých Booleovské funkce. Výpočty mohou také nastat mezi složitým, potenciálně rostoucím nebo vyvíjejícím se lokalizovaným chováním prostřednictvím červů, žebříků a pixelových hadů. Kromě ukládání stavů a ​​provádění Booleovské funkce, tyto struktury mohou interagovat, vytvářet a ničit statické struktury.

Ačkoli jsou procesory CNN primárně určeny pro analogové výpočty, některé typy procesorů CNN mohou implementovat jakoukoli booleovskou funkci, což umožňuje simulaci CA. Protože některé CA jsou Univerzální Turingovy stroje (UTM), schopný simulující jakýkoli algoritmus lze provést na procesorech na základě von Neumannova architektura, díky kterému je tento typ procesorů CNN, univerzální CNN, UTM. Jedna architektura CNN se skládá z další vrstvy podobné řešení ANN k problému uvedenému v Marvin Minsky před lety. Procesory CNN vedly k nejjednodušší realizaci Conwayova hra o život a Wolframovo pravidlo 110, nejjednodušší známý univerzál Turingův stroj. Tato jedinečná, dynamická reprezentace starých systémů umožňuje vědcům aplikovat techniky a hardware vyvinutý pro CNN, aby lépe porozuměli důležitým CA. Kontinuální stavový prostor procesorů CNN s mírnými úpravami, které nemají ekvivalent v Mobilní automaty, vytváří naléhavé chování, jaké dosud nebylo vidět.

Jakákoli platforma pro zpracování informací, která umožňuje konstrukci libovolného Booleovské funkce se nazývá univerzální a ve výsledku se tato třída procesorů CNN běžně označuje jako univerzální procesory CNN. Původní procesory CNN mohou provádět pouze lineárně oddělitelné booleovské funkce. Jedná se v podstatě o stejný problém Marvin Minsky zavedeno s ohledem na vnímání prvních neuronových sítí V obou případech lze převodem funkcí z domén digitální logiky nebo vyhledávací tabulky do domény CNN některé funkce výrazně zjednodušit. Například devítibitová logika generování liché parity, která je obvykle implementována osmi vnořenými exkluzivními nebo branami, může být také reprezentována funkcí součtu a čtyřmi vnořenými funkcemi absolutní hodnoty. Nejenže dochází ke snížení složitosti funkce, ale parametry implementace CNN mohou být reprezentovány v kontinuální doméně reálných čísel.

Existují dvě metody, kterými lze vybrat procesor CNN spolu s šablonou nebo váhami. První je syntéza, která zahrnuje stanovení koeficientů offline. Toho lze dosáhnout využitím předchozí práce, tj. Knihoven, článků a článků, nebo matematickým odvozením co, které nejlépe vyhovuje problému. Druhým je školení procesoru. Vědci použili zpětná propagace a genetické algoritmy učit se a vykonávat funkce. Algoritmy zpětného šíření bývají rychlejší, ale genetické algoritmy jsou užitečné, protože poskytují mechanismus k nalezení řešení v diskontinuálním hlučném vyhledávacím prostoru.

Technologie

Platforma pro zpracování informací zůstává pouze intelektuálním cvičením, pokud ji nelze implementovat do hardwaru a integrovat do systému. Ačkoli procesory založené na kulečníkové koule může být zajímavé, pokud jejich implementace nepřináší systému výhody, slouží pouze jako výukové zařízení. Procesory CNN byly implementovány pomocí současné technologie a existují plány na implementaci procesorů CNN do budoucích technologií. Zahrnují nezbytná rozhraní pro programování a propojení a byla implementována v různých systémech. Následuje letmý průzkum různých typů procesorů CNN, které jsou dnes k dispozici, jejich výhod a nevýhod a budoucího plánu pro procesory CNN.

Byly implementovány procesory CNN, které jsou v současné době k dispozici jako polovodiče, a v budoucnu se plánuje migrace procesorů CNN na nové technologie. Polovodičové procesory CNN lze rozdělit na analogové procesory CNN, digitální procesory CNN a procesory CNN emulovaný pomocí digitálních procesorů. Jako první byly vyvinuty analogové procesory CNN. Analogové počítače byly v 50. a 60. letech poměrně běžné, ale v 70. letech byly postupně nahrazovány digitálními počítači. Analogové procesory byly v určitých aplikacích, jako je optimalizace diferenciálních rovnic a modelování nelinearit, podstatně rychlejší, ale důvodem, proč analogové výpočty ztratily přízeň, byla nedostatečná přesnost a obtížnost konfigurace analogového počítače pro řešení složité rovnice. Analogové procesory CNN sdílejí některé stejné výhody jako jejich předchůdci, konkrétně rychlost. První analogové procesory CNN dokázaly provádět zpracování ultravysokého snímkového kmitočtu (> 10 000 snímků / s) v reálném čase, což digitální procesory nedosahovaly. Analogová implementace procesorů CNN vyžaduje menší plochu a spotřebovává méně energie než jejich digitální protějšky. Přestože přesnost analogových procesorů CNN není srovnatelná s jejich digitálními protějšky, pro mnoho aplikací jsou šumové a procesní odchylky dostatečně malé, aby percepčně neovlivnily kvalitu obrazu.

První algoritmicky programovatelný analogový procesor CNN byl vytvořen v roce 1993. Byl pojmenován Univerzální procesor CNN, protože jeho vnitřní řadič umožňoval provádění více šablon na stejné datové sadě, čímž simuloval více vrstev a umožňoval univerzální výpočet. Součástí návrhu byla jednovrstvá 8x8 CCN, rozhraní, analogová paměť, přepínací logika a software. Procesor byl vyvinut za účelem stanovení produktivity a užitečnosti procesoru CNN. Koncept CNN se ukázal jako slibný a do roku 2000 existovalo nejméně šest organizací, které navrhovaly algoritmicky programovatelné analogové procesory CNN. Tehdy představila společnost AnaFocus, společnost vyrábějící polovodiče se smíšeným signálem, která vyšla z výzkumu na univerzitě v Seville, svoji prototypovou produktovou řadu CNN procesorů CNN. Jejich první ACE procesor obsahoval 20x20 B / W procesorových jednotek; jejich další procesor ACE poskytoval jednotky procesoru ve stupních šedi 48 x 48 a jejich nejnovější procesor ACE obsahuje jednotky procesoru ve stupních šedi 128 x 128. Postupem času se nejen zvýšil počet zpracovávacích prvků, ale také se zlepšila jejich rychlost, zvýšil se počet funkcí, které mohou provádět, a do křemíku bylo integrováno bezproblémové rozhraní detektoru (což přineslo podstatně vylepšené rozhraní). Schopnost vložit rozhraní detektoru do procesoru CNN umožňuje interakci mezi snímáním a zpracováním v reálném čase. AnaFocus má vícevrstvou řadu prototypů CNN procesorů CASE. Nejnovější procesor CASE je třívrstvý procesor CNN o rozměrech 32 x 32. Jejich práce v procesorech CNN v současné době vrcholí v jejich brzy dostupné komerčně dostupné produktové řadě Eye-RIS, která se skládá ze všech procesorů, koprocesorů, vývojových sad softwaru a podpory potřebné k programování a integraci analogového procesoru. do systému.

AnaFocus spolupracuje se společností AnaLogic Computers na začlenění jejich procesorů CNN do vizuálních systémů. Společnost AnaLogic Computers, založená v roce 2000, mnoha stejnými vědci, kteří stojí za prvním algoritmicky programovatelným univerzálním procesorem CNN, má za cíl komercializovat vysokorychlostní biologicky inspirované systémy založené na procesorech CNN. V roce 2003 společnost AnaLogic Computers vyvinula desku vizuálního procesoru PCI-X, která zahrnovala procesor ACE 4K, s modulem DIP Texas Instrument a vysokorychlostním snímačem snímků. To umožnilo snadné začlenění zpracování CNN do stolního počítače, což výrazně zlepšilo použitelnost a možnosti analogových procesorů CNN. V roce 2006 společnost AnaLogic Computers vyvinula svoji produktovou řadu Bi-I Ultra High Speed ​​Smart Camera, která zahrnuje ve svých špičkových modelech procesor ACE 4K. Produktem, který jejich vývojový tým nyní sleduje, je Bionic Eyeglass. Bionic Eyeglass je nositelná platforma se dvěma kamerami, založená na ultra vysokorychlostní inteligentní kameře Bi-I, navržená k poskytování pomoci nevidomým. Některé z funkcí, které bude systém Bionic Eyeglass provádět, je rozpoznávání čísel tras a zpracování barev.

Někteří vědci vyvíjejí své vlastní analogové procesory CNN. Například analogový procesor CNN byl vyvinut výzkumným týmem z University degli Studi di Catania, aby generoval chody pro hexapodového robota. Vědci z Národní univerzity Chiao Tung navrhli procesor RM-CNN, aby se dozvěděli více o učení a rozpoznávání vzorů, a vědci z Národního technologického institutu Lien-Ho vyvinuli procesor Min-Max CNN (MMCNN), aby se dozvěděli více o dynamice CNN. Vzhledem k rozmanitosti procesorů CNN a dynamice, kterou výzkum CNN získal, je pravděpodobné, že takové snahy o vývoj analogových CNN budou v blízké budoucnosti docela běžné.

Přes jejich rychlost a nízkou spotřebu energie existují analogické procesory CNN některé významné nevýhody. Za prvé, analogové procesory CNN mohou potenciálně vytvářet chybné výsledky v důsledku variací prostředí a procesů. Ve většině aplikací nejsou tyto chyby patrné, ale existují situace, kdy malé odchylky mohou mít za následek katastrofické selhání systému. Například v chaotické komunikaci změní procesní variace trajektorie daného systému ve fázovém prostoru, což vede ke ztrátě synchronicity / stability. Kvůli závažnosti problému probíhá značný výzkum ke zlepšení problému. Někteří vědci optimalizují šablony tak, aby vyhovovaly větším variacím. Jiní vědci vylepšují polovodičový proces tak, aby lépe odpovídal teoretickému výkonu CNN. Jiní vědci zkoumají různé, potenciálně robustnější architektury CNN. A konečně, vědci vyvíjejí metody pro vyladění šablon tak, aby cílily na konkrétní čip a provozní podmínky. Jinými slovy, šablony se optimalizují tak, aby odpovídaly platformě pro zpracování informací. Nejen, že variace procesu omezuje to, co lze provést se současnými analogovými procesory CNN, je také překážkou pro vytváření složitějších procesorových jednotek. Pokud není tato procesní variace vyřešena, nápady, jako jsou vnořené jednotky zpracování, nelineární vstupy atd., Nelze implementovat v analogovém procesoru CNN v reálném čase. Také polovodičová „nemovitost“ pro procesní jednotky omezuje velikost procesorů CNN. V současné době se největší kamerový procesor založený na technologii AnaVision CNN skládá z detektoru 4K, což je podstatně méně než megapixelové detektory nalezené v dostupných spotřebitelských kamerách. Bohužel zmenšení velikosti funkce, jak předpovídá Mooreův zákon, povede pouze k drobným vylepšením. Z tohoto důvodu jsou zkoumány alternativní technologie, jako jsou rezonanční tunelové diody a neuron-bipolární tranzistory. Přehodnocuje se také architektura procesorů CNN. Například byly navrženy procesory Star-CNN, kde je jeden analogový multiplikátor sdílen časem mezi více procesorovými jednotkami a očekává se, že povedou k redukci velikosti procesorové jednotky o osmdesát procent.

Ačkoli nejsou zdaleka tak rychlé a energeticky efektivní, digitální procesory CNN nesdílejí problémy s variacemi procesů a velikostí funkcí svých analogických protějšků. To umožňuje digitálním procesorům CNN zahrnout vnořené procesorové jednotky, nelinearity atd. Kromě toho jsou digitální CNN flexibilnější, levnější a snadněji se integrují. Nejběžnější implementace digitálních procesorů CNN používá FPGA. Společnost Eutecus, založená v roce 2002 a působící v Berkeley, poskytuje duševní vlastnictví, které lze syntetizovat do FPGA Altera. Jejich digitální procesory CNN založené na FPGA o rozměrech 320x280 běží na rychlosti 30 snímků za sekundu a existují plány na vytvoření rychlého digitálního ASIC. Eustecus je strategickým partnerem počítačů AnaLogic a jejich návrhy FPGA lze nalézt v několika produktech AnaLogic. Eutecus také vyvíjí softwarové knihovny pro provádění úkolů, mimo jiné včetně analýzy videa pro trh zabezpečení videa, klasifikace funkcí, sledování více cílů, zpracování signálu a obrazu a zpracování toku. Mnoho z těchto rutin je odvozeno pomocí zpracování podobného CNN. Pro ty, kteří chtějí provádět simulace CNN pro prototypy, nízkorychlostní aplikace nebo výzkum, existuje několik možností. Nejprve existují přesné softwarové balíčky emulace CNN, jako je SCNN 2000. Pokud je rychlost příliš vysoká, existují matematické techniky, jako je Jacobiho iterační metoda nebo Forward-Backward Recursions, které lze použít k odvození ustáleného řešení procesoru CNN. Uvedené techniky lze provádět jakýmkoli matematickým nástrojem, např. Matlab. A konečně, digitální procesory CNN lze emulovat na vysoce paralelních aplikačně specifických procesorech, jako jsou grafické procesory. Implementace neuronových sítí pomocí grafických procesorů je oblastí výzkumu pro výzkumnou komunitu.

Vědci také zkoumají alternativní technologie pro procesory CNN. Ačkoli současné procesory CNN obcházejí některé problémy spojené s jejich digitálními protějšky, sdílejí některé ze stejných dlouhodobých problémů společných všem procesorům založeným na polovodičích. Mezi ně patří mimo jiné rychlost, spolehlivost, spotřeba energie atd. Společnost AnaLogic Computers vyvíjí optické procesory CNN, které kombinují optiku, lasery a biologické a holografické vzpomínky. Původním průzkumem technologie byl procesor CNN o rozměrech 500 × 500, který byl schopen provádět 300 gigabajtů za sekundu. Další slibnou technologií pro procesory CNN je nanotechnologie. Jeden nanotechnologie zkoumaný koncept využívá k propojení procesorových jednotek McCulloch-Pitts CNN jednotné elektronové tunelové spojky, z nichž lze vytvořit jednoelektronové nebo silnoproudé tranzistory. Stručně řečeno, procesory CNN byly implementovány a svým uživatelům poskytují hodnotu. Byli schopni efektivně využít výhod a řešit některé z nevýhod spojených s jejich podřízenou technologií, tj. Polovodiče. Vědci také přecházejí procesory CNN do nových technologií. Pokud je tedy architektura CNN vhodná pro konkrétní systém zpracování informací, jsou k dispozici procesory k zakoupení (protože v blízké budoucnosti budou).

Aplikace

Filozofie, zájmy a metodologie výzkumníků CNN jsou různé. Vzhledem k potenciálu architektury CNN přilákala tato platforma lidi z různých prostředí a oborů. Některé zkoumají praktické implementace procesorů CNN, jiné používají procesory CNN k modelování fyzikálních jevů a dokonce existují vědci zkoumající teoretické matematické, výpočetní a filozofické myšlenky prostřednictvím procesorů CNN. Některé aplikace souvisejí s inženýrstvím, kde se některé známé, pochopené chování procesorů CNN využívá k provádění konkrétního úkolu a některé jsou vědecké, kde se procesory CNN používají k prozkoumání nových a odlišných jevů. Procesory CNN jsou univerzální platformy, které se používají pro různé aplikace.

Procesory CNN byly navrženy k provádění zpracování obrazu; konkrétně původní aplikací procesorů CNN bylo provádět zpracování ultravysokého snímkového kmitočtu (> 10 000 snímků / s) v reálném čase, což je nedosažitelné digitálními procesory potřebnými pro aplikace, jako je detekce částic v kapalinách proudových motorů a detekce zapalovacích svíček. V současné době mohou procesory CNN dosáhnout až 50 000 snímků za sekundu a pro určité aplikace, jako je sledování raket, detekce blesku a diagnostika zapalovacích svíček, tyto mikroprocesory překonaly konvenční superpočítač. Procesory CNN jsou vhodné pro místní, nízkoúrovňové operace náročné na procesor a byly použity při extrakci funkcí, úpravách úrovně a zisku, detekci stálosti barev, vylepšení kontrastu, dekonvoluce, komprese obrazu, odhad pohybu, kódování obrazu, dekódování obrazu, segmentace obrazu, mapy preferenčních orientací, učení / rozpoznávání vzorů, sledování více cílů, stabilizace obrazu, vylepšení rozlišení, deformace a mapování obrazu, malování obrazu, optický tok, konturování, detekce pohyblivých objektů osa detekce symetrie a fúze obrazu.

Kvůli jejich schopnostem zpracování a flexibilitě byly použity procesory CNN & prototyp pro nové polní aplikace, jako je analýza plamene pro monitorování spalování v odpadu spalovna, detekce min pomocí infračervený snímky, kalorimetr vrchol klastru pro fyziku vysokých energií, detekce anomálií v mapách potenciálního pole pro geofyziku, detekce laserových bodů, kontrola kovů pro detekci výrobních vad a seismické vychystávání obzoru. Byli také zvyklí hrát biometrické funkce jako rozpoznávání otisků prstů, extrakce žilních funkcí, sledování obličeje a generování vizuálních podnětů pomocí naléhavých vzorů pro měření percepčního rezonance. Procesory CNN byly použity pro lékařský a biologický výzkum při provádění automatického počítání jaderných buněk pro detekci hyperplazie, segmentujte obrázky na anatomicky a patologicky smysluplné oblasti, měřit a kvantifikovat srdeční funkce, měřit načasování neuronů a detekovat abnormality mozku, které by vedly k záchvatům. Jednou z možných budoucích aplikací mikroprocesorů CNN je jejich kombinace s mikročipy DNA umožňující analýzu DNA téměř stovek tisíc různých sekvencí DNA v reálném čase. V současné době je hlavním zúžením analýzy DNA microarray množství času potřebného ke zpracování dat ve formě obrázků a pomocí mikroprocesoru CNN vědci zkrátili čas potřebný k provedení tohoto výpočtu na 7 ms.

Procesory CNN byly také použity ke generování a analýze vzorů a textur. Jednou motivací bylo použít procesory CNN k pochopení generování vzorů v přirozených systémech. Byly použity ke generování Turingovy vzory abychom pochopili situace, ve kterých se tvoří, různé typy vzorů, které se mohou objevit, a přítomnost defektů nebo asymetrií. Také procesory CNN byly použity k aproximaci systémů generování vzorů, které vytvářejí stacionární fronty, časoprostorové vzory oscilační včas, hystereze, paměť a heterogenita. Kromě toho bylo generování vzorů použito k podpoře vysoce výkonného generování a komprese obrazu generováním v reálném čase stochastický a hrubozrnné biologické vzory, detekce hranic textury a vzor a rozpoznávání textury a klasifikace.

Řídicí a akční systémy

Pokračuje úsilí o začlenění procesorů CNN do senzoricko-výpočetních a ovládacích strojů jako součást vznikajícího pole celulárních strojů. The basic premise is to create an integrated system that uses CNN processors for the sensory signal-processing and potentially the decision-making and control. The reason is that CNN processors can provide a low power, small size, and eventually low-cost computing and actuating system suited for Cellular Machines. These Cellular Machines will eventually create a Sensor-Actuator Network (SAN), a type of Mobile Ad Hoc Networks (MANET) which can be used for military intelligence gathering, surveillance of inhospitable environments, maintenance of large areas, planetary exploration, etc.

CNN processors have been proven versatile enough for some control functions. They have been used to optimize function via a genetic algorithm, to measure distances, to perform optimal path-finding in a complex, dynamic environment, and theoretically can be used to learn and associate complex stimuli. They have also been used to create antonymous gaits and low-level motors for robotic hlístice, spiders, and lamprey gaits using a Central Pattern Generator (CPG). They were able to function using only feedback from the environment, allowing for a robust, flexible, biologically inspired robot motor system. CNN-based systems were able to operate in different environments and still function if some of the processing units are disabled.

The variety of dynamical behavior seen in CNN processors make them intriguing for communication systems. Chaotic communications using CNN processors is being researched due to their potential low power consumption, robustness and spread spectrum features. The premise behind chaotic communication is to use a chaotic signal for the carrier wave and to use chaotic phase synchronization to reconstruct the original message. CNN processors can be used on both the transmitter and receiver end to encode and decode a given message. They can also be used for data encryption and decryption, source authentication through watermarking, detecting of complex patterns in spectrogram images (sound processing), and transient spectral signals detection.

CNN processors are neuromorphic processors, meaning that they emulate certain aspects of biologické neurální sítě. The original CNN processors were based on mammalian retinas, which consist of a layer of fotodetektory connected to several layers of locally coupled neurons. This makes CNN processors part of an interdisciplinary research area whose goal is to design systems that leverage knowledge and ideas from neuroscience and contribute back via real-world validation of theories. CNN processors have implemented a real-time system that replicates mammalian retinas, validating that the original CNN architecture chosen modeled the correct aspects of the biological neural networks used to perform the task in mammalian life. However, CNN processors are not limited to verifying biological neural networks associated with vision processing; they have been used to simulate dynamic activity seen in mammalian neural networks found in the olfactory bulb and locust antennal lobe, responsible for pre-processing sensory information to detect differences in repeating patterns.

CNN processors are being used to understand systems that can be modeled using simple, coupled units, such as living cells, biological networks, physiological systems, and ecosystems. The CNN architecture captures some of the dynamics often seen in nature and is simple enough to analyze and conduct experiments. They are also being used for stochastický simulation techniques, which allow scientists to explore spin problems, population dynamics, lattice-based gas models, perkolace a další jevy. Other simulation applications include heat transfer, mechanical vibrating systems, protein production, Josephson Transmission Line (JTL) problems, seismic wave propagation, and geothermal structures. Instances of 3D (Three Dimensional) CNN have been used to prove known complex shapes are emergent phenomena in complex systems, establishing a link between art, dynamical systems and VLSI technology. CNN processors have been used to research a variety of mathematical concepts, such as researching non-equilibrium systems, constructing non-linear systems of arbitrary complexity using a collection of simple, well-understood dynamic systems, studying emergent chaotic dynamics, generating chaotic signals, and in general discovering new dynamic behavior. They are often used in researching systemics, a trandisiplinary, scientific field that studies natural systems. The goal of systemics researchers is to develop a conceptual and mathematical framework necessary to analyze, model, and understand systems, including, but not limited to, atomic, mechanical, molecular, chemical, biological, ecological, social and economic systems. Topics explored are emergence, collective behavior, local activity and its impact on global behavior, and quantifying the complexity of an approximately spatial and topologically invariant system^{[Citace je zapotřebí ]}. Although another measure of complexity may not arouse enthusiasm (Seth Lloyd, a professor from Massachusetts Institute of Technology (MIT), has identified 32 different definitions of complexity), it can potentially be mathematically advantageous when analyzing systems such as economic and social systems.

Poznámky

Reference

• The Chua Lectures: A 12-Part Series with Hewlett Packard Labs [1]
• D. Balya, G, Tímar, G. Cserey, and T. Roska, "A New Computational Model for CNN-UMs

and its Computational Complexity", Int’l Workshop on Cellular Neural Networks and Their Applications, 2004.

• L. Chua and L. Yang, "Cellular Neural Networks: Theory," IEEE Trans. on Circuits and Systems, 35(10):1257-1272, 1988. [2]
• L. Chua and L. Yang, "Cellular Neural Networks: Applications" IEEE Trans. on Circuits and Systems, 35(10):1273:1290, 1988.
• L. Chua, T. Roska, Cellular Neural Networks and Visual Computing: Foundations and Applications, 2005.
• V. Cimagalli, M. Balsi, "Cellular Neural Networks: A Review", Neural Nets WIRN Vietri, 1993.
• H. Harrer and J.Nossek, "Discrete-Time Cellular Neural Networks", International Journal of Circuit Theory and Applications, 20:453-467, 1992.
• S. Majorana and L. Chua, "A Unified Framework for Multilayer High Order CNN", Int’l Journal of Circuit Theory and Applications, 26:567-592, 1998.
• T. Roska, L. Chua, "The CNN Universal Machine: An Analogic Array Computer", IEEE Trans. on Circuits and Systems-II, 40(3): 163-172, 1993.
• T. Roska and L. Chua, "Cellular Neural Networks with Non-Linear and Delay-Type Template Elements and Non-Uniform Grids", Int’l Journal of Circuit Theory and Applications, 20:469-481, 1992.
• I. Szatmari, P. Foldesy, C. Rekeczky and A. Zarandy, "Image Processing Library for the Aladdin Computer", Int’l Workshop on Cellular Neural Networks and Their Applications, 2005.
• C. Wu and Y. Wu, "The Design of CMOS Non-Self-Feedback Ratio Memory Cellular Nonlinear Network without Elapsed Operation for Pattern Learning and Recognition", Int’l Workshop on Cellular Neural Networks and Their Applications, 2006.
• M. Yalcin, J. Suykens, and J. Vandewalle, Cellular Neural Networks, Multi-Scroll Chaos And Synchronization, 2005.
• K. Yokosawa, Y. Tanji and M. Tanaka, "CNN with Multi-Level Hysteresis Quantization Output" Int’l Workshop on Cellular Neural Networks and Their Applications, 2006.
• T. Nakaguchi, K. Omiya and M. Tanaka, "Hysteresis Cellular Neural Networks for Solving Combinatorial Optimization Problems", Int’l Workshop on Cellular Neural Networks and Their Applications, 2006.
• K. Crounse, C. Wee and L. Chua, "Linear Spatial Filter Design for Implementation on the CNN Universal Machine", Int’l Workshop on Cellular Neural Networks and Their Applications, 2000.
• H. Ip, E. Drakakis, and A. Bharath, "Towards Analog VLSI Arrays for Nonseparable 3D Spatiotemporal Filtering", Int’l Workshop on Cellular Neural Networks and Their Applications, 2006.
• M. Brugge, "Morphological Design of Discrete−Time Cellular Neural Networks", University of Groningen Dissertation, 2005.
• J. Poikonen1 and A. Paasio, "Mismatch-Tolerant Asynchronous Grayscale Morphological Reconstruction", Int’l Workshop on Cellular Neural Networks and Their Applications, 2005.
• M. Gilli, T. Roska, L. Chua, and P. Civalleri, "CNN Dynamics Represents a Broader Range Class than PDEs", Int’l Journal of Bifurcations and Chaos, 12(10):2051-2068, 2002.
• A. Adamatzky, B. Costello, T Asai "Reaction-Diffusion Computers", 2005.
• F. Gollas and R. Tetzlaff, "Modeling Complex Systems by Reaction-Diffusion Cellular Nonlinear Networks with Polynomial Weight-Functions", Int’l Workshop on Cellular Neural Networks and Their Applications, 2005.
• A. Selikhov, "mL-CNN: A CNN Model for Reaction Diffusion Processes in m Component Systems", Int’l Workshop on Cellular Neural Networks and Their Applications, 2005.
• B. Shi and T. Luo, "Spatial Pattern Formation via Reaction–Diffusion Dynamics in 32x32x4 CNN Chip", IEEE Trans. On Circuits And Systems-I, 51(5):939-947, 2004.
• E. Gomez-Ramirez, G. Pazienza, X. Vilasis-Cardona, "Polynomial Discrete Time Cellular Neural Networks to solve the XOR Problem", Int’l Workshop on Cellular Neural Networks and Their Applications, 2006.
• F. Chen, G. He, X. Xu1, and G. Chen, "Implementation of Arbitrary Boolean Functions via CNN", Int’l Workshop on Cellular Neural Networks and Their Applications, 2006.
• R. Doguru and L. Chua, "CNN Genes for One-Dimensional Cellular Automata: A Multi-Nested Piecewise-Linear Approach", Int’l Journal of Bifurcation and Chaos, 8(10):1987-2001, 1998.
• R. Dogaru and L. Chua, "Universal CNN Cells", Int’l Journal of Bifurcations and Chaos, 9(1):1-48, 1999.
• R. Dogaru and L. O. Chua, "Emergence of Unicellular Organisms from a Simple Generalized Cellular Automata", Int’l Journal of Bifurcations and Chaos, 9(6):1219-1236, 1999.
• T. Yang, L. Chua, "Implementing Back-Propagation-Through-Time Learning Algorithm Using Cellular Neural Networks", Int’l Journal of Bifurcations and Chaos, 9(6):1041-1074, 1999.
• T. Kozek, T. Roska, and L. Chua, "Genetic Algorithms for CNN Template Learning," IEEE Trans. on Circuits and Systems I, 40(6):392-402, 1993.
• G. Pazienza, E. Gomez-Ramirezt and X. Vilasis-Cardona, "Genetic Programming for the CNN-UM", Int’l Workshop on Cellular Neural Networks and Their Applications, 2006.
• J. Nossek, G. Seiler, T. Roska, and L. Chua, "Cellular Neural Networks: Theory and Circuit Design," Int’l Journal of Circuit Theory and Applications, 20: 533-553, 1998.
• K. Wiehler, M. Perezowsky, R. Grigat, "A Detailed Analysis of Different CNN Implementations for a Real-Time Image Processing System", Int’l Workshop on Cellular Neural Networks and Their Applications, 2000.
• A. Zarandry, S. Espejo, P. Foldesy, L. Kek, G. Linan, C. Rekeczky, A. Rodriguez-Vazquez, T. Roska, I. Szatmari, T. Sziranyi and P. Szolgay, "CNN Technology in Action ", Int’l Workshop on Cellular Neural Networks and Their Applications, 2000.
• L. Chua, L. Yang, and K. R. Krieg, "Signal Processing Using Cellular Neural Networks", Journal of VLSI Signal Processing, 3:25-51, 1991.
• T. Roska, L. Chua, "The CNN Universal Machine: An Analogic Array Computer", IEEE Trans. on Circuits and Systems-II, 40(3): 163-172, 1993.
• T. Roska and A. Rodriguez-Vazquez, "Review of CMOS Implementations of the CNN Universal Machine-Type Visual Microprocessors", International Symposium on Circuits and Systems, 2000
• A. Rodríguez-Vázquez, G. Liñán-Cembrano, L. Carranza, E. Roca-Moreno, R. Carmona-Galán, F. Jiménez-Garrido, R. Domínguez-Castro, and S. Meana, "ACE16k: The Third Generation of Mixed-Signal SIMD-CNN ACE Chips Toward VSoCs," IEEE Trans. on Circuits and Systems - I, 51(5): 851-863, 2004.
• T. Roska, "Cellular Wave Computers and CNN Technology – a SoC architecture with xK Processors and Sensor Arrays", Int’l Conference on Computer Aided Design Accepted Paper, 2005.
• K. Karahaliloglu, P. Gans, N. Schemm, and S. Balkir, "Optical sensor integrated CNN for Real-time Computational Applications", IEEE Int’l Symposium on Circuits and Systems, pp. 21–24, 2006.
• C. Dominguez-Matas, R. Carmona-Galan, F. Sanchez-Fernaindez, J. Cuadri, and A. Rodriguez-Vaizquez, "A Bio-Inspired Vision Front-End Chip with Spatio-Temporal Processing and Adaptive Image Capture", Int’l Workshop on Computer Architecture for Machine Perception and Sensing, 2006.
• C. Dominguez-Matas, R. Carmona-Galan, F. Sainchez-Fernaindez, A. Rodriguez-Vazquez, "3-Layer CNN Chip for Focal-Plane Complex Dynamics with Adaptive Image Capture", Int’l Workshop on Cellular Neural Networks and Their Applications, 2006.
• I. Szatmari, P. Foldesy, C. Rekeczky and A. Zarandy, "Image processing library for the Aladdin Visual Computer", Int’l Workshop on Cellular Neural Networks and Their Applications, 2002.
• A. Zarandy and C. Rekeczky, "Bi-i: a standalone ultra high speed cellular vision system", IEEE Circuits and Systems Magazine, 5(2):36-45, 2005.
• T. Roska, D. Balya, A. Lazar, K. Karacs, R. Wagner and M. Szuhaj, "System Aspects of a Bionic Eyeglass", IEEE Int’l Symposium on Circuits and Systems, 2006.
• K. Karacst and T. Roskatt, "Route Number Recognition of Public Transport Vehicles via the Bionic Eyeglass", Int’l Workshop on Cellular Neural Networks and Their Applications, 2006.
• R. Wagner and M. Szuhajt, "Color Processing in Wearable Bionic Glasses"
• P.Arena, L. Fortuna, M. Frasca, L. Patane, and M. Pollino, "An Autonomous Mini-Hexapod Robot Controller through a CNN Based VLSI Chip", Int’l Workshop on Cellular Neural Networks and Their Applications, 2006.
• C. Wu and C. Cheng, "The Design of Cellular Neural Network with Ratio Memory for Pattern Learning and Recognition", Int’l Workshop on Cellular Neural Networks and Their Applications, 2000.
• W. Yen, R. Chen and J. Lai, "Design of Min/Max Cellular Neural Networks in CMOS Technology", Int’l Workshop on Cellular Neural Networks and Their Applications, 2002.
• Z. Gallias and M. Ogorzalek, "Influence in System Nonuniformity on Dynamic Phenomenon in Arrays of Coupled Nonlinear Networks", Int’l Workshop on Cellular Neural Networks and Their Applications, 2002
• S. Xavier-de-Souza, M. Yalcın, J. Suykens, and J. Vandewalle, "Toward CNN Chip-Specific Robustness", IEEE Trans. On Circuits And Systems - I, 51(5): 892-902, 2004.
• D. Hillier, S. Xavier de Souza, J. Suykens, J. Vandewalle, "CNNOPT Learning CNN Dynamics and Chip-specific Robustness", Int’l Workshop on Cellular Neural Networks and Their Applications, 2006.
• A. Paasiot and J. Poilkonent, "Programmable Diital Nested CNN", Int’l Workshop on Cellular Neural Networks and Their Applications, 2006.
• M. Znggi, R. Dogaru, and L. Chua, "Physical Modeling of RTD-Based CNN Cells", Int’l Workshop on Cellular Neural Networks and Their Applications, 2000.
• W. Yen and C. Wu, "The Design of Neuron-Bipolar Junction Transistor (vBJT) Cellular Neural Network(CNN) Structure with Multi-Neighborhood-Layer Template", Int’l Workshop on Cellular Neural Networks and Their Applications, 2000.
• F. Sargeni, V. Bonaiuto and M. Bonifazi, "Multiplexed Star-CNN Architecture", Int’l Workshop on Cellular Neural Networks and Their Applications, 2006.
• Z. Kincsest, Z. Nagyl, and P. Szolgay, "Implementation of Nonlinear Template Runner Emulated Digital CNN-UM on FPGA", Int’l Workshop on Cellular Neural Networks and Their Applications, 2006.
• W. Fangt, C. Wang and L. Spaanenburg, "In Search of a Robust Digital CNN System" Int’l Workshop on Cellular Neural Networks and Their Applications, 2006.
• Z. Voroshazit, Z. Nagyt, A. Kiss and P. Szolgay, "An Embedded CNN-UM Global Analogic Programming Unit Implementation on FPGA", Int’l Workshop on Cellular Neural Networks and Their Applications, 2006.
• Eutecus Homepage
• - A. Loncar, R. Kunz and R. Tetzaff, "SCNN 2000 - Part I: Basic Structures and Features of the Simulation System for Cellular Neural Networks", Int’l Workshop on Cellular Neural Networks and Their Applications, 2000.
• V. Tavsanoglu, "Jacobi’s Iterative Method for Solving Linear Equations and the Simulation of Linear CNN", Int’l Workshop on Cellular Neural Networks and Their Applications, 2006.
• B. Shi, "Estimating the Steady State using Forward and Backward Recursions", Int’l Workshop on Cellular Neural Networks and Their Applications, 2006.
• S. Tokes, L. Orzo, and A. Ayoub, "Programmable OASLM as a Novel Sensing Cellular Computer", Int’l Workshop on Cellular Neural Networks and Their Applications, 2006.
• W. Porod, F. Werblin, L. Chua, T. Roska, A. Rodriguez-Vázquez, B. Roska, R. Faya, G. Bernstein, Y. Huang, and A. Csurgay, "Bio-Inspired Nano-Sensor-Enhanced CNN Visual Computer", Annals of the New York Academy of Sciences, 1013: 92–109, 2004.
• J. Flak, M. Laiho1, and K Halonen, "Programmable CNN Cell Based on SET Transistors", Int’l Workshop on Cellular Neural Networks and Their Applications, 2006.
• A. Zarandry, S. Espejo, P. Foldesy, L. Kek, G. Linan, C. Rekeczky, A. Rodriguez-Vazquez, T. Roska, I. Szatmari, T. Sziranyi and P. Szolgay, "CNN Technology in Action ", Int’l Workshop on Cellular Neural Networks and Their Applications, 2000.
• L. Chua, S. Yoon and R. Dogaru, "A Nonlinear Dynamics Perspective of Wolfram’s New Kind of Science. Part I: Threshold of Complexity," Int’l Journal of Bifurcation and Chaos, 12(12):2655-2766, 2002.
• O. Lahdenoja, M. Laiho and A. Paasio, "Local Binary Pattern Feature Vector Extraction with CNN", Int’l Workshop on Cellular Neural Networks and Their Applications, 2005.
• C. Dominguez-Matas, F. Sainchez-Femaindez, R. Carmona-Galan, and E. Roca-Moreno, "Experiments on Global and Local Adaptation to Illumination Conditions based on Focal Plane Average Computation", Int’l Workshop on Cellular Neural Networks and Their Applications, 2006.
• L. Torok and A. Zarandy, "CNN Based Color Constancy Algorithm", Int’l Workshop on Cellular Neural Networks and Their Applications, 2002.
• P. Ecimovic and J. Wu, "Delay Driven Contrast Enhancement using a Cellular Neural Network with State Dependent Delay", Int’l Workshop on Cellular Neural Networks and Their Applications, 2002.
• G. Cserey, C. Rekeczky and P. Foldesy, "PDE Based Histogram Modification with Embedded Morphological Processing of the Level Sets", Int’l Workshop on Cellular Neural Networks and Their Applications, 2002.
• L. Orzo, "Optimal CNN Templates for Deconvolution", Int’l Workshop on Cellular Neural Networks and Their Applications, 2006
• P. Venetianer and T. Roska, "Image Compression by Cellular Neural Networks," IEEE Trans. Circuits Syst., 45(3): 205-215, 1998.
• R. Dogarut, R. Tetzlaffl and M. Glesner, "Semi-Totalistic CNN Genes for Compact Image Compression", Int’l Workshop on Cellular Neural Networks and Their Applications, 2006.
• A. Gacsadi, C. Grava, V. Tiponut, and P. Szolgay, "A CNN Implementation of the Horn & Schunck Motion Estimation Method", Int’l Workshop on Cellular Neural Networks and Their Applications, 2006.
• H. Aomori, T. Otaket, N. Takahashi, and M. Tanaka, "A Spatial Domain Sigma Delta Modulator Using Discrete Time Cellular Neural Networks", Int’l Workshop on Cellular Neural Networks and Their Applications, 2006.
• H. Kimt, H. Son. J. Lee, I. Kimt and I. Kimt, "An Analog Viterbi Decoder for PRML using Analog Parallel Processing Circuits of the CNN", Int’l Workshop on Cellular Neural Networks and Their Applications, 2006.
• S. Chen, M. Kuo and J. Wang, "Image Segmentation Based on Consensus Voting", Int’l Workshop on Cellular Neural Networks and Their Applications, 2005.
• G. Grassi, E. Sciascio, A. Grieco and P. Vecchio, "A New Object-oriented Segmentation Algorithm based on CNNs - Part II: Performance Evaluation", Int’l Workshop on Cellular Neural Networks and Their Applications, 2005.
• J. Wu, Z. Lin and C. Liou, "Formation and Variability of Orientation Preference Maps in Visual Cortex: an Approach Based on Normalized Gaussian Arrays", Int’l Workshop on Cellular Neural Networks and Their Applications, 2005.
• C. Wu and S. Tsai, "Autonomous Ratio-Memory Cellular Nonlinear Network (ARMCNN) for Pattern Learning and Recognition", Int’l Workshop on Cellular Neural Networks and Their Applications, 2006.
• G. Timar and C. Rekeczky, "Multitarget Tracking Applications of the Bi-I Platform: Attention-selection, Tracking and Navigation", Int’l Workshop on Cellular Neural Networks and Their Applications, 2006.
• Y. Cheng, J. Chung, C. Lin and S. Hsu, "Local Motion Estimation Based On Cellular Neural Network Technology for Image Stabilization Processing", Int’l Workshop on Cellular Neural Networks and Their Applications, 2005.
• T. Otake, T. Konishi, H. Aomorit, N. Takahashit and M. Tanakat, "Image Resolution Upscaling Via Two-Layered Discrete Cellular Neural Network", Int’l Workshop on Cellular Neural Networks and Their Applications, 2006.
• P. Korbelt and K. Sloti, "Modeling of Elastic Inter-node Bounds in Cellular Neural Network-based Implementation of the Deformable Grid Paradigm", Int’l Workshop on Cellular Neural Networks and Their Applications, 2006.
• A. Gacsadi and P. Szolgay, "Image Inpainting Methods by Using Cellular Neural Networks", Int’l Workshop on Cellular Neural Networks and Their Applications, 2005.
• B. Shi, T. Roska and L. Chua, "Estimating Optical Flow with Cellular Neural Networks," Int’l Journal of Circuit Theory and Applications, 26: 344-364, 1998.
• D. Vilarino and C. Rekeczky, "Implementation of a Pixel-Level Snake Algorithm on a CNNUM-Based Chip Set Architecture", IEEE Trans. On Circuits And Systems - I, 51(5): 885-891, 2004.
• G. Costantini, D. Casali, and R. Perfetti, "Detection of Moving Objects in a Binocular Video Sequence", Int’l Workshop on Cellular Neural Networks and Their Applications, 2006.
• G Costantini, D. Casafi., and R. Perfetti, "A New CNN-based Method for Detection of the Axis of Symmetry.", Int’l Workshop on Cellular Neural Networks and Their Applications, 2006.
• C. Amenta, P. Arena, S. Baglio, L. Fortuna, D. Richiura, M.Xibilia and L. Vu1, "SC-CNNs for Sensors Data Fusion and Control in Space Distributed Structures", Int’l Workshop on Cellular Neural Networks and Their Applications, 2000.
• L. Bertucco, A. Fichaa, G. Nmari and A. Pagano, "A Cellular Neural Networks Approach to Flame Image Analysis for Combustion Monitoring", Int’l Workshop on Cellular Neural Networks and Their Applications, 2000.
• E. Lopez, M. Balsif, D. Vilarilio and D. Cabello, "Design and Training of Multilayer Discrete Time Cellular Neural Networks for Antipersonnel Mine Detection Using Genetic Algorithms", Int’l Workshop on Cellular Neural Networks and Their Applications, 2000.
• C. Baldanza, F. Bisi, M. Bruschi, I. D’Antone, S. Meneghini, M. Riui, M. Zufa, "A Cellular Neural Network For Peak Finding In High-Energy Physics", Int’l Workshop on Cellular Neural Networks and Their Applications, 2000.
• E. Bilgili, O. Ucan, A. Albora and I. Goknar, "Potential Anomaly Separation Using Genetically Trained Cellular Neural Networks", Int’l Workshop on Cellular Neural Networks and Their Applications, 2002.
• C. Rekeczky and G. Timar "Multiple Laser Dot Detection and Localization within an Attention Driven Sensor Fusion Framework", Int’l Workshop on Cellular Neural Networks and Their Applications, 2005.
• Z. Szlavikt R. Tetzlaff1, A. Blug and H. Hoefler, "Visual Inspection of Metal Objects Using Cellular Neural Networks", Int’l Workshop on Cellular Neural Networks and Their Applications, 2006.
• K. Huang, C. Chang, W. Hsieh, S. Hsieh, L. Wang and F. Tsai, "Cellular Neural Network For Seismic Horizon Picking", Int’l Workshop on Cellular Neural Networks and Their Applications, 2005.
• T. Su, Y. Du, Y. Cheng, and Y. Su, "A Fingerprint Recognition System Using Cellular Neural Networks", Int’l Workshop on Cellular Neural Networks and Their Applications, 2006.
• S. Malki, Y. Fuqiang, and L. Spaanenburg, "Vein Feature Extraction Using DT-CNNs", Int’l Workshop on Cellular Neural Networks and Their Applications, 2006.
• S. Xavier-de-Souza, M. Van Dyck, J. Suykens and J. Vandewalle, "Fast and Robust Face Tracking for CNN Chips: Application to Wheelchair Driving", Int’l Workshop on Cellular Neural Networks and Their Applications, 2006.
• R. Dogaru and I. Dogaru, "Biometric Authentication Based on Perceptual Resonance Between CNN Emergent Patterns and Humans", Int’l Workshop on Cellular Neural Networks and Their Applications, 2002.
• Q. Feng, S. Yu and H. Wang, "An New Automatic Nucleated Cell Counting Method With Improved Cellular Neural Networks (ICNN)", Int’l Workshop on Cellular Neural Networks and Their Applications, 2006.
• T. Szabot and P. Szolgay, "CNN-UM-Based Methods Using Deformable Contours on Smooth Boundaries", Int’l Workshop on Cellular Neural Networks and Their Applications, 2006.
• Zs. Szalka, G. Soos, D. Hillier, L. Kek, G. Andrassy and C. Rekeczky, "Space-time Signature Analysis of 2D Echocardiograms Based on Topographic Cellular Active Contour Techniques", Int’l Workshop on Cellular Neural Networks and Their Applications, 2006.
• M. Bucolo, L. Fortuna, M. Frasca, M. La Rosa, D. Shannahoff-Khalsa, "A CNN Based System to Blind Sources Separation of MEG Signals", Int’l Workshop on Cellular Neural Networks and Their Applications, 2002.
• F. Dohlert, A. Chernihovskyi, F. Mormann, C. Elger, and K. Lehnertz, "Detecting Structural Alterations in the Brain using a Cellular Neural Network based Classification of Magnetic Resonance Images", Int’l Workshop on Cellular Neural Networks and Their Applications, 2006.
• D. Krug, A. Chernihovskyi, H. Osterhage, C. Elger, and K. Lehnertz, "Estimating Generalized Synchronization in Brain Electrical Activity from Epilepsy Patients with Cellular Nonlinear Networks", Int’l Workshop on Cellular Neural Networks and Their Applications, 2006.
• C. Niederhoefer and R. Tetzlaff, "Prediction Error Profiles allowing a Seizure Forecasting in Epilepsy?", Int’l Workshop on Cellular Neural Networks and Their Applications, 2006.
• L. Fortuna, P. Arena, D. Balya, and A. Zarandy, "Cellular Neural Networks: A Paradigm for Nonlinear Spatio-Temporal Processing", IEEE Circuits and Systems Magazine, 1(4): 6-21, 2001.
• L. Goras, L. Chua, and D. Leenearts, "Turing Patterns in CNNs – Part I: Once Over Lightly", IEEE Trans. on Circuits and Systems – I, 42(10):602-611, 1995.
• L. Goras, L. Chua, and D. Leenearts, "Turing Patterns in CNNs – Part II: Equations and Behavior", IEEE Trans. on Circuits and Systems – I, 42(10):612-626, 1995.
• L. Goras, L. Chua, and D. Leenearts, "Turing Patterns in CNNs – Part III: Computer Simulation Results", IEEE Trans. on Circuits and Systems – I, 42(10):627-637, 1995.
• A. Slavova and M. Markovat, "Receptor Based CNN Model with Hysteresis for Pattern Generation", Int’l Workshop on Cellular Neural Networks and Their Applications, 2006.
• L. Komatowskit, K. Slot, P. Dqbiec, and H. Kim, "Generation of Patterns with Predefined Statistical Properties using Cellular Neural Networks", Int’l Workshop on Cellular Neural Networks and Their Applications, 2006.
• C. Lin and S. Chen, "Biological Visual Processing for Hybrid-Order Texture Boundary Detection with CNN-UM", Int’l Workshop on Cellular Neural Networks and Their Applications, 2006.
• G. Costantini, D. Casali, and M. Carota, "A Pattern Classification Method Based on a Space-Variant CNN Template", Int’l Workshop on Cellular Neural Networks and Their Applications, 2006.
• E. David, P. Ungureanu, and L. Goras, "On he Feature Extraction Performances of Gabor-Type Filters in Texture Recognition Applications", Int’l Workshop on Cellular Neural Networks and Their Applications, 2006.
• C. Lin and Y. Shou, "Texture Classification and Representation by CNN based Feature Extraction", Int’l Workshop on Cellular Neural Networks and Their Applications, 2005.
• T. Roska and L. O. Chua, "The CNN Universal Machine: 10 Years Later, Journal of Circuits, Systems, and Computers", Int’l Journal of Bifurcation and Chaos, 12(4):377-388, 2003.
• M. Haenggi, "Mobile Sensor-Actuator Networks: Opportunities and Challenges", Int’l Workshop on Cellular Neural Networks and Their Applications, 2002.
• R. Bise, N. Takahashi and T. Nishi, "On the Design Method of Cellular Neural Networks for Associate Memories Based on Generalized Eigenvalue Problem", Int’l Workshop on Cellular Neural Networks and Their Applications, 2002.
• D. Balya and V. Galt, "Analogic Implementation of the Genetic Algorithm", Int’l Workshop on Cellular Neural Networks and Their Applications, 2006.
• I. Szatmhri, "The Implementation of a Nonlinear Wave Metric for Image Analysis and Classification on the 64x64 I/O CNN-UM Chip", Int’l Workshop on Cellular Neural Networks and Their Applications, 2000.
• A. Adamatzky, P. Arena, A. Basile, R. Carmona-Galán, B. Costello, L. Fortuna, M. Frasca, and A. Rodríguez-Vázquez, "Reaction-Diffusion Navigation Robot Control: From Chemical to VLSI Analogic Processors", IEEE Trans. On Circuits And Systems – I, 51(5):926-938, 2004.
• I. Gavrilut, V. Tiponut, and A. Gacsadi, "Path Planning of Mobile Robots by Using Cellular Neural Networks", Int’l Workshop on Cellular Neural Networks and Their Applications, 2006.
• P. Arena, P. Crucitti, L. Fortuna, M. Frasca, D. Lombardo and L. Patane, "Perceptive Patterns For Mobile Robots via RD-CNN and Reinforcement Learning", Int’l Workshop on Cellular Neural Networks and Their Applications, 2006.
• P. Arena, L. Fortuna, M. Frasca, and L. Patane, "CNN Based Central Pattern Generators with Sensory Feedback", Int’l Workshop on Cellular Neural Networks and Their Applications, 2005.
• R. Caponetto, L. Fortuna, L. Occhipiniti, and M. G. Xibilia, "SC-CNN Chaotic Signals Generation", Int’l Workshop on Cellular Neural Networks and Their Applications, 2002.
• R. Chen and J. Lai, "Data Encryption Using Non-uniform 2-D Von Neumann Cellular Automata", Int’l Workshop on Cellular Neural Networks and Their Applications, 2005.
• P. Arena, A. Basile, L. Fortuna, M. E. Yalcin, and J. Vandewalle, "Watermarking for the Authentication of Video on CNN-UM", Int’l Workshop on Cellular Neural Networks and Their Applications, 2002.
• K. Slot, P. Korbe, M. Gozdzik, and Hyongsuk Kim, "Pattern detection in spectrograms by means of Cellular Neural Networks", Int’l Workshop on Cellular Neural Networks and Their Applications, 2006.
• A. Chernihovskyi, C. Elger, and K. Lehnertz, "Effect of in Inhibitory Diffusive Coupling on Frequency-Selectivity of Excitable Media Simulated With Cellular Neural Networks", Int’l Workshop on Cellular Neural Networks and Their Applications, 2006.
• R. Carmona, F. Jimenez-Garrido, R. Dominguez-Castro, S. Espejo and A. Rodriguez-Vazquez, "CMOS Realization of a 2-layer CNN Universal Machine", Int’l Workshop on Cellular Neural Networks and Their Applications, 2002.
• Z. Nagyt, Z. Voroshazi and P. Szolgay, "A Real-time Mammalian Retina Model Implementation on FPGA", Int’l Workshop on Cellular Neural Networks and Their Applications, 2006.
• D. Balya and B. Roska, "A Handy Retina Exploration Device", Workshop on Cellular Neural Networks and Their Applications, 2005.
• P. Arena, M. Bediat, L. Fortuna, D. Lombardo, L. Patane, and M. Velardet, "Spatio-temporal Patterns in CNNs for Classification: the Winnerless Competition Principle", Int’l Workshop on Cellular Neural Networks and Their Applications, 2006.
• V. Perez-Munuzuri, A. P. Munuzuri, M. Gomez-Gesteria, V. Perez-Villar, L. Pivka, and L. Chua, "Nonlinear Waves, Patters, and Spatio-Temporal Chaos in Cellular Neural Networks," Phil. Trans. R. Soc. Lond. A, (353): 101-113, 1995.
• M. Ercsey-Ravasz, T. Roska and Z. Neda, "Random Number Generator and Monte Carlo type Simulations on the CMM-UM", Int’l Workshop on Cellular Neural Networks and Their Applications, 2006.
• P. Lopez, D. Vilarino, D. Cabello, H. Sahli and M. Balsi, "CNN Based Thermal Modeling of the Soil for Anitpersonnel Mine Detection", Int’l Workshop on Cellular Neural Networks and Their Applications, 2002.
• P. Szolgay, T. Hidvegi, Z. Szolgay and P. Kozma, "A Comparison of the Different CNN Implementations in Solving the Problem of Spatiotemporal Dynamics in Mechanical Systems ", Int’l Workshop on Cellular Neural Networks and Their Applications, 2000.
• W. Samarrai, J. Yeol, I. Bajis and Y. Ryu, "System Biology Modeling of Protein Process using Deterministic Finite Automata (DFA)", Int’l Workshop on Cellular Neural Networks and Their Applications, 2005.
• V. Mladenovt, and A. Slavoval, "On the Period Solutions in One Dimensional Cellular Neural Networks based on Josephson Junctions", Int’l Workshop on Cellular Neural Networks and Their Applications, 2006.
• P. Sonkolyt, P. Kozmat, Z. Nagyt and P. Szolgay, "Acoustic Wave Propagation Modeling on CNN-UM Architecture", Int’l Workshop on Cellular Neural Networks and Their Applications, 2006.
• S. Kocsardit, Z. Nagyt, S. Kostianevt and P. Szolgay, "FPGA Based Implementation of Water Injection in Geothermal Structure", Int’l Workshop on Cellular Neural Networks and Their Applications, 2006.
• R. Brown and L. Chua, "Chaos or Turbulence", Int’l Journal of Bifurcation and Chaos, 2(4):1005-1009, 1992.
• P. Arena, L. Fortuna, G. Vagliasindi and A. Basile, "CNN Chip And FPGA To Explore Complexity", Int’l Workshop on Cellular Neural Networks and Their Applications, 2005.
• E. Gunay, M. Alci and S. Parmaksizoglu, "N-Scroll Generation in SC-CNN via Neuro Fuzzy Based Non-Linear Function", Int’l Workshop on Cellular Neural Networks and Their Applications, 2006.
• M. Gilli, F. Corinto, and P. Checco, "Periodic Oscillations and Bifurcations in Cellular Nonlinear Networks", IEEE Trans. on Circuits and Systems – I, 51(5):948-962, 2004.
• K. A. Richardson, "Systems Theory and Complexity: Part 1", Emergence: Complexity and Organization, 6(3):75-79.
• K. A. Richardson, "Systems Theory and Complexity: Part 2", Emergence: Complexity and Organization, 6(4):77-82.
• K. A. Richardson, "Systems Theory and Complexity: Part 3", Emergence: Complexity and Organization, 7(2):104-114.
• P. Anderson, "Emergence", Proceedings of the Second Int’l Conference on Complex Systems, 2004.
• K. Mainzer, "CNN and the Evolution of Complex Information Systems in Nature and Technology", Int’l Workshop on Cellular Neural Networks and Their Applications, 2002.
• S. Lloyd, Programming the Universe, 2006.
• L. Chua, "Local Activity is the Origin of Complexity", Int’l Journal of Bifurcation and Chaos, 15(11):3435-2456, 2005.
• P. Arena, M. Bucolo, S. Fazzino, L. Fortuna, M. Frasca, ‘The CNN Paradigm: Shapes and Complexity’, International Journal of Bifurcations and Chaos (2005), Vol. 15, No. 7, pp. 2063–2090 – World Scientific.