Diferencovatelný neurální počítač - Differentiable neural computer

Diferencovatelný neurální počítač trénovaný k ukládání a vyvolání hustých binárních čísel. Je zobrazen výkon referenčního úkolu během tréninku. Vlevo nahoře: vstup (červený) a cíl (modrý) jako 5bitové slova a 1 bitový signál přerušení. Vpravo nahoře: výstup modelu.

v umělá inteligence, a diferencovatelný neurální počítač (DNC) je rozšířená paměť nervová síť architektura (MANN), která se při své implementaci obvykle (nikoli z definice) opakuje. Model byl publikován v roce 2016 autorem Alex Graves et al. z DeepMind.^[1]

Aplikace

DNC nepřímo bere inspiraci Von-Neumannova architektura, takže je pravděpodobné, že překoná konvenční architektury v úlohách, které jsou v zásadě algoritmické a které se nelze naučit nalezením hranice rozhodnutí.

Doposud bylo prokázáno, že DNC zvládají pouze relativně jednoduché úkoly, které lze vyřešit pomocí konvenčního programování. DNC ale nemusí být naprogramovány pro každý problém, ale místo toho mohou být vyškoleni. Toto rozpětí pozornosti umožňuje uživateli krmit komplex datové struktury jako grafy postupně a vyvolat je pro pozdější použití. Dále se mohou naučit aspekty symbolické uvažování a aplikovat to na pracovní paměť. Vědci, kteří metodu publikovali, vidí příslib, že DNC mohou být vyškoleni k provádění složitých a strukturovaných úkolů^[1][2] a řešit aplikace s velkými daty, které vyžadují nějaký druh uvažování, jako je generování video komentářů nebo analýza sémantického textu.^[3][4]

DNC lze trénovat v navigaci rychlá přeprava systémy a použít tuto síť na jiný systém. Neuronová síť bez paměti by se obvykle musela o každém tranzitním systému učit od nuly. Na úlohách procházení grafů a zpracování sekvencí pomocí učení pod dohledem, DNC fungovaly lépe než alternativy jako dlouhodobá krátkodobá paměť nebo neurální turingův stroj.^[5] S posilování učení přístup k problému blokové hádanky inspirovaný SHRDLU DNC byl proškolen prostřednictvím osnov a naučil se dělat plán. Bylo to lepší než tradiční rekurentní neuronová síť.^[5]

Architektura

Systémový diagram DNC

Sítě DNC byly zavedeny jako rozšíření Neurální Turingův stroj (NTM), s přidáním mechanismů pozornosti paměti, které řídí, kde je paměť uložena, a časové pozornosti, která zaznamenává pořadí událostí. Tato struktura umožňuje, aby DNC byly robustnější a abstraktnější než NTM a stále prováděly úkoly, které mají dlouhodobější závislosti než někteří předchůdci, jako je Long Short Term Memory (LSTM ). Paměť, která je jednoduše maticí, lze přidělovat dynamicky a přistupovat na neurčito. DNC je rozlišitelný end-to-end (každá dílčí složka modelu je diferencovatelná, proto také celý model). To umožňuje jejich efektivní optimalizaci pomocí klesání.^[3][6][7]

Model DNC je podobný modelu Von Neumannova architektura a kvůli změně velikosti paměti to je Turing dokončen.^[8]

Tradiční DNC

Tato sekce možná matoucí nebo nejasné čtenářům. Zejména seznam rovnic (bez např vyčerpávající asociace s úplným diagramem DNC) není pro mnoho čtenářů tohoto článku strávitelným popisem. Prosím, pomoz nám vyjasnit část. O tom by mohla být diskuse diskusní stránka. (Října 2017) (Zjistěte, jak a kdy odstranit tuto zprávu šablony)

DNC, jak bylo původně zveřejněno^[1]

Nezávislé proměnné
${ displaystyle mathbf {x} _ {t}}$	Vstupní vektor
${ displaystyle mathbf {z} _ {t}}$	Cílový vektor
Ovladač
${ displaystyle { boldsymbol { chi}} _ {t} = [ mathbf {x} _ {t}; mathbf {r} _ {t-1} ^ {1}; cdots; mathbf {r } _ {t-1} ^ {R}]}$	Vstupní matice řadiče
Hluboký (vrstvený) LSTM	${ displaystyle forall ; 0 leq l leq L}$
${ displaystyle mathbf {i} _ {t} ^ {l} = sigma (W_ {i} ^ {l} [{ boldsymbol { chi}} _ {t}; mathbf {h} _ {t -1} ^ {l}; mathbf {h} _ {t} ^ {l-1}] + mathbf {b} _ {i} ^ {l})}$	Vektor vstupní brány
${ displaystyle mathbf {o} _ {t} ^ {l} = sigma (W_ {o} ^ {l} [{ boldsymbol { chi}} _ {t}; mathbf {h} _ {t -1} ^ {l}; mathbf {h} _ {t} ^ {l-1}] + mathbf {b} _ {o} ^ {l})}$	Vektor výstupní brány
${ displaystyle mathbf {f} _ {t} ^ {l} = sigma (W_ {f} ^ {l} [{ boldsymbol { chi}} _ {t}; mathbf {h} _ {t -1} ^ {l}; mathbf {h} _ {t} ^ {l-1}] + mathbf {b} _ {f} ^ {l})}$	Zapomeňte na bránu vektor
${ displaystyle mathbf {s} _ {t} ^ {l} = mathbf {f} _ {t} ^ {l} mathbf {s} _ {t-1} ^ {l} + mathbf {i } _ {t} ^ {l} tanh (W_ {s} ^ {l} [{ boldsymbol { chi}} _ {t}; mathbf {h} _ {t-1} ^ {l}; mathbf {h} _ {t} ^ {l-1}] + mathbf {b} _ {s} ^ {l})}$	Státní brána vektor, ${ displaystyle s_ {0} = 0}$
${ displaystyle mathbf {h} _ {t} ^ {l} = mathbf {o} _ {t} ^ {l} tanh ( mathbf {s} _ {t} ^ {l})}$	Skrytá brána vektor, ${ displaystyle h_ {0} = 0; h_ {t} ^ {0} = 0 ; forall ; t}$
${ displaystyle mathbf {y} _ {t} = W_ {y} [ mathbf {h} _ {t} ^ {1}; cdots; mathbf {h} _ {t} ^ {L}] + W_ {r} [ mathbf {r} _ {t} ^ {1}; cdots; mathbf {r} _ {t} ^ {R}]}$	DNC výstupní vektor
Čtecí a zapisovací hlavy
${ displaystyle xi _ {t} = W _ { xi} [h_ {t} ^ {1}; cdots; h_ {t} ^ {L}]}$	Parametry rozhraní
${ displaystyle = [ mathbf {k} _ {t} ^ {r, 1}; cdots; mathbf {k} _ {t} ^ {r, R}; { hat { beta}} _ { t} ^ {r, 1}; cdots; { hat { beta}} _ {t} ^ {r, R}; mathbf {k} _ {t} ^ {w}; { hat { beta _ {t} ^ {w}}}; mathbf { hat {e}} _ {t}; mathbf {v} _ {t}; { hat {f_ {t} ^ {1}}} ; cdots; { hat {f_ {t} ^ {R}}}; { hat {g}} _ {t} ^ {a}; { hat {g}} _ {t} ^ {w} ; { hat { boldsymbol { pi}}} _ {t} ^ {1}; cdots; { hat { boldsymbol { pi}}} _ {t} ^ {R}]}$
Číst hlavy	${ displaystyle forall ; 1 leq i leq R}$
${ displaystyle mathbf {k} _ {t} ^ {r, i}}$	Přečtěte si klíče
${ displaystyle beta _ {t} ^ {r, i} = { text {oneplus}} ({ hat { beta}} _ {t} ^ {r, i})}$	Přečtěte si silné stránky
${ displaystyle f_ {t} ^ {i} = sigma ({ hat {f}} _ {t} ^ {i})}$	Volné brány
${ displaystyle { boldsymbol { pi}} _ {t} ^ {i} = { text {softmax}} ({ hat { boldsymbol { pi}}} _ {t} ^ {i})}$	Režimy čtení, ${ displaystyle { boldsymbol { pi}} _ {t} ^ {i} in mathbb {R} ^ {3}}$
Napište hlavu
${ displaystyle mathbf {k} _ {t} ^ {w}}$	Klíč pro zápis
${ displaystyle beta _ {t} ^ {w} = { hat { beta}} _ {t} ^ {w}}$	Napište sílu
${ displaystyle mathbf {e} _ {t} = sigma ( mathbf { hat {e}} _ {t})}$	Vymazat vektor
${ displaystyle mathbf {v} _ {t}}$	Napište vektor
${ displaystyle g_ {t} ^ {a} = sigma ({ hat {g}} _ {t} ^ {a})}$	Alokační brána
${ displaystyle g_ {t} ^ {w} = sigma ({ hat {g}} _ {t} ^ {w})}$	Napište bránu
Paměť
${ displaystyle M_ {t} = M_ {t-1} circ (E- mathbf {w} _ {t} ^ {w} mathbf {e} _ {t} ^ { intercal}) + mathbf {w} _ {t} ^ {w} mathbf {v} _ {t} ^ { intercal}}$	Paměťová matice, Matice jedniček ${ displaystyle E in mathbb {R} ^ {N krát W}}$
${ displaystyle mathbf {u} _ {t} = ( mathbf {u} _ {t-1} + mathbf {w} _ {t-1} ^ {w} - mathbf {u} _ {t -1} circ mathbf {w} _ {t-1} ^ {w}) circ { boldsymbol { psi}} _ {t}}$	Vektor využití
${ displaystyle mathbf {p} _ {t} = vlevo (1- součet _ {i} mathbf {w} _ {t} ^ {w} [i] doprava) mathbf {p} _ { t-1} + mathbf {w} _ {t} ^ {w}}$	Prioritní vážení, ${ displaystyle mathbf {p} _ {0} = mathbf {0}}$
${ displaystyle L_ {t} = ( mathbf {1} - mathbf {I}) left [(1- mathbf {w} _ {t} ^ {w} [i] - mathbf {w} _ {t} ^ {j}) L_ {t-1} [i, j] + mathbf {w} _ {t} ^ {w} [i] mathbf {p} _ {t-1} ^ {j }že jo]}$	Matice dočasných odkazů, ${ displaystyle L_ {0} = mathbf {0}}$
${ displaystyle mathbf {w} _ {t} ^ {w} = g_ {t} ^ {w} [g_ {t} ^ {a} mathbf {a} _ {t} + (1-g_ {t } ^ {a}) mathbf {c} _ {t} ^ {w}]}$	Napište vážení
${ displaystyle mathbf {w} _ {t} ^ {r, i} = { boldsymbol { pi}} _ {t} ^ {i} [1] mathbf {b} _ {t} ^ {i } + { boldsymbol { pi}} _ {t} ^ {i} [2] c_ {t} ^ {r, i} + { boldsymbol { pi}} _ {t} ^ {i} [3 ] f_ {t} ^ {i}}$	Přečtěte si vážení
${ displaystyle mathbf {r} _ {t} ^ {i} = M_ {t} ^ { intercal} mathbf {w} _ {t} ^ {r, i}}$	Číst vektory
${ displaystyle { mathcal {C}} (M, mathbf {k}, beta) [i] = { frac { exp {{ mathcal {D}} ( mathbf {k}, M [ i, cdot]) beta }} { sum _ {j} exp {{ mathcal {D}} ( mathbf {k}, M [j, cdot]) beta }}} }$	Adresování podle obsahu, Vyhledávací klíč ${ displaystyle mathbf {k}}$, síla klíče ${ displaystyle beta}$
${ displaystyle phi _ {t}}$	Indexy ${ displaystyle mathbf {u} _ {t}}$, řazeny vzestupně podle použití
${ displaystyle mathbf {a} _ {t} [ phi _ {t} [j]] = (1- mathbf {u} _ {t} [ phi _ {t} [j]]) prod _ {i = 1} ^ {j-1} mathbf {u} _ {t} [ phi _ {t} [i]]}$	Alokační vážení
${ displaystyle mathbf {c} _ {t} ^ {w} = { mathcal {C}} (M_ {t-1}, mathbf {k} _ {t} ^ {w}, beta _ { t} ^ {w})}$	Napište váhu obsahu
${ displaystyle mathbf {c} _ {t} ^ {r, i} = { mathcal {C}} (M_ {t-1}, mathbf {k} _ {t} ^ {r, i}, beta _ {t} ^ {r, i})}$	Přečtěte si vážení obsahu
${ displaystyle mathbf {f} _ {t} ^ {i} = L_ {t} mathbf {w} _ {t-1} ^ {r, i}}$	Dopředné vážení
${ displaystyle mathbf {b} _ {t} ^ {i} = L_ {t} ^ { intercal} mathbf {w} _ {t-1} ^ {r, i}}$	Zpětné vážení
${ displaystyle { boldsymbol { psi}} _ {t} = prod _ {i = 1} ^ {R} left ( mathbf {1} -f_ {t} ^ {i} mathbf {w} _ {t-1} ^ {r, i} vpravo)}$	Vektor uchovávání paměti
Definice
${ displaystyle mathbf {W}, mathbf {b}}$	Váhová matice, zkreslení vektoru
${ displaystyle mathbf {0}, mathbf {1}, mathbf {I}}$	Matice nul, matice jedniček, matice identity
${ displaystyle circ}$	Elementární násobení
${ displaystyle { mathcal {D}} ( mathbf {u}, mathbf {v}) = { frac { mathbf {u} cdot mathbf {v}} { | mathbf {u} | | mathbf {v} |}}}$	Kosinová podobnost
${ displaystyle sigma (x) = 1 / (1 + e ^ {- x})}$	Sigmoidní funkce
${ displaystyle { text {oneplus}} (x) = 1 + log (1 + e ^ {x})}$	Funkce Oneplus
${ displaystyle { text {softmax}} ( mathbf {x}) _ {j} = { frac {e ^ {x_ {j}}} { sum _ {k = 1} ^ {K} e ^ {x_ {k}}}}}$ pro j = 1, …, K..	Funkce Softmax

Rozšíření

Vylepšení zahrnují adresování řídké paměti, což snižuje časovou a prostorovou složitost tisíckrát. Toho lze dosáhnout použitím algoritmu přibližného nejbližšího souseda, například Hašování citlivé na lokalitu nebo náhodně k-d strom jako Rychlá knihovna pro přibližné nejbližší sousedy z UBC.^[9] Přidání adaptivního výpočetního času (ACT) odděluje výpočetní čas od datového času, což využívá skutečnosti, že délka problému a obtížnost problému nejsou vždy stejné.^[10] Cvičení využívající syntetické přechody funguje podstatně lépe než Zpětná propagace v čase (BPTT).^[11] Robustnost lze zlepšit použitím normalizace vrstev a vynechání vynechání jako regularizace.^[12]

Reference

externí odkazy

• Bit-by-bit průvodce rovnicemi, kterými se řídí diferencovatelné neurální počítače
• Diferencovatelná neurální síť DeepMind myslí hluboce