Posted on Hozzászólás most!

jojonki / Pointer-Networks

Pointer NetworksOriol Vinyals, Meire Fortunato, Navdeep Jaitly.
https://arxiv.org/abs/1506.03134

a Pointer Networks egy új neurális architektúra, amely megtanulja a kimeneti szekvencia feltételes valószínűségét olyan elemekkel, amelyek diszkrét tokenek, amelyek megfelelnek a bemeneti szekvencia pozícióinak.

ebben a repóban két példát tettem a Pointer Networks modellekre.

a szekvencia modell

a szekvencia modellben a kimenet hossza megegyezik a bemenet hosszával. Tettem egy játék feladat válogatás feladat. A kimenet a bemenet rendezett indexei. Lásd a következő példát.

// An example// Input : // Output: $ python sequence_train.pyepoch: 0, Loss: 0.99817Acc: 0.57% (51/9000)epoch: 2, Loss: 0.00077Acc: 100.00% (9000/9000)epoch: 4, Loss: 0.00032Acc: 99.99% (8999/9000)----Test result---Acc: 100.00% (1000/1000)

a Határmodell

a határmodellben a kimenet olyan, mint a (start_index, end_index). A következő határjáték-feladatot vállaltam. Lásd ezt az oldalt.

próbáljunk ki néhány kódot egy játékproblémán. A mutatóhálózatok valóban a legrelevánsabbak a rekurrencia-érzékeny adatsorozatokhoz, ezért létrehozunk egyet. Tegyük fel, hogy a bemeneti adataink 0 és 10 közötti egész számok sorozata (lehetséges duplikációkkal) ismeretlen hosszúságú. Minden szekvencia mindig alacsony egész számokkal kezdődik (véletlenszerű értékek 1-5 között), magas egész számok futnak (véletlenszerű értékek 6-10 között), majd ismét alacsonyra fordul a befejezéshez (1-5).Például egy sorozat lehet “4,1,2,3,1,1,6,9,10,8,6,3,1,1”, a magas egész számok futása félkövérrel, alacsony egész számok futásával körülvéve. Olyan hálózatot akarunk kiképezni, amely erre a két változási pontra mutat — a csúcsok futásának elejére és végére a közepén, függetlenül a sorozat hosszától.

// An example// Input : // Output: $ python boundary_train.pyepoch: 0, Loss: 0.28288accAcc: 98.79% (8891/9000)epoch: 2, Loss: 0.00291accAcc: 99.96% (8996/9000)epoch: 4, Loss: 0.00091accAcc: 100.00% (9000/9000)----Test result---Acc: 100.00% (1000/1000)

Vélemény, hozzászólás?

Az e-mail-címet nem tesszük közzé.