Publikováno Napsat komentář

jojonki / Pointer-Networks

Pointer NetworksOriol Vinyals, Meire Fortunato, Navdeep Jaitly.
https://arxiv.org/abs/1506.03134

Pointer Networks je nová neuronová architektura, která se učí podmíněné pravděpodobnosti výstupní sekvence s prvky, které jsou diskrétními tokeny odpovídajícími pozicím ve vstupní sekvenci.

v tomto repo jsem dal dva příklady modelů Pointer Networks.

sekvenční Model

v sekvenčním modelu je délka výstupu stejná jako délka vstupu. Dal jsem hračku úkol třídění úkol. Výstupem jsou tříděné indexy vstupu. Viz následující příklad.

// An example// Input : // Output: $ python sequence_train.pyepoch: 0, Loss: 0.99817Acc: 0.57% (51/9000)epoch: 2, Loss: 0.00077Acc: 100.00% (9000/9000)epoch: 4, Loss: 0.00032Acc: 99.99% (8999/9000)----Test result---Acc: 100.00% (1000/1000)

hraniční Model

v hraničním modelu je výstupem n-tice jako (start_index, end_index). Vzal jsem si následující úkol hraniční hračky. Podívejte se na tento web.

pojďme vyzkoušet nějaký kód na problém s hračkou. Sítě ukazatelů jsou opravdu nejdůležitější pro datové sekvence citlivé na rekurrenci, takže je vytvoříme. Předpokládejme, že naše vstupní data jsou posloupností celých čísel mezi 0 a 10 (s možnými duplikáty) neznámé délky. Každá sekvence vždy začíná nízkými celými čísly (náhodné hodnoty mezi 1 až 5), má běh vysokých celých čísel (náhodné hodnoty mezi 6 až 10), pak se opět změní na nízkou (1 až 5).Například sekvence může být „4,1,2,3,1,1,6,9,10,8,6,3,1,1“, přičemž běh vysokých celých čísel je tučně obklopen běhy nízkých celých čísel. Chceme trénovat síť, která může ukazovat na tyto dva body změny-začátek a konec běhu výšek uprostřed, bez ohledu na délku sekvence.

// An example// Input : // Output: $ python boundary_train.pyepoch: 0, Loss: 0.28288accAcc: 98.79% (8891/9000)epoch: 2, Loss: 0.00291accAcc: 99.96% (8996/9000)epoch: 4, Loss: 0.00091accAcc: 100.00% (9000/9000)----Test result---Acc: 100.00% (1000/1000)

Napsat komentář

Vaše e-mailová adresa nebude zveřejněna.