Publisert Legg igjen en kommentar

Jojonki / Peker-Nettverk

Peker Nettverkoriol Vinyals, Meire Fortunato, Navdeep Jaitly.
https://arxiv.org/abs/1506.03134

Pekernettverk Er en ny nevralarkitektur for å lære den betingede sannsynligheten for en utgangssekvens med elementer som er diskrete tokens som svarer til posisjoner i en inngangssekvens.

i denne repoen legger jeg to eksempler På Pekernettmodeller.

Sekvensmodellen

i sekvensmodellen er lengden på utgangen den samme som lengden på inngangen. Jeg legger en leketøysoppgave med sorteringsoppgave. Utgangen er de sorterte indeksene til inngangen. Se følgende eksempel.

// An example// Input : // Output: $ python sequence_train.pyepoch: 0, Loss: 0.99817Acc: 0.57% (51/9000)epoch: 2, Loss: 0.00077Acc: 100.00% (9000/9000)epoch: 4, Loss: 0.00032Acc: 99.99% (8999/9000)----Test result---Acc: 100.00% (1000/1000)

Grensemodellen

i grensemodellen er utgangen en tuple som (start_index, end_index). Jeg tok opp følgende grense leketøy oppgave. Se dette nettstedet.

La oss prøve ut noen kode på et leketøysproblem. Pekernettverk er virkelig mest relevante for recurrency-sensitive datasekvenser, så vi lager en. Anta at vi antar at våre inngangsdata er en sekvens av heltall mellom 0 og 10 (med mulige duplikater) av ukjent lengde. Hver sekvens begynner alltid med lave heltall (tilfeldige verdier mellom 1 og 5), har et løp av høye heltall (tilfeldige verdier mellom 6 og 10), og blir deretter lavt igjen for å fullføre (1 til 5).For eksempel kan en sekvens være «4,1,2,3,1,1,6,9,10,8,6,3,1,1», med løp av høye heltall i fet skrift, omgitt av løp av lave heltall. Vi ønsker å trene et nettverk som kan peke på disse to endringspunktene-begynnelsen og slutten av løp av høyder i midten, uavhengig av sekvenslengden.

// An example// Input : // Output: $ python boundary_train.pyepoch: 0, Loss: 0.28288accAcc: 98.79% (8891/9000)epoch: 2, Loss: 0.00291accAcc: 99.96% (8996/9000)epoch: 4, Loss: 0.00091accAcc: 100.00% (9000/9000)----Test result---Acc: 100.00% (1000/1000)

Legg igjen en kommentar

Din e-postadresse vil ikke bli publisert.