Publicado em Deixe um comentário

jojonki / Pointer-Networks

Pointer NetworksOriol Vinyals, Meire Fortunato, Navdeep Jaitly.
https://arxiv.org/abs/1506.03134

Pointer Networks é uma nova arquitetura neural para aprender a probabilidade condicional de uma sequência de saída com elementos que são tokens discretos correspondentes a posições em uma sequência de entrada.

neste repo, coloquei dois exemplos de modelos de redes de ponteiro.

o modelo de sequência

no modelo de sequência, o comprimento da saída é o mesmo que o comprimento da entrada. Eu coloquei uma tarefa de brinquedo de tarefa de classificação. A saída é os índices classificados da entrada. Veja o exemplo a seguir.

// An example// Input : // Output: $ python sequence_train.pyepoch: 0, Loss: 0.99817Acc: 0.57% (51/9000)epoch: 2, Loss: 0.00077Acc: 100.00% (9000/9000)epoch: 4, Loss: 0.00032Acc: 99.99% (8999/9000)----Test result---Acc: 100.00% (1000/1000)

o modelo de limite

no modelo de limite, a saída é uma tupla como (start_index, end_index). Eu assumi a seguinte tarefa de brinquedo de limite. Veja este site.

vamos experimentar algum código sobre um problema de brinquedo. As redes de ponteiro são realmente mais relevantes para sequências de dados sensíveis a recurrency, então criaremos uma. Suponha que assumamos que nossos dados de entrada são uma sequência de inteiros entre 0 e 10 (com possíveis duplicatas) de comprimento desconhecido. Cada sequência sempre começa com inteiros baixos (valores aleatórios entre 1 a 5), tem uma execução de inteiros altos (valores aleatórios entre 6 a 10) e, em seguida, fica baixa novamente para terminar (1 a 5).Por exemplo, uma sequência pode ser “4,1,2,3,1,1,6,9,10,8,6,3,1,1”, com a execução de inteiros Altos em negrito, cercada por execuções de inteiros Baixos. Queremos treinar uma rede que possa apontar para esses dois pontos de mudança-o início e o fim da corrida de altos no meio, independentemente do comprimento da sequência.

// An example// Input : // Output: $ python boundary_train.pyepoch: 0, Loss: 0.28288accAcc: 98.79% (8891/9000)epoch: 2, Loss: 0.00291accAcc: 99.96% (8996/9000)epoch: 4, Loss: 0.00091accAcc: 100.00% (9000/9000)----Test result---Acc: 100.00% (1000/1000)

Deixe uma resposta

O seu endereço de email não será publicado.