Comment former les LSTM aux données de séries chronologiques avec trop de pas de temps?

Question

Je suis formateur de LSTM/GRUs sur des données de séries temporelles.

La forme de mes données d'entrée est (5000,12), c'est-à-dire 5000 pas de temps et à chaque pas de temps a 12 dimensions. Lorsque j'essaie d'exécuter LSTM sur ces données en prenant chaque pas de temps (dim: 12) à la fois; Cela signifie que je suis en train de dérouler 5000 fois LSTM et que je suis incapable de former le réseau sur mon ordinateur portable car il dépasse 16 Go de RAM.

Une solution que je peux penser est ce que je peux combiner, disons, 10 étapes temps données et alimenter les données (dim: 10 * 12) au réseau LSTM (potentiellement 500 déroulant fois) ...

Can cela me donne de bons résultats?

Answer 1

Il existe plusieurs façons de résoudre ce problème en fonction de l'ensemble de données que vous avez, regardez ceci: http://machinelearningmastery.com/handle-long-sequences-long-short-term-memory-recurrent-neural-networks/