Datos secuenciales RNN

Representación de secuencias

Las diferentes categorías del modelado de secuencias

One-to-many

Many-to-one

Los datos secuenciales son aquellos que se presentan con un un orden no independiente .Una secuencia puede escribirse como (x(1), x(2),..., x(T)), donde el superíndice indica el orden de la instancia y el tamaño de la secuencia es T.

Info

Entendiendo la estructura y flujo de las RNN

Many-to-many

Many-to-many

Info

Una red recurrente

Una red estandar

Ambas de estas redes tienen solo una capa oculta. En esta representación, las unidades no se muestran, pero asumimos que la capa de entrada (x), la capa oculta (h), y la capa de salida (y) son vectores que contienen muchas unidades.

Estructura y flujo de las RNN

El flujo de información en pasos de tiempo adyacentes en la capa oculta permite que la red tenga memoria de eventos pasados. Este flujo de información suele representarse como un bucle, también conocido como una arista recurrente en la notación de grafos, que es cómo esta arquitectura general obtuvo su nombre.En la figura, la red de capa oculta única y la red de capas múltiples ilustran éstas dos arquiteturas y el significado de la arista recurrente.

¿Tienes una idea?

Usa este espacio para añadir una interactividad genial. Incluye texto, imágenes, vídeos, tablas, PDFs… ¡incluso preguntas interactivas! Tip premium: Obten información de cómo interacciona tu audiencia:

• Visita las preferencias de Analytics;
• Activa el seguimiento de usuarios;
• ¡Que fluya la comunicación!

Representación y series de tiempo

Los datos de entrada representados como (x(1), x(2), ..., x(T)). Los índices en superíndice indican el orden de las instancias, y la longitud de la secuencia es T. Considerando datos de series temporales, cada punto de muestra x(t) pertenece a un tiempo específico t. Otra notación válida y muy usual en diversas fuentes es aquella que utiliza subíndices, (x1, x2, ..., xT) cuya interpretación es equivalente a la aquí mostrada con superíndices. La figura muestra un ejemplo de datos de series temporales donde tanto los x como los y siguen naturalmente el orden según su eje temporal; por lo tanto, tanto los x como los y son secuencias Los modelos de redes neuronales estándar como los MPL (perceptrón de múltiples capas) y las CNN (redes neuronales convolucionales), no son capaces de manejar el orden de las muestras de entrada. Intuitivamente, se puede decir que tales modelos no tienen memoria de las muestras vistas anteriormente. Por ejemplo, las muestras se pasan a través de los pasos de alimentación hacia adelante y retropropagación, y los pesos se actualizan independientemente del orden en el que se procesa la muestra. En cambio, las RNNs están diseñadas para modelar secuencias y son capaces de recordar información pasada y procesar nuevos eventos en consecuencia.