Visualización de activaciones y filtros en red convolucional es uno de los factores que forman parte del manejo de las redes neuronales avanzadas dentro del Deep Learning. Por esta razón, comprender cómo funciona es de suma importancia para el análisis del Big Data en el aprendizaje profundo.
Precisamente, como destacamos su desarrollo, en este post te presentamos qué es la visualización de activaciones y filtros en red convolucional.
Visualización de activaciones y filtros en red convolucional
Es probable que ya conozcas cómo funcionan las redes neuronales y que hayas entrenado varias redes neuronales convolucionales, por lo que ahora vamos a intentar entender un poco más en profundidad que ocurre dentro de una de ellas por medio de la visualización de activaciones y filtros en red convolucional.
La mayoría de la gente considera que las redes neuronales son una caja negra por dos motivos:
- No entienden el back-propagation.
- Nunca han visualizado el estado de sus redes neuronales.
Nosotros ya sabemos como funciona el back-propagation, pero todavía no hemos visualizado nada. ¡Así que vamos a ello!
Primero, ¿qué es lo que podemos visualizar?
- Los mapas de las activaciones de las capas.
- Los filtros de nuestras capas convolucionales.
- Qué imágenes dan la máxima activación para cada clase de nuestro dataset.
Visualización de las activaciones de las capas
Esto es de lo mejor que podemos hacer para entender cómo funciona nuestra red por medio de la visualización de activaciones y filtros en red convolucional.
Las activaciones de las capas son simplemente los resultados que obtenemos a la salida de cada capa durante la forward pass. Normalmente, cuando visualizamos las activaciones de una red con activaciones de tipo ReLU, necesitamos unas cuantas épocas antes de empezar a ver algo útil.
Una cosa para la que son muy útiles es para ver si algún filtro está completamente negro para diferentes entradas, es decir, todos sus elementos son siempre 0. Esto significa que el filtro está muerto, lo que normalmente pasa cuando entrenamos con learning rates altos.
Aquí puedes ver unos ejemplos:
Estos ejemplos se corresponden con las activaciones típicas de la primera capa convolucional (izquierda) y de la quinta (derecha) de la red AlexNet entrenada cuando ve una imagen de un gato.
Visualización de los filtros de las capas convolucionales
Otra cosa que podemos hacer con la visualización de activaciones y filtros en red convolucional para ver cómo funciona nuestra CNN internamente son los filtros que ha aprendido. Normalmente, estos filtros son más interpretables en las primeras capas de la red que en las últimas. Sobre todo, es útil visualizar los filtros de la primera, que está mirando directamente a las imágenes de entrada.
A continuación puedes observar los filtros de la primera y la segunda capa convolucional de la AlexNet.
Ahora, quizás te estés preguntando de qué sirve visualizar estos filtros. Normalmente, una red bien entrenada tendrá filtros perfectamente definidos, al menos en las primeras capas, y sin prácticamente ruido. Si te fijas, es el caso de la imagen de ejemplo.
Si, por el contrario, tuviésemos filtros con mucho ruido, podría deberse a que hace falta entrenar más la red o a que tenemos overfitting y necesitamos algún método de regularización.
Los filtros de la segunda capa son menos indicativos, pero aun así se puede intuir que no tienen ruido. Sin embargo, esto lo aprenderás en la práctica de la visualización de activaciones y filtros en red convolucional.
En este post, te hemos expuesto lo más elemental que debes conocer sobre la visualización de activaciones y filtros en red convolucional, de manera que ahora puedas contemplar estos factores dentro de tu procesamiento de los macrodatos por medio del Deep Learning. No obstante, ¡te animamos a seguir instruyéndote al respecto!
Por este motivo, desde KeepCodging te presentamos el Big Data, Inteligencia Artificial & Machine Learning Full Stack Bootcamp, por medio del que podrás aprender mucho más sobre este servicio y, en general, sobre los sistemas y herramientas más importantes en el mundo del Big Data. De esta forma, de la mano de profesionales y en menos de nueve meses, te convertirás en todo un experto y podrás conocer e identificar las alternativas de gestión de datos más apropiadas para los estudios de los macrodatos. ¡No esperes más para empezar e inscríbete ahora!
