Redes Neuronales, Pasos principales de Backpropagation - Revision history

Felipe at 19:39, 21 March 2018

2018-03-21T19:39:33Z

← Older revision		Revision as of 19:39, 21 March 2018
Line 11:		Line 11:
	<li>Funciones de activación en cada capa.</li>		<li>Funciones de activación en cada capa.</li>
	<li>Lambda (usado para regularización)</li>		<li>Lambda (usado para regularización)</li>
			<li>Multiplicador de inicialización de peso (para evitar gradientes que desaparecen o explotan)</li>
	</ul>		</ul>
	</li>		</li>

Felipe at 19:38, 21 March 2018

2018-03-21T19:38:17Z

← Older revision		Revision as of 19:38, 21 March 2018
Line 10:		Line 10:
	<li>Topología: numero de capas y cantidad de nodos en cada capa.</li>		<li>Topología: numero de capas y cantidad de nodos en cada capa.</li>
	<li>Funciones de activación en cada capa.</li>		<li>Funciones de activación en cada capa.</li>
			<li>Lambda (usado para regularización)</li>
	</ul>		</ul>
	</li>		</li>

Felipe at 20:52, 12 March 2018

2018-03-12T20:52:03Z

← Older revision		Revision as of 20:52, 12 March 2018
Line 8:		Line 8:
	<li>Alpha: valor numérico que se usa para ''gradient descent'' para avanzar.</li>		<li>Alpha: valor numérico que se usa para ''gradient descent'' para avanzar.</li>
	<li>Cantidad de iteraciones</li>		<li>Cantidad de iteraciones</li>
			<li>Topología: numero de capas y cantidad de nodos en cada capa.</li>
			<li>Funciones de activación en cada capa.</li>
	</ul>		</ul>
	</li>		</li>

Felipe at 20:47, 12 March 2018

2018-03-12T20:47:44Z

← Older revision		Revision as of 20:47, 12 March 2018
Line 1:		Line 1:
	<div style="color: crimson">WARNING: Esta página está en desarrollo, puede contener '''errores'''.</div>		<div style="color: crimson">WARNING: Esta página está en desarrollo, puede contener '''errores'''.</div>

			[[File:Final outline.png\|500px\|thumb\|none\|Resumen Visual de Backpropagation<br>Obtenido de [https://www.coursera.org/specializations/deep-learning#courses Deeplearning.ai en Coursera, Course 1]]]

	<ol>		<ol>

Felipe at 20:39, 12 March 2018

2018-03-12T20:39:26Z

← Older revision		Revision as of 20:39, 12 March 2018
Line 1:		Line 1:
			<div style="color: crimson">WARNING: Esta página está en desarrollo, puede contener '''errores'''.</div>

	<ol>		<ol>
			<li>Se inicializan hyperparametros<br>
			<ul style="color: gray">
			<li>Alpha: valor numérico que se usa para ''gradient descent'' para avanzar.</li>
			<li>Cantidad de iteraciones</li>
			</ul>
			</li>
	<li>Inicializar Parametros<br>		<li>Inicializar Parametros<br>
	<span style="color: gray">Se les da un valor aleatorio a los parámetros para que no sean todos iguales a 0.</span>		<span style="color: gray">Se les da un valor aleatorio a los parámetros para que no sean todos iguales a 0.</span>
	</li>		</li>
	<li>		<li>
	Se realiza una cantidad de iteraciones del siguiente proceso.<br>		Se realiza una cantidad de iteraciones del siguiente proceso<br>
	<span style="color: gray">Este proceso acerca a lo más posible a 0 el costo de la suma de las predicciones. Con cada iteración se acerca más aunque puede estancarse cercano a algun valor. No necesariamente es un numero cercano a 0 (dependiendo del modelo y de la información puede ser un numero muy grande).</span>		<span style="color: gray">
			Este proceso acerca a lo más posible a 0 el costo de la suma de las predicciones. Con cada iteración se acerca más aunque puede estancarse cercano a algun valor. No necesariamente es un numero cercano a 0 (dependiendo del modelo y de la información puede ser un numero muy grande).</span>
	<ol>		<ol>
	<li>Usando los parámetros se hace un ''forward propagation'' (propagación hacia adelante) para cada ejemplo de entrenamiento de la información.</li>		<li>Usando los parámetros se hace un ''forward propagation'' (propagación hacia adelante) para cada ejemplo de entrenamiento de la información.</li>
	<li>Se computa el costo usando el ''forward propagation''.<~~math~~> ~~f(x)~~ = ~~x^2\,~~</~~math~~></li>		<li>Se computa el costo usando el ''forward propagation''. (INSERTAR FORMULA DE COSTO)</li>
			<li>Se deriva el costo con relación a cada parametro.</li>
			<li>Se realiza gradient descent<br>
			<span style="color: gray">Para cada parametro: al valor más reciente se le resta el valor de su derivada y se actualiza el parametro con este nuevo valor.</span>
			</li>
	</ol>		</ol>
	</li>		</li>
			<li>El ultimo valor de los parámetros se usa para hacer nuevas predicciones.</li>
	</ol>		</ol>

Felipe: Created page with "

Inicializar Parametros
Se les da un valor aleatorio a los parámetros para que no sean todos iguales a 0.

Se realiza u..."

2018-03-12T20:06:34Z

Created page with "<ol> <li>Inicializar Parametros Se les da un valor aleatorio a los parámetros para que no sean todos iguales a 0. </li> <li> Se realiza u..."

New page

<ol>
<li>Inicializar Parametros 
Se les da un valor aleatorio a los parámetros para que no sean todos iguales a 0.
</li>
<li>
Se realiza una cantidad de iteraciones del siguiente proceso. 
Este proceso acerca a lo más posible a 0 el costo de la suma de las predicciones. Con cada iteración se acerca más aunque puede estancarse cercano a algun valor. No necesariamente es un numero cercano a 0 (dependiendo del modelo y de la información puede ser un numero muy grande).
<ol>
<li>Usando los parámetros se hace un ''forward propagation'' (propagación hacia adelante) para cada ejemplo de entrenamiento de la información.</li>
<li>Se computa el costo usando el ''forward propagation''.<math> f(x) = x^2\,</math></li>
</ol>
</li>
</ol>