Antes de recordar su expresión, identifica para qué sirve la función de pérdida, la función de activación o la regla de actualización. Recordar una fórmula no demuestra que un modelo sea adecuado para un conjunto de datos.
Para qué sirve
Leer e implementar modelos de aprendizaje automático sin tener que consultar tantas fórmulas.
Antes de empezar
Prueba los ejemplos para ver qué practicarás. Revisa el formato de respuesta y las condiciones indicadas.
Para J(θ) = θ² en θ = 3, el gradiente es 6. Con tamaño de paso η = 0,1:
θ siguiente = 3 − 0,1 × 6 = 2,4.
Usa θ siguiente = θ − η∇J(θ), donde J es una función de pérdida derivable, ∇J es su gradiente y η > 0 es el tamaño del paso. En una dimensión, una derivada positiva indica que debes disminuir θ y una negativa indica que debes aumentarlo. Un paso suficientemente pequeño en esa dirección reduce la pérdida. Una derivada cero por sí sola no indica una dirección de descenso. Un paso grande puede ir demasiado lejos.
Suma las entradas ponderadas y el término independiente
Sean x = (2, 3), w = (4, −1) y b = 5.
ŷ = 4 × 2 + (−1) × 3 + 5 = 10.
El modelo es ŷ = w · x + b. Empareja cada entrada con su peso, suma los productos y añade el término independiente b una sola vez. Los vectores w y x deben tener la misma cantidad de elementos.
Promedia los errores al cuadrado
Los valores observados son 2 y 5. Las predicciones son 3 y 3.
MSE = ((2 − 3)² + (5 − 3)²)/2 = (1 + 4)/2 = 2,5.
Usa MSE = Σ(yᵢ − ŷᵢ)²/n para n > 0 pares. Aquí yᵢ es un valor observado, ŷᵢ es su predicción y Σ indica que sumes los n términos. Elevar al cuadrado evita que los errores opuestos se cancelen.
Convierte una puntuación en un valor entre cero y uno
En z = 0, σ(z) = 1/(1 + e⁰) = 1/2.
La fórmula sigmoide es σ(z) = 1/(1 + exp(−z)), donde exp(u) significa e elevado a u. Para una puntuación real finita z, el resultado está estrictamente entre 0 y 1. Las puntuaciones positivas dan valores mayores que 1/2 y las negativas dan valores menores que 1/2. Conserva el signo menos en el exponente.
Convierte varias puntuaciones en proporciones
Supón que las exponenciales de dos puntuaciones son 2 y 3. Sus valores softmax son:
2/(2 + 3) = 2/5
3/(2 + 3) = 3/5
Para K puntuaciones, softmax(z)ᵢ = exp(zᵢ)/Σⱼ₌₁ᴷ exp(zⱼ). Aquí exp(u) significa e elevado a u. Divide la exponencial de la puntuación elegida entre la suma de las exponenciales de todas las puntuaciones. Los resultados son positivos y suman 1.
Probar algunos ejemplos
Práctica real. Progreso real.
Ejemplo 1 de 4
Completa la actualización de parámetros del descenso por gradiente.
J es diferenciable. θ es el vector de parámetros y η > 0 es el tamaño de paso.
siguiente valor de θ = □
Elige la expresión exacta.
Grados escolares de EE. UU. y cursos que incluyen este tema