Improving Deep Neural Networks: Hyperparameter Tuning, Regularization and Optimization

Este curso forma parte de Programa Especializado - Aprendizaje profundo

4.9
estrellas
57,297 calificaciones

96 %

Andrew Ng +2 instructores más
Instructores principales

ofrecido por

Programa Especializado - Aprendizaje profundodeeplearning.ai

Acerca de este Curso

This course will teach you the "magic" of getting deep learning to work well. Rather than the deep learning process being a black box, you will understand what drives performance, and be able to more systematically get good results. You will also learn TensorFlow. 
After 3 weeks, you will: 
- Understand industry best-practices for building deep learning applications. 
- Be able to effectively use the common neural network "tricks", including initialization, L2 and dropout regularization, Batch normalization, gradient checking, 
- Be able to implement and apply a variety of optimization algorithms, such as mini-batch gradient descent, Momentum, RMSprop and Adam, and check for their convergence. 
- Understand new best-practices for the deep learning era of how to set up train/dev/test sets and analyze bias/variance
- Be able to implement a neural network in TensorFlow. 

This is the second course of the Deep Learning Specialization.

Resultados profesionales del estudiante

30%

comenzó una nueva carrera después de completar estos cursos

29%

consiguió un beneficio tangible en su carrera profesional gracias a este curso

11%

consiguió un aumento de sueldo o ascenso

Certificado para compartir

Obtén un certificado al finalizar

100 % en línea

Comienza de inmediato y aprende a tu propio ritmo.

Curso 2 de 5 en

Programa Especializado - Aprendizaje profundo

Fechas límite flexibles

Restablece las fechas límite en función de tus horarios.

Nivel principiante

Aprox. 18 horas para completar

Inglés (English)

Subtítulos: Chino (tradicional), Árabe (Arabic), Francés (French), Portugués (europeo), Chino (simplificado), Italiano, Portugués (de Brasil), Vietnamita, Coreano, Alemán (German), Ruso (Russian), Turco (Turkish), Inglés (English), Español (Spanish)

Habilidades que obtendrás

HyperparameterTensorflowHyperparameter OptimizationDeep Learning

Resultados profesionales del estudiante

30%

comenzó una nueva carrera después de completar estos cursos

29%

consiguió un beneficio tangible en su carrera profesional gracias a este curso

11%

consiguió un aumento de sueldo o ascenso

Certificado para compartir

Obtén un certificado al finalizar

100 % en línea

Comienza de inmediato y aprende a tu propio ritmo.

Curso 2 de 5 en

Programa Especializado - Aprendizaje profundo

Fechas límite flexibles

Restablece las fechas límite en función de tus horarios.

Nivel principiante

Aprox. 18 horas para completar

Inglés (English)

Instructores

Calificación del instructor

4.92/5 (3,221 calificaciones)

ofrecido por

deeplearning.ai

DeepLearning.AI is an education technology company that develops a global community of AI talent.

Programa - Qué aprenderás en este curso

Calificación del contenido96%(58,130 calificaciones)

Semana

Semana 1

8 horas para completar

Practical aspects of Deep Learning

8 horas para completar

15 videos (Total 131 minutos), 3 lecturas, 4 cuestionarios

15 videos

Train / Dev / Test sets12m

Bias / Variance8m

Basic Recipe for Machine Learning6m

Regularization9m

Why regularization reduces overfitting?7m

Dropout Regularization9m

Understanding Dropout7m

Other regularization methods8m

Normalizing inputs5m

Vanishing / Exploding gradients6m

Weight Initialization for Deep Networks6m

Numerical approximation of gradients6m

Gradient checking6m

Gradient Checking Implementation Notes5m

Yoshua Bengio interview25m

3 lecturas

Clarification about Upcoming Regularization Video1m

Clarification about Upcoming Understanding dropout Video1m

Clarification about Upcoming Normalizing Inputs Video1m

1 ejercicio de práctica

Practical aspects of deep learning30m

Semana

Semana 2

5 horas para completar

Optimization algorithms

5 horas para completar

11 videos (Total 92 minutos), 2 lecturas, 2 cuestionarios

11 videos

Mini-batch gradient descent11m

Understanding mini-batch gradient descent11m

Exponentially weighted averages5m

Understanding exponentially weighted averages9m

Bias correction in exponentially weighted averages4m

Gradient descent with momentum9m

RMSprop7m

Adam optimization algorithm7m

Learning rate decay6m

The problem of local optima5m

Yuanqing Lin interview13m

2 lecturas

Clarification about Upcoming Adam Optimization Video1m

Clarification about Learning Rate Decay Video1m

1 ejercicio de práctica

Optimization algorithms30m

Semana

Semana 3

5 horas para completar

Hyperparameter tuning, Batch Normalization and Programming Frameworks

5 horas para completar

11 videos (Total 104 minutos), 2 lecturas, 2 cuestionarios

11 videos

Tuning process7m

Using an appropriate scale to pick hyperparameters8m

Hyperparameters tuning in practice: Pandas vs. Caviar6m

Normalizing activations in a network8m

Fitting Batch Norm into a neural network12m

Why does Batch Norm work?11m

Batch Norm at test time5m

Softmax Regression11m

Training a softmax classifier10m

Deep learning frameworks4m

TensorFlow16m

2 lecturas

Clarifications about Upcoming Softmax Video1m

Note about TensorFlow 1 and TensorFlow 210m

1 ejercicio de práctica

Hyperparameter tuning, Batch Normalization, Programming Frameworks30m

Reseñas

4.9

6579 reseña

5 stars
88.33%
4 stars
10.54%
3 stars
0.96%
2 stars
0.10%
1 star
0.04%

Principales reseñas sobre IMPROVING DEEP NEURAL NETWORKS: HYPERPARAMETER TUNING, REGULARIZATION AND OPTIMIZATION

por XG30 de oct. de 2017

Thank you Andrew!! I know start to use Tensorflow, however, this tool is not well for a research goal. Maybe, pytorch could be considered in the future!! And let us know how to use pytorch in Windows.

por A22 de oct. de 2017

Assignment in week 2 could not tell the difference between 'a-=b' and 'a=a-b' and marked the former as incorrect even though they are the same and gave the same output. Other than that, a great course

por NA13 de ene. de 2020

After completion of this course I know which values to look at if my ML model is not performing up to the task. It is a detailed but not too complicated course to understand the parameters used by ML.

por AM8 de oct. de 2019

I really enjoyed this course. Many details are given here that are crucial to gain experience and tips on things that looks easy at first sight but are important for a faster ML project implementation

Ver todas las reseñas

Acerca de Programa especializado: Aprendizaje profundo

The Deep Learning Specialization is our foundational program that will help you understand the capabilities, challenges, and consequences of deep learning and prepare you to participate in the development of leading-edge AI technology.

In this Specialization, you will build neural network architectures such as Convolutional Neural Networks, Recurrent Neural Networks, LSTMs, Transformers, and learn how to make them better with strategies such as Dropout, BatchNorm, Xavier/He initialization, and more. You will master these theoretical concepts and their industry applications using Python and TensorFlow. You will tackle real-world case studies such as autonomous driving, sign language reading, music generation, computer vision, speech recognition, and natural language processing. AI is transforming many industries. The Deep Learning Specialization provides a pathway for you to gain the knowledge and skills to apply machine learning to your work, level up your technical career, and take the definitive step in the world of AI. Along the way, you will get career advice from deep learning experts from industry and academia.

Preguntas Frecuentes

¿Cuándo podré acceder a las lecciones y tareas?
El acceso a las clases y las asignaciones depende del tipo de inscripción que tengas. Si tomas un curso en modo de oyente, verás la mayoría de los materiales del curso en forma gratuita. Para acceder a asignaciones calificadas y obtener un certificado, deberás comprar la experiencia de Certificado, ya sea durante o después de participar como oyente. Si no ves la opción de oyente:
es posible que el curso no ofrezca la opción de participar como oyente. En cambio, puedes intentar con una Prueba gratis o postularte para recibir ayuda económica.
Es posible que el curso ofrezca la opción 'Curso completo, sin certificado'. Esta opción te permite ver todos los materiales del curso, enviar las evaluaciones requeridas y obtener una calificación final. También significa que no podrás comprar una experiencia de Certificado.
¿Qué recibiré si me suscribo a este Programa especializado?
Cuando te inscribes en un curso, obtienes acceso a todos los cursos que forman parte del Programa especializado y te darán un Certificado cuando completes el trabajo. Se añadirá tu Certificado electrónico a la página Logros. Desde allí, puedes imprimir tu Certificado o añadirlo a tu perfil de LinkedIn. Si solo quieres leer y visualizar el contenido del curso, puedes auditar el curso sin costo.
What is the refund policy?
Sí, Coursera ofrece ayuda económica a los estudiantes que no pueden pagar la tarifa. Solicítala haciendo clic en el enlace de Ayuda económica que está debajo del botón “Inscribirse” a la izquierda. Se te pedirá que completes una solicitud. Recibirás una notificación en caso de que se apruebe. Deberás completar este paso para cada uno de los cursos que forman parte del Programa especializado, incluido el proyecto final. Obtén más información.
¿Recibiré crédito universitario por completar el Curso?
Este Curso no otorga crédito universitario, pero algunas universidades pueden aceptar los Certificados del curso para obtener crédito. Consulta con tu institución para obtener más información. Los Títulos en línea y los Certificados Mastertrack™ de Coursera brindan la oportunidad de obtener créditos universitarios.
Will I earn university credit for completing the Course?
This Course doesn't carry university credit, but some universities may choose to accept Course Certificates for credit. Check with your institution to learn more. Online Degrees and Mastertrack™ Certificates on Coursera provide the opportunity to earn university credit.

¿Tienes más preguntas? Visita el Centro de Ayuda al Alumno.

Improving Deep Neural Networks: Hyperparameter Tuning, Regularization and Optimization

Acerca de este Curso

Resultados profesionales del estudiante

30%

29%

11%

Habilidades que obtendrás

Resultados profesionales del estudiante

30%

29%

11%

Instructores

Andrew Ng
Instructor principal

Kian Katanforoosh
Instructor principal

Teaching Assistant - Younes Bensouda Mourri
Instructor principal

ofrecido por

deeplearning.ai

Programa - Qué aprenderás en este curso

Semana 1

Practical aspects of Deep Learning

Semana 2

Optimization algorithms

Semana 3

Hyperparameter tuning, Batch Normalization and Programming Frameworks

Reseñas

Principales reseñas sobre IMPROVING DEEP NEURAL NETWORKS: HYPERPARAMETER TUNING, REGULARIZATION AND OPTIMIZATION

Acerca de Programa especializado: Aprendizaje profundo

Preguntas Frecuentes

Principales cursos en línea

Principales especializaciones en línea

Certificados en linea

Programas de titulación en línea

Coursera

Comunidad

Más

Improving Deep Neural Networks: Hyperparameter Tuning, Regularization and Optimization

Acerca de este Curso

Resultados profesionales del estudiante

30%

29%

11%

Habilidades que obtendrás

Resultados profesionales del estudiante

30%

29%

11%

Instructores

Andrew NgInstructor principal

Kian KatanforooshInstructor principal

Teaching Assistant - Younes Bensouda MourriInstructor principal

ofrecido por

deeplearning.ai

Programa - Qué aprenderás en este curso

Semana 1

Practical aspects of Deep Learning

Semana 2

Optimization algorithms

Semana 3

Hyperparameter tuning, Batch Normalization and Programming Frameworks

Reseñas

Principales reseñas sobre IMPROVING DEEP NEURAL NETWORKS: HYPERPARAMETER TUNING, REGULARIZATION AND OPTIMIZATION

Acerca de Programa especializado: Aprendizaje profundo

Preguntas Frecuentes

Coursera Footer

Principales cursos en línea

Principales especializaciones en línea

Certificados en linea

Programas de titulación en línea

Coursera

Comunidad

Más

Andrew Ng
Instructor principal

Kian Katanforoosh
Instructor principal

Teaching Assistant - Younes Bensouda Mourri
Instructor principal