Optimize TensorFlow Models For Deployment with TensorRT

4.6
estrellas

56 calificaciones

ofrecido por

3362 ya inscrito

En este Proyecto guiado gratuito, tú:

Optimize Tensorflow models using TensorRT (TF-TRT)

Use TF-TRT to optimize several deep learning models at FP32, FP16, and INT8 precision

Observe how tuning TF-TRT parameters affects performance and inference throughput

Demuestra esta experiencia práctica en una entrevista

1.5 hours
Intermedio
No se necesita descarga
Video de pantalla dividida
Inglés (English)
Solo escritorio

This is a hands-on, guided project on optimizing your TensorFlow models for inference with NVIDIA's TensorRT. By the end of this 1.5 hour long project, you will be able to optimize Tensorflow models using the TensorFlow integration of NVIDIA's TensorRT (TF-TRT), use TF-TRT to optimize several deep learning models at FP32, FP16, and INT8 precision, and observe how tuning TF-TRT parameters affects performance and inference throughput. Prerequisites: In order to successfully complete this project, you should be competent in Python programming, understand deep learning and what inference is, and have experience building deep learning models in TensorFlow and its Keras API. Note: This course works best for learners who are based in the North America region. We’re currently working on providing the same experience in other regions.

Requerimientos

It is assumed that are competent in Python programming and have prior experience with building deep learning models with TensorFlow and its Keras API

Habilidades que desarrollarás

  • Deep Learning

  • NVIDIA TensorRT (TF-TRT)

  • Python Programming

  • Tensorflow

  • keras

Aprende paso a paso

En un video que se reproduce en una pantalla dividida con tu área de trabajo, tu instructor te guiará en cada paso:

  1. Introduction and Project Overview

  2. Setup your TensorFlow and TensorRT Runtime

  3. Load the Data and Pre-trained InceptionV3 Model

  4. Create batched Input

  5. Load the TensorFlow SavedModel

  6. Get Baseline for Prediction Throughput and Accuracy

  7. Convert a TensorFlow saved model into a TF-TRT Float32 Graph

  8. Benchmark TF-TRT Float32

  9. Convert to TF-TRT Float16 and Benchmark

  10. Converting to TF-TRT INT8

Cómo funcionan los proyectos guiados

Tu espacio de trabajo es un escritorio virtual directamente en tu navegador, no requiere descarga.

En un video de pantalla dividida, tu instructor te guía paso a paso

Instructor

Reseñas

Principales reseñas sobre OPTIMIZE TENSORFLOW MODELS FOR DEPLOYMENT WITH TENSORRT

Ver todas las reseñas

Preguntas Frecuentes

Dado que tu espacio de trabajo contiene un escritorio en la nube del tamaño de una computadora portátil o computadora de escritorio, los proyectos guiados no están disponibles en tu dispositivo móvil.

Los instructores de proyectos guiados son expertos en la materia que tienen experiencia en habilidades, herramientas o dominios de su proyecto y les apasiona compartir sus conocimientos para impactar a millones de estudiantes en todo el mundo.

Puedes descargar y conservar cualquiera de tus archivos creados del proyecto guiado. Para hacerlo, puedes usar la función 'Explorador de archivos' mientras accedes a tu escritorio en la nube.

En la parte superior de la página, puedes presionar en el nivel de experiencia de este proyecto guiado para ver los requisitos de conocimientos previos. En cada nivel del proyecto guiado, tu instructor te orientará paso a paso.

Sí, todo lo que necesitas para completar tu proyecto guiado estará disponible en un escritorio en la nube que estará disponible en tu navegador.

Aprenderás completando tareas en un entorno de pantalla dividida directamente en tu navegador. En el lado izquierdo de la pantalla, completarás la tarea en tu espacio de trabajo. En el lado derecho de la pantalla, verás a un instructor guiarte a través del proyecto, paso a paso.