GPU Coder

 

GPU Coder

Genere código CUDA para GPU NVIDIA

Solicite una versión de prueba
Solicite presupuesto

GPU Coder™ genera código CUDA® optimizado a partir de código de MATLAB® y modelos de Simulink®. El código generado incluye kernels CUDA para las partes paralelizables de sus algoritmos de deep learning, visión embebida y procesamiento de señales. Para lograr un alto rendimiento, el código generado realiza llamadas a librerías NVIDIA® CUDA optimizadas, tales como TensorRT™, cuDNN, cuFFT, cuSolver y cuBLAS. Puede integrar el código en su proyecto como código fuente, librerías estáticas o librerías dinámicas, y lo puede compilar para equipos de escritorio, servidores y GPU embebidas en NVIDIA Jetson™, NVIDIA DRIVE™ y otras plataformas. El código CUDA generado se puede usar en MATLAB para acelerar redes de deep learning y otras partes de su algoritmo con una alta carga computacional. GPU Coder permite incorporar código CUDA escrito a mano en sus algoritmos y en el código generado.

Cuando se utiliza con Embedded Coder®, GPU Coder permite verificar el comportamiento numérico del código generado mediante pruebas software-in-the-loop (SIL) y processor-in-the-loop (PIL).

Más información:
¿Qué es GPU Coder?

White paper gratuito

Generación de código CUDA desde MATLAB: aceleración de algoritmos de visión integrada y Deep Learning en GPU

Lea el white paper

Generación de código CUDA rápido y flexible

Genere código CUDA optimizado. Despliegue código libre de royalties.

Despliegue de algoritmos libres de royalties

Compile y ejecute el código generado en GPU NVIDIA de uso habitual, desde sistemas de escritorio a centros de datos o hardware embebido. El código generado está libre de royalties, de modo que puede desplegarlo en aplicaciones comerciales para sus clientes sin coste.

Generación de código CUDA para un algoritmo de corrección de empañamiento (2:22)
Generación de código de GPU: el conjunto de Mandelbrot
Generación de código con la app GPU Coder.

Explore la galería (2 imágenes)

Casos de éxito de GPU Coder

Descubra cómo ingenieros y científicos de diversos sectores utilizan GPU Coder para generar código CUDA para sus aplicaciones.

Drass despliega un sistema de seguimiento óptico marítimo y detección de obstáculos con la red YOLO v2 en la aplicación Visual Studio que se ejecuta en GPU NVIDIA
Airbus prototipa un demostrador de inspección de aeronaves que se ejecuta en NVIDIA Jetson TX2 para automatizar la detección de defectos
M&R Technology acelera los algoritmos de trazado de rayos médicos en equipos de escritorio con GPU Coder
Airbus prototipa la detección automática de defectos en NVIDIA Jetson TX2.

Airbus prototipa la detección automática de defectos en NVIDIA Jetson TX2.

Generación de código desde funciones y toolboxes soportadas

GPU Coder genera código a partir de una extensa gama de funcionalidades del lenguaje MATLAB que los ingenieros de diseño utilizan para desarrollar algoritmos como componentes de sistemas más amplios. Esto incluye cientos de operadores y funciones de MATLAB y de las toolboxes complementarias.

Toolboxes y funciones soportadas
Soporte de funcionalidades del lenguaje MATLAB
Soporte de toolboxes y lenguaje MATLAB para la generación de código.

Soporte de toolboxes y lenguaje MATLAB para la generación de código.

Incorporación de código heredado

Utilice las prestaciones de integración de código heredado para incorporar código CUDA de confianza o altamente optimizado en sus algoritmos de MATLAB para realizar pruebas en MATLAB. A continuación, realice una llamada al mismo código CUDA desde el código generado.

Integración de código heredado
Incorporación de código CUDA existente en el código generado.

Incorporación de código CUDA existente en el código generado.

Generación de código CUDA a partir de modelos de Simulink

Cree modelos en Simulink y genere código CUDA optimizado.

Ejecución de simulaciones y generación de código optimizado para GPU NVIDIA

Cuando se utiliza con Simulink Coder™, GPU Coder acelera partes de bloques MATLAB Function con una alta carga computacional en sus modelos de Simulink en GPU NVIDIA. A continuación, puede generar código CUDA optimizado desde el modelo de Simulink y desplegarlo en su plataforma GPU NVIDIA.

Aceleración de simulaciones con GPU Coder
Generación de código a partir de modelos de Simulink con GPU Coder
Despliegue en placas NVIDIA embebidas
Modelo de Simulink de un detector de bordes Sobel que se ejecuta en una GPU.

Modelo de Simulink de un detector de bordes Sobel que se ejecuta en una GPU.

Despliegue de algoritmos de deep learning de extremo a extremo

Utilice diversas redes de deep learning entrenadas (incluidas ResNet-50, SegNet y LSTM) desde Deep Learning Toolbox™ en su modelo de Simulink y realice el despliegue en GPU NVIDIA. Genere código para preprocesamiento y posprocesamiento junto con sus redes de deep learning entrenadas para desplegar algoritmos completos.

Redes y capas soportadas
Deep learning en Simulink con el bloque MATLAB Function
Deep learning en Simulink para GPU NVIDIA: generación de código CUDA con GPU Coder

Registro de señales, ajuste de parámetros y verificación numérica del comportamiento del código

Cuando se utiliza con Simulink Coder, GPU Coder permite registrar señales y ajustar parámetros en tiempo real usando simulaciones en modo externo. Utilice Embedded Coder con GPU Coder para ejecutar pruebas software-in-the-loop y processor-in-the-loop que verifican numéricamente que el código generado coincide con el comportamiento de la simulación.

Ajuste de parámetros y supervisión de señales usando el modo externo
Pruebas de equivalencia numérica
Deep Learning en Simulink para GPU NVIDIA: clasificación de señales de ECG

Generación de código CUDA desde redes de deep learning

Despliegue redes de deep learning entrenadas con Deep Learning Toolbox.

Despliegue de algoritmos de deep learning de extremo a extremo

Despliegue diversas redes de deep learning entrenadas (incluidas ResNet-50, SegNet y LSTM) desde Deep Learning Toolbox en GPU NVIDIA. Utilice capas de deep learning predefinidas o defina capas personalizadas para su aplicación específica. Genere código para preprocesamiento y posprocesamiento junto con sus redes de deep learning entrenadas para desplegar algoritmos completos.

Redes y capas soportadas
Detección de objetos en tiempo real con YOLO v2 mediante GPU Coder (4:24)
Generación de código para detección de objetos usando deep learning YOLO v3
Generación para una red de segmentación semántica usando U-net
Cómo generar código CUDA para un modelo de Keras-TensorFlow

Generación de código optimizado para inferencia

GPU Coder genera código menos extenso en comparación con otras soluciones de deep learning, ya que solo genera el código necesario para ejecutar la inferencia con un algoritmo concreto. El código generado realiza llamadas a librerías optimizadas, incluidas TensorRT y cuDNN.

Detección de carriles optimizada con GPU Coder
Inferencia de una sola imagen con VGG-16 en una GPU Titan V utilizando cuDNN.

Inferencia de una sola imagen con VGG-16 en una GPU Titan V utilizando cuDNN.

Mayor optimización mediante TensorRT

Genere código que se integra con NVIDIA TensorRT, un tiempo de ejecución y un optimizador de inferencia de deep learning de alto rendimiento. Utilice tipos de datos INT8 o FP16 para conseguir mejoras de rendimiento adicionales respecto del tipo de datos FP32 estándar.

Detección de peatones en GPU NVIDIA con TensorRT (1:34)
Predicción mediante deep learning con NVIDIA TensorRT
Deep learning en Jetson AGX Xavier mediante MATLAB, GPU Coder y TensorRT (24:40)
Uso de MATLAB y TensorRT en GPU NVIDIA
Mejora de la velocidad de ejecución con TensorRT y tipos de datos INT8.

Mejora de la velocidad de ejecución con TensorRT y tipos de datos INT8.

Cuantización de deep learning

Cuantice su red de deep learning para reducir el uso de memoria y aumentar el rendimiento de inferencia. Analice y visualice el tradeoff entre un mayor rendimiento y la precisión de inferencia con la app Deep Network Quantizer.

Cuantización INT8 con Deep Network Quantizer
Cuantización de redes neuronales profundas
¿Qué es la cuantización int8 y por qué se utiliza tanto en las redes neuronales profundas?
Cuantización y despliegue de una red profunda con Deep Learning Toolbox Model Quantization Library

Optimización del código generado

GPU Coder optimiza automáticamente el código generado. Utilice patrones de diseño para aumentar aún más el rendimiento.

Minimización de las transferencias de memoria CPU-GPU y optimización del uso de memoria

GPU Coder analiza, identifica y divide automáticamente los segmentos del código de MATLAB para su ejecución en la CPU o en la GPU. Además, minimiza el número de copias de datos entre la CPU y la GPU. Utilice herramientas de análisis de rendimiento para identificar otros posibles cuellos de botella.

Paradigma de programación de la GPU
Creación de kernels
Asignación y minimización de memoria de la GPU
Análisis de rendimiento de ejecución en GPU del código generado
Informes de rendimiento que identifican posibles cuellos de botella.

Informes de rendimiento que identifican posibles cuellos de botella.

Invocación de librerías optimizadas

El código generado con GPU Coder realiza llamadas a librerías NVIDIA CUDA optimizadas, tales como TensorRT, cuDNN, cuSolver, cuFFT, cuBLAS y Thrust. El código generado desde las funciones de las toolboxes de MATLAB se asigna a librerías optimizadas siempre que es posible.

Kernels desde llamadas a librerías
NVIDIA TensorRT
NVIDIA cuDNN
NVIDIA cuFFT
Funciones de llamada de código generadas en la librería CUDA cuFFT optimizada.

Funciones de llamada de código generadas en la librería CUDA cuFFT optimizada.

Uso de patrones de diseño para aumentar la aceleración

Los patrones de diseño, tales como el procesamiento de plantillas, utilizan la memoria compartida para aumentar el ancho de banda de memoria. Se aplican automáticamente cuando se emplean ciertas funciones, tales como la convolución. Además, puede invocarlos manualmente mediante pragmas específicas.

Patrones de diseño
Procesamiento de plantillas en GPU
Patrón de diseño de procesamiento de plantillas.

Patrón de diseño de procesamiento de plantillas.

Prototipado en hardware

Acelere la implementación en hardware mediante la conversión automática de su algoritmo a código CUDA.

Prototipado en las plataformas NVIDIA Jetson y NVIDIA DRIVE

Automatice la compilación cruzada y el despliegue del código generado en las plataformas NVIDIA Jetson y NVIDIA DRIVE mediante el paquete de soporte de GPU Coder para GPU NVIDIA.

Soporte para NVIDIA Tegra desde GPU Coder
Soporte para NVIDIA DRIVE desde GPU Coder
Uso de GPU Coder para prototipar e implementar en NVIDIA Drive y Jetson (2:54)
Segmentación semántica en NVIDIA DRIVE
Prototipado en la plataforma NVIDIA Jetson.

Prototipado en la plataforma NVIDIA Jetson.

Acceso a periféricos y sensores desde MATLAB y el código generado

Comuníquese de manera remota con la plataforma NVIDIA desde MATLAB para adquirir datos procedentes de webcams y otros periféricos soportados y prototipar con más rapidez. Despliegue su algoritmo junto con el código de la interfaz del periférico en la placa para permitir la ejecución autónoma.

Detección de bordes Sobel usando una webcam en NVIDIA Jetson
Despliegue y clasificación de imágenes de webcam en la plataforma NVIDIA Jetson TX2
Acceso a periféricos y sensores desde MATLAB y el código generado.

Acceso a periféricos y sensores desde MATLAB y el código generado.

Del prototipado a la producción

Utilice GPU Coder con Embedded Coder para trazar de manera interactiva su código de MATLAB cotejándolo con el código CUDA generado. Verifique el comportamiento numérico del código generado que se ejecuta en el hardware mediante pruebas software-in-the-loop (SIL) y processor-in-the-loop (PIL).

Trazado entre el código de MATLAB y el código CUDA generado
Verificación de la corrección del código generado
Ejecución processor-in-the-loop con la app GPU Coder
Análisis de rendimiento en tiempo de ejecución para PIL
Informe de trazabilidad interactivo utilizando GPU Coder con Embedded Coder.

Informe de trazabilidad interactivo utilizando GPU Coder con Embedded Coder.

Aceleración de algoritmos

Genere código CUDA y compílelo para su uso en MATLAB y Simulink.

Aceleración de algoritmos con GPU en MATLAB

Realice llamadas al código CUDA generado como una función MEX desde el código de MATLAB para acelerar la ejecución, aunque el rendimiento variará en función de la naturaleza del código de MATLAB. Analice el rendimiento de las funciones MEX generadas para identificar cuellos de botella y enfocar sus esfuerzos de optimización.

Generación de código de GPU: el conjunto de Mandelbrot
Análisis de rendimiento de ejecución en GPU del código generado
Aceleración de las simulaciones de radar en GPU NVIDIA utilizando GPU Coder (3:24)
Generación de código CUDA para un algoritmo de corrección de empañamiento

Aceleración de las simulaciones de Simulink con GPU NVIDIA

Cuando se utiliza con Simulink Coder, GPU Coder acelera partes de bloques MATLAB Function con una alta carga computacional en sus modelos de Simulink en las GPU NVIDIA.

Aceleración de simulaciones con GPU Coder

Recursos del producto:

Documentación Funciones Artículos técnicos Requisitos del sistema Notas de la versión Vídeos y webinars Ejemplos Prerequisite Products Soporte para hardware

¿Tiene interés en GPU Coder?

Solicite una versión de prueba Solicite presupuesto