dlnetwork

Redes neuronales de deep learning

Desde R2019b

Descripción

Un objeto dlnetwork especifica una arquitectura de red neuronal de deep learning

Sugerencia

Para la mayor parte de las tareas de deep learning, puede utilizar una red neuronal preentrenada y adaptarla a sus propios datos. Para ver un ejemplo de cómo usar la transferencia del aprendizaje para volver a entrenar una red neuronal convolucional para clasificar un nuevo conjunto de imágenes, consulte Retrain Neural Network to Classify New Images. Como alternativa, puede crear y entrenar redes neuronales desde cero usando las funciones trainnet y trainingOptions.

Si la función trainingOptions no proporciona las opciones de entrenamiento que necesita para la tarea, puede crear un bucle de entrenamiento personalizado mediante diferenciación automática. Para obtener más información, consulte Entrenar una red con un bucle de entrenamiento personalizado.

Si la función trainnet no proporciona la función de pérdida que necesita para la tarea, puede especificar una función de pérdida personalizada para trainnet como identificador de función. En el caso de las funciones de pérdida que requieren más entradas que las predicciones y los objetivos (por ejemplo, funciones de pérdida que requieren acceso a la red neuronal o entradas adicionales), entrene el modelo mediante un bucle de entrenamiento personalizado. Para obtener más información, consulte Entrenar una red con un bucle de entrenamiento personalizado.

Si Deep Learning Toolbox™ no proporciona las capas que necesita para la tarea, puede crear una capa personalizada. Para obtener más información, consulte Definir capas de deep learning personalizadas. Para los modelos que no se pueden especificar como redes de capas, puede definir el modelo como una función. Para obtener más información, consulte Train Network Using Model Function.

Para obtener más información sobre qué método de entrenamiento usar para cada tarea, consulte Train Deep Learning Model in MATLAB.

Creación

Sintaxis

net = dlnetwork

net = dlnetwork(layers)

net = dlnetwork(layers,OutputNames=names)

net = dlnetwork(layers,Initialize=tf)

net = dlnetwork(layers,X1,...,XN)

net = dlnetwork(layers,X1,...,XN,OutputNames=names)

net = dlnetwork(prunableNet)

Descripción

Red vacía

net = dlnetwork crea un objeto dlnetwork sin capas. Use esta sintaxis para crear una red neuronal desde cero. (desde R2024a)

Red con capas de entrada

net = dlnetwork(layers) crea una red neuronal usando las capas especificadas e inicializa cualquier parámetro que se pueda aprender y cualquier parámetro de estado que no se haya configurado. Esta sintaxis usa la capa de entrada de layers para determinar el tamaño y el formato de los parámetros que se pueden aprender y los parámetros de estado de la red neuronal.

Use esta sintaxis cuando layers defina una red neuronal completa de una sola entrada y tenga capas dispuestas en serie y una capa de entrada.

net = dlnetwork(layers,OutputNames=names) también establece la propiedad OutputNames. La propiedad OutputNames especifica las capas o salidas de capa que corresponden a salidas de red.

Use esta sintaxis cuando layers defina una red neuronal completa de una sola entrada y de varias salidas, tenga capas dispuestas en serie y tenga una capa de entrada.

net = dlnetwork(layers,Initialize=tf) especifica si se inicializan los parámetros que se pueden aprender y los parámetros de estado de la red neuronal. Cuando tf es 1, (true), esta sintaxis es equivalente a net = dlnetwork(layers). Cuando tf es 0, (false), esta sintaxis es equivalente a crear una red vacía y después añadir layers usando la función addLayers.

Red con entradas no conectadas

net = dlnetwork(layers,X1,...,XN) crea una red neuronal usando las capas especificadas e inicializa cualquier parámetro que se pueda aprender y cualquier parámetro de estado que no se haya configurado. Esta sintaxis usa los objetos de disposición de datos de red o entradas de ejemplo X1,...,XN para determinar el tamaño y el formato de los parámetros que se pueden aprender y los valores de estado de la red neuronal, donde N es el número de entradas de red.

Use esta sintaxis cuando layers defina una red neuronal completa y tenga capas dispuestas en serie y entradas que no estén conectadas a capas de entrada.

net = dlnetwork(layers,X1,...,XN,OutputNames=names) también establece la propiedad OutputNames.

Use esta sintaxis cuando layers defina una red neuronal completa y tenga varias salidas, capas dispuestas en serie y entradas que no estén conectadas a capas de entrada.

Red podable

net = dlnetwork(prunableNet) convierte TaylorPrunableNetwork en un objeto dlnetwork eliminando los filtros seleccionados para la poda de las capas de convolución de prunableNet y devuelve un objeto dlnetwork comprimido que tiene menos parámetros que se pueden aprender y es más pequeño.

Argumentos de entrada

layers — Capas de red

arreglo Layer

Capas de la red, especificadas como un arreglo Layer.

El software conecta las capas en series.

Para obtener una lista de capas compatibles, consulte Lista de capas de deep learning.

X1,...,XN — Ejemplo de entradas de red o disposiciones de datos

objeto dlarray con formato | objeto networkDataLayout con formato

Ejemplo de datos o disposiciones de datos que deben usarse para determinar el tamaño y los formatos de los parámetros que se pueden aprender y de los parámetros de estado, especificados como objetos dlarray con formato u objetos networkDataLayout con formato. El software propaga X1,...XN a través de la red para determinar los tamaños y formatos apropiados de los parámetros que se pueden aprender y de los parámetros de estado del objeto dlnetwork e inicializa cualquier parámetro que se pueda aprender o de estado que no esté configurado.

El orden de X1,...,XN debe coincidir con el de las capas que requieren entradas en layers.

Nota

La inicialización automática solo usa la información sobre el tamaño y el formato de los datos de entrada. Para la inicialización que depende de los valores de los datos de entrada, debe inicializar de forma manual los parámetros que se pueden aprender.

tf — Indicador para inicializar los parámetros que se pueden aprender y los parámetros de estado

1 (true) (predeterminado) | 0 (false)

Indicador para inicializar los parámetros que se pueden aprender y los parámetros de estado, especificado como uno de estos valores:

• 1 (true): inicializa los parámetros que se pueden aprender y los parámetros de estado. El software usa la capa de entrada en layers para determinar los tamaños de los parámetros que se pueden aprender y de los parámetros de estado.

• 0 (false): no inicializa los parámetros que se pueden aprender ni los parámetros de estado. Use esta opción en los siguientes casos:

  • Cuando quiera realizar más modificaciones en la red neuronal. Por ejemplo, cuando prevea añadir o eliminar capas y conexiones.

  • Cuando use la red en una capa personalizada y quiera usar una función de inicialización personalizada.

La predicción de redes neuronales y los bucles de entrenamiento personalizados requieren una red inicializada. Para inicializar una red no inicializada, utilice la función initialize.

prunableNet — Red para la poda mediante una aproximación de Taylor de primer orden

objeto TaylorPrunableNetwork

Red para la poda mediante una aproximación de Taylor de primer orden, especificada como un objeto TaylorPrunableNetwork.

Podar una red neuronal profunda requiere el paquete de soporte Deep Learning Toolbox Model Quantization Library. Este paquete es un complemento gratuito que puede descargarse a través de Add-On Explorer. Como alternativa, consulte Deep Learning Toolbox Model Quantization Library.

Propiedades

Layers — Capas de red

arreglo Layer

Capas de la red, especificadas como un arreglo Layer.

Connections — Conexiones de capa

tabla

Conexiones de la capa, especificadas como una tabla con dos columnas.

Cada fila de la tabla representa una conexión en la red neuronal. La primera columna, Source, especifica el origen de cada conexión. La segunda columna, Destination, especifica el destino de cada conexión. Las fuentes y los destinos de la conexión pueden ser nombres de capa o tener la forma "layerName/IOName", donde "IOName" es el nombre de la entrada o la salida de la capa.

Tipos de datos: table

Learnables — Parámetros de la red que se pueden aprender

tabla

Parámetros de la red que se pueden aprender, especificados como una tabla con tres columnas:

• Layer: nombre de la capa, especificado como un escalar de cadena.

• Parameter: nombre del parámetro, especificado como un escalar de cadena.

• Value: valor del parámetro, especificado como un objeto dlarray.

Los parámetros de la red que se pueden aprender contienen las características que aprende la red. Por ejemplo, los pesos de las capas totalmente conectadas y de convolución.

Tipos de datos: table

State — Estado de la red

tabla

Estado de la red, especificado como una tabla.

El estado de la red es una tabla con tres columnas:

• Layer: nombre de la capa, especificado como un escalar de cadena.

• Parameter: nombre del parámetro de estado, especificado como un escalar de cadena.

• Value: valor del parámetro de estado, especificado como un objeto dlarray.

Los estados de capa contienen información calculada durante la operación de capa que se conservará para su uso en posteriores pases hacia delante de la capa. Un ejemplo sería el estado de las celdas y el estado oculto de las capas LSTM, o las estadísticas de ejecución en las capas de normalización de lotes.

Para capas recurrentes, como las capas LSTM, con la propiedad HasStateInputs establecida en 1 (true), la tabla de estados no contiene entradas para los estados de esa capa.

Durante el entrenamiento o la inferencia, puede actualizar el estado de la red usando la salida de las funciones forward y predict.

Tipos de datos: table

InputNames — Nombres de las entradas de la red

arreglo de celdas de vectores de caracteres

Esta propiedad o parámetro es de solo lectura.

Nombres de las entradas de la red, especificados como un arreglo de celdas de vectores de caracteres.

Las entradas de la red son las capas de entrada y las entradas no conectadas de las capas.

Para las capas de entrada y las capas con una sola entrada, el nombre de la entrada es el nombre de la capa. Para las capas con varias entradas, el nombre de la entrada es "layerName/inputName", donde layerName es el nombre de la capa y inputName es el nombre de la entrada de la capa.

Tipos de datos: cell

OutputNames — Nombres de las salidas de la red

arreglo de celdas de vectores de caracteres

Nombres de las salidas de la red, especificados como un arreglo de celdas de vectores de caracteres.

Para las capas con una única salida, el nombre de la salida es el nombre de la capa. Para las capas con varias salidas, el nombre de la salida es "layerName/outputName", donde layerName es el nombre de la capa y outputName es el nombre de la salida de la capa.

Si no especifica los nombres de salida, el software establece la propiedad OutputNames en las capas con salidas no conectadas.

De forma predeterminada, las funciones predict y forward devuelven los datos de salida de las capas dados por la propiedad OutputNames.

Tipos de datos: cell

Initialized — Indicador de red inicializada

0 (false) | 1 (true)

Esta propiedad o parámetro es de solo lectura.

Indicador de red inicializada, especificado como uno de estos valores:

• 1 (true): la red se ha inicializado y está lista para la predicción y los bucles de entrenamiento personalizados. Si cambia los valores de los parámetros que se pueden aprender o de los parámetros de estado, la red permanece inicializada.

• 0 (false): la red no se ha inicializado y no está lista para la predicción ni para los bucles de entrenamiento personalizados. Para inicializar una red no inicializada, utilice la función initialize.

Tipos de datos: logical

Funciones del objeto

addInputLayer	Add input layer to network
addLayers	Añadir capas a una red neuronal
removeLayers	Remove layers from neural network
connectLayers	Conectar capas en una red neuronal
disconnectLayers	Disconnect layers in neural network
replaceLayer	Replace layer in neural network
getLayer	Look up a layer by name or path
expandLayers	Expand network layers
groupLayers	Group layers into network layers
summary	Imprimir un resumen de la red
plot	Representar una arquitectura de red neuronal
initialize	Initialize learnable and state parameters of a dlnetwork
predict	Compute deep learning network output for inference
forward	Compute deep learning network output for training
resetState	Reset state parameters of neural network
setL2Factor	Set L2 regularization factor of layer learnable parameter
setLearnRateFactor	Set learn rate factor of layer learnable parameter
getLearnRateFactor	Get learn rate factor of layer learnable parameter
getL2Factor	Get L2 regularization factor of layer learnable parameter

Ejemplos

Crear una red neuronal desde cero

Defina una red neuronal de dos salidas que prediga tanto etiquetas categóricas como valores numéricos a partir de imágenes 2D.

Especifique el número de clases y respuestas.

numClasses = 10;
numResponses = 1;

Cree una red neuronal vacía.

net = dlnetwork;

Defina las capas de la rama principal de la red y la salida softmax.

layers = [
    imageInputLayer([28 28 1],Normalization="none")

    convolution2dLayer(5,16,Padding="same")
    batchNormalizationLayer
    reluLayer(Name="relu_1")

    convolution2dLayer(3,32,Padding="same",Stride=2)
    batchNormalizationLayer
    reluLayer
    convolution2dLayer(3,32,Padding="same")
    batchNormalizationLayer
    reluLayer

    additionLayer(2,Name="add")

    fullyConnectedLayer(numClasses)
    softmaxLayer(Name="softmax")];

net = addLayers(net,layers);

Añada la conexión de omisión.

layers = [
    convolution2dLayer(1,32,Stride=2,Name="conv_skip")
    batchNormalizationLayer
    reluLayer(Name="relu_skip")];

net = addLayers(net,layers);
net = connectLayers(net,"relu_1","conv_skip");
net = connectLayers(net,"relu_skip","add/in2");

Añada la capa totalmente conectada para la salida de regresión.

layers = fullyConnectedLayer(numResponses,Name="fc_2");
net = addLayers(net,layers);
net = connectLayers(net,"add","fc_2");

Visualice la red neuronal en una gráfica.

figure
plot(net)

Convertir un arreglo de capas en una red neuronal

Si tiene una capa que define una red neuronal completa de una sola entrada, tiene capas dispuestas en serie y tiene una capa de entrada, puede convertir el arreglo de capas en un objeto dlnetwork directamente.

Especifique una red LSTM como un arreglo de capas.

layers = [
    sequenceInputLayer(12)
    lstmLayer(100)
    fullyConnectedLayer(9)
    softmaxLayer];

Convierta el arreglo de capas en un objeto dlnetwork. Como el arreglo de capas tiene una capa de entrada y ninguna otra entrada, el software inicializa la red neuronal.

net = dlnetwork(layers)

net = 
  dlnetwork with properties:

         Layers: [4x1 nnet.cnn.layer.Layer]
    Connections: [3x2 table]
     Learnables: [5x3 table]
          State: [2x3 table]
     InputNames: {'sequenceinput'}
    OutputNames: {'softmax'}
    Initialized: 1

  View summary with summary.

Congelar parámetros que se pueden aprender

Cargue una red preentrenada.

net = imagePretrainedNetwork;

La propiedad Learnables del objeto dlnetwork es una tabla que contiene los parámetros de la red que se pueden aprender. La tabla incluye parámetros de capas anidadas en filas separadas. Visualice las primeras filas de la tabla de parámetros.

learnables = net.Learnables;
head(learnables)

          Layer           Parameter           Value       
    __________________    _________    ___________________

    "conv1"               "Weights"    {3x3x3x64  dlarray}
    "conv1"               "Bias"       {1x1x64    dlarray}
    "fire2-squeeze1x1"    "Weights"    {1x1x64x16 dlarray}
    "fire2-squeeze1x1"    "Bias"       {1x1x16    dlarray}
    "fire2-expand1x1"     "Weights"    {1x1x16x64 dlarray}
    "fire2-expand1x1"     "Bias"       {1x1x64    dlarray}
    "fire2-expand3x3"     "Weights"    {3x3x16x64 dlarray}
    "fire2-expand3x3"     "Bias"       {1x1x64    dlarray}

Para congelar los parámetros de la red que se pueden aprender, realice un bucle sobre ellos y establezca la tasa de aprendizaje en 0 mediante la función setLearnRateFactor.

factor = 0;

numLearnables = size(learnables,1);
for i = 1:numLearnables
    layerName = learnables.Layer(i);
    parameterName = learnables.Parameter(i);
    
    net = setLearnRateFactor(net,layerName,parameterName,factor);
end

Para usar los factores de tasa de aprendizaje actualizados durante el entrenamiento, debe pasar el objeto dlnetwork a la función de actualización en el bucle de entrenamiento personalizado. Por ejemplo, use el comando

[net,velocity] = sgdmupdate(net,gradients,velocity);

Capacidades ampliadas

Generación de código C/C++

Genere código C y C++ mediante MATLAB® Coder™.

Notas y limitaciones de uso:

• La generación de código solo admite las propiedades InputNames y OutputNames.

• La propiedad Initialized del objeto dlnetwork debe ser 1 (true).

• La generación de código permite ajustar la variable Value de la propiedad State. La generación de código no permite modificar las variables Layer y Parameter de la propiedad State.

• La generación de código admite estas funciones para la propiedad State:

  • height

  • isempty

  • istable

  • istabular

  • ndims

  • numel

  • size

  • width

• Para la simulación en Simulink, la generación de código no admite la extracción y actualización del State de un objeto dlnetwork en un bloque MATLAB Function. En su lugar, use un bloque Stateful Predict o un bloque Stateful Classify.

• La generación de código admite objetos dlnetwork de varias entradas y salidas con capas de entrada heterogéneas.

  • Las redes neuronales recurrentes no admiten varias entradas.

  • Para Intel^® MKL-DNN, todas las capas de entrada deben ser capas de entrada de secuencia.

  • Para ARM^® Compute, el objeto dlnetwork puede tener capas de entrada secuenciales y no secuenciales.

• La generación de código admite entradas dlarray con estas limitaciones para los formatos de datos.

  • Para C/C++ genérico que no depende de ninguna biblioteca de terceros, el objeto dlnetwork puede tener capas de entrada con cualquier número de dimensiones espaciales.

  • Para ARM Compute e Intel MKL-DNN, la generación de código admite objetos dlarray que contengan cero o dos dimensiones espaciales. Por ejemplo, la generación de código admite lo siguiente:

    • Secuencias de vectores que tienen formatos de datos "CT" o "CBT".

    • Secuencias de imágenes que tienen formatos de datos "SSCT" o "SSCBT".

  • En la generación de código, solo la dimensión "T" (tiempo) puede ser de tamaño variable, el resto deben tener tamaños fijos.

• La generación de código solo admite la función de objeto predict. La entrada dlarray del método predict debe ser un tipo de datos single.

• Para crear un objeto dlnetwork para la generación de código, consulte Load Pretrained Networks for Code Generation (MATLAB Coder).

Generación de código de GPU

Genere código CUDA® para GPU NVIDIA® mediante GPU Coder™.

Notas y limitaciones de uso:

• La generación de código solo admite las propiedades InputNames y OutputNames.

• En la generación de código, la propiedad Initialized del objeto dlnetwork debe ser true.

• La generación de código permite ajustar la variable Value de la propiedad State. La generación de código no permite modificar las variables Layer y Parameter de la propiedad State.

• La generación de código admite estas funciones para la propiedad State:

  • height

  • isempty

  • istable

  • istabular

  • ndims

  • numel

  • size

  • width

• Para la simulación en Simulink, la generación de código no admite la extracción y actualización del State de un objeto dlnetwork en un bloque MATLAB Function. En su lugar, use un bloque Stateful Predict o un bloque Stateful Classify.

• La generación de código admite objetos dlnetwork de varias entradas y salidas con capas de entrada heterogéneas. Las redes neuronales recurrentes no admiten varias entradas.

• La generación de código admite objetos dlnetwork para objetivos cuDNN y TensorRT.

• La generación de código admite entradas dlarray con estas limitaciones para los formatos de datos.

  • Para CUDA estándar que no depende de ninguna biblioteca de terceros, el objeto dlnetwork puede tener capas de entrada con cualquier número de dimensiones espaciales.

  • Para objetivos cuDNN y TensorRT, la generación de código admite objetos dlarray que contengan cero o dos dimensiones espaciales. Por ejemplo, la generación de código admite lo siguiente:

    • Secuencias de vectores que tienen formatos de datos "CT" o "CBT".

    • Secuencias de imágenes que tienen formatos de datos "SSCT" o "SSCBT".

  • En la generación de código, solo la dimensión "T" (tiempo) puede ser de tamaño variable, el resto deben tener tamaños fijos.

• La generación de código solo admite la función de objeto predict. Debe pasar la entrada dlarray de tipo de datos single al método predict.

• Si se usa TensorRT con precisión INT8, las últimas capas de la red deben ser capas softmaxLayer.

• Para crear un objeto dlnetwork para la generación de código, consulte Load Pretrained Networks for Code Generation (GPU Coder).

Historial de versiones

Introducido en R2019b

R2024a: Crear una red neuronal vacía

Cree una red neuronal vacía usando la función dlnetwork sin argumentos de entrada. Use redes neuronales vacías como punto de partida para crear redes neuronales desde cero.

R2024a: No se recomienda usar gráficas de capas

A partir de la versión R2024a, no se recomienda usar objetos LayerGraph; en su lugar, use objetos dlnetwork.

Esta recomendación significa que tampoco se recomienda usar estas sintaxis para introducir gráficas de capas:

• net = dlnetwork(lgraph)

• net = dlnetwork(lgraph,X1,...,XN)

• net = dlnetwork(__,Initialize=tf)

• net = dlnetwork(__,OutputNames=names)

Para especificar una red neuronal con estructura de gráfica, cree un objeto dlnetwork y añada y conecte capas mediante las funciones addLayers y connectLayers, respectivamente. Si quiere actualizar su código, en la mayoría de los casos puede hacerlo mediante estas sustituciones:

Sintaxis de la gráfica de capas	Sustitución
lgraph = layerGraph;	net = dlnetwork;
lgraph = layerGraph(layers);	net = dlnetwork(layers,Initialize=false);

La mayoría de las funciones de objeto de LayerGraph, como addLayers y connectLayers, también admiten dlnetwork y no deberían necesitar actualización.

Dependiendo de la arquitectura de la red neuronal, el objeto dlnetwork resultante puede no estar inicializado. La predicción de redes neuronales y los bucles de entrenamiento personalizados requieren redes neuronales inicializadas. Para inicializar una red neuronal no inicializada, use la función initialize.

El código existente que usa objetos LayerGraph sigue ejecutándose. Todavía puede convertir objetos LayerGraph en objetos dlnetwork usando net = dlnetwork(lgraph) y especificando los argumentos Initialize o X1,...,XN si es necesario.

R2023b: Inicialice las redes que contienen capas de entrada con estadísticas de normalización no establecidas

Las capas de entrada como imageInputLayer y sequenceInputLayer contienen propiedades que las redes usan para normalizar los datos. Estas propiedades son Mean, StandardDeviation, Min y Max. El software usa estas propiedades para aplicar el método de normalización de datos definido por la propiedad Normalization de la capa.

A partir de la versión R2023b, cuando se inicializa una red creando un objeto dlnetwork inicializado o usando la función initialize, el software inicializa las propiedades Mean, StandardDeviation, Min y Max de las capas de entrada si no se establecen al crear la capa y si el método de normalización las requiere. En el caso de los métodos de normalización que usan dos propiedades, como zscore, el software inicializa esas propiedades solo si no se establece ninguna de ellas al crear la capa.

• En la normalización zerocenter, Mean se inicializa en 0.

• En la normalización zscore, Mean se inicializa en 0 y StandardDeviation se inicializa en 1.

• En la normalización rescale-symmetric, Min se inicializa en -1 y Max se inicializa en 1.

• En la normalización rescale-zero-one, Min se inicializa en 0 y Max se inicializa en 1.

De forma predeterminada, el software calcula automáticamente las estadísticas de normalización durante el entrenamiento. Para personalizar la normalización, establezca manualmente las propiedades Mean, StandardDeviation, Min y Max de las capas de entrada.

En versiones anteriores, el software daba error al inicializar una red que contenía una capa de entrada que usaba un método de normalización que requería propiedades que no se especificaban al crear la capa.

R2021a: Los valores de estado de dlnetwork son objetos dlarray

El State de un objeto dlnetwork es una tabla que contiene los nombres y valores de los parámetros de estado de cada capa de la red.

A partir de la versión R2021a, los valores de estado son objetos dlarray. Este cambio permite mejorar la asistencia cuando se usan objetos AcceleratedFunction. Para acelerar las funciones de deep learning que tienen valores de entrada que cambian con frecuencia, por ejemplo, una entrada que contiene el estado de la red, los valores que cambian con frecuencia deben especificarse como objetos dlarray.

En versiones anteriores, los valores de estado son arreglos numéricos.

En la mayoría de los casos, no necesitará actualizar su código. Si tiene código que requiere que los valores de estado sean arreglos numéricos, para reproducir el comportamiento anterior, extraiga manualmente los datos de los valores de estado mediante la función extractdata con la función dlupdate.

state = dlupdate(@extractdata,net.State);

Consulte también

trainnet | trainingOptions | dlarray | dlgradient | dlfeval | forward | predict | initialize | TaylorPrunableNetwork

Temas

• Retrain Neural Network to Classify New Images
• Train Neural Network with Tabular Data
• Entrenar una red con un bucle de entrenamiento personalizado
• Train Generative Adversarial Network (GAN)
• Define Custom Training Loops, Loss Functions, and Networks