reluLayer

Capa de unidad lineal rectificada (ReLU)

Descripción

Una capa de unidad lineal rectificada (ReLU) lleva a cabo una operación de umbral en cada elemento de la entrada, en la que cualquier valor inferior a cero se establece en cero.

Esta operación es equivalente a

$$f\left(x\right)=\{\begin{array}{cc}x,& x\ge 0\\ 0,& x<0\end{array}.$$

Creación

Sintaxis

layer = reluLayer

layer = reluLayer('Name',Name)

Descripción

layer = reluLayer crea una capa ReLU.

layer = reluLayer('Name',Name) crea una capa ReLU y establece la propiedad opcional Name usando un par nombre-valor. Por ejemplo, reluLayer('Name','relu1') crea una capa ReLU con el nombre 'relu1'.

Propiedades

Name — Nombre de la capa

"" (predeterminado) | vector de caracteres | escalar de cadena

Nombre de la capa, especificado como un vector de caracteres o un escalar de cadena. Para entradas en forma de arreglo Layer, las funciones trainnet y dlnetwork asignan automáticamente nombres a las capas con el nombre "".

El objeto ReLULayer almacena esta propiedad como un vector de caracteres.

Tipos de datos: char | string

NumInputs — Número de entradas

1 (predeterminado)

Esta propiedad o parámetro es de solo lectura.

Número de entradas a la capa, devuelto como 1. Esta capa solo admite una entrada.

Tipos de datos: double

InputNames — Nombres de las entradas

{'in'} (predeterminado)

Esta propiedad o parámetro es de solo lectura.

Nombres de entrada, devueltos como {'in'}. Esta capa solo admite una entrada.

Tipos de datos: cell

NumOutputs — Número de salidas

1 (predeterminado)

Esta propiedad o parámetro es de solo lectura.

Número de salidas de la capa, devuelto como 1. Esta capa solo tiene una salida.

Tipos de datos: double

OutputNames — Nombres de salida

{'out'} (predeterminado)

Esta propiedad o parámetro es de solo lectura.

Nombres de salida, devueltos como {'out'}. Esta capa solo tiene una salida.

Tipos de datos: cell

Ejemplos

Crear una capa ReLU

Cree una capa ReLU con el nombre relu1.

layer = reluLayer(Name="relu1")

layer = 
  ReLULayer with properties:

    Name: 'relu1'

Incluya una capa ReLU en un arreglo Layer.

layers = [ ...
    imageInputLayer([28 28 1])
    convolution2dLayer(5,20)
    reluLayer
    maxPooling2dLayer(2,Stride=2)
    fullyConnectedLayer(10)
    softmaxLayer]

layers = 
  6x1 Layer array with layers:

     1   ''   Image Input       28x28x1 images with 'zerocenter' normalization
     2   ''   2-D Convolution   20 5x5 convolutions with stride [1  1] and padding [0  0  0  0]
     3   ''   ReLU              ReLU
     4   ''   2-D Max Pooling   2x2 max pooling with stride [2  2] and padding [0  0  0  0]
     5   ''   Fully Connected   10 fully connected layer
     6   ''   Softmax           softmax

Más acerca de

Capa ReLU

Una capa de unidad lineal rectificada (ReLU) lleva a cabo una operación de umbral en cada elemento de la entrada, en la que cualquier valor inferior a cero se establece en cero.

Las capas convolucionales y de normalización de lotes suelen venir seguidas de una función de activación no lineal, como una unidad lineal rectificada (ReLU), especificada por una capa ReLU. Una capa ReLU realiza una operación de umbral en cada elemento, en la que cualquier valor de entrada inferior a cero se establece en cero, es decir,

$$f\left(x\right)=\{\begin{array}{cc}x,& x\ge 0\\ 0,& x<0\end{array}.$$

La capa ReLU no cambia el tamaño de esta entrada.

Hay otras capas de activación no lineales que realizan diferentes operaciones y pueden mejorar la precisión de la red en algunas aplicaciones. Para ver una lista de capas de activación, consulte Capas de activación.

Referencias

[1] Nair, Vinod, and Geoffrey E. Hinton. "Rectified linear units improve restricted boltzmann machines." In Proceedings of the 27th international conference on machine learning (ICML-10), pp. 807-814. 2010.

Capacidades ampliadas

Generación de código C/C++
Genere código C y C++ mediante MATLAB® Coder™.

Generación de código de GPU
Genere código CUDA® para GPU NVIDIA® mediante GPU Coder™.

Historial de versiones

Introducido en R2016a

Consulte también

trainnet | trainingOptions | dlnetwork | batchNormalizationLayer | leakyReluLayer | clippedReluLayer | swishLayer | Deep Network Designer

Temas

• Crear una red neuronal de deep learning sencilla para clasificación
• Entrenar una red neuronal convolucional para regresión
• Deep learning en MATLAB
• Compare Activation Layers
• Lista de capas de deep learning