softmaxLayer

Capa softmax

Descripción

Una capa softmax aplica una función softmax a la entrada.

Creación

Sintaxis

layer = softmaxLayer

layer = softmaxLayer('Name',Name)

Descripción

layer = softmaxLayer crea una capa softmax.

layer = softmaxLayer('Name',Name) crea una capa softmax y establece la propiedad opcional Name usando un par nombre-valor. Por ejemplo, softmaxLayer('Name','sm1') crea una capa softmax con el nombre 'sm1'. Debe encerrar el nombre de la propiedad entre comillas simples.

Propiedades

Name — Nombre de la capa

"" (predeterminado) | vector de caracteres | escalar de cadena

Nombre de la capa, especificado como un vector de caracteres o un escalar de cadena. Para entradas en forma de arreglo Layer, las funciones trainnet y dlnetwork asignan automáticamente nombres a las capas con el nombre "".

El objeto SoftmaxLayer almacena esta propiedad como un vector de caracteres.

Tipos de datos: char | string

NumInputs — Número de entradas

1 (predeterminado)

Esta propiedad o parámetro es de solo lectura.

Número de entradas a la capa, devuelto como 1. Esta capa solo admite una entrada.

Tipos de datos: double

InputNames — Nombres de las entradas

{'in'} (predeterminado)

Esta propiedad o parámetro es de solo lectura.

Nombres de entrada, devueltos como {'in'}. Esta capa solo admite una entrada.

Tipos de datos: cell

NumOutputs — Número de salidas

1 (predeterminado)

Esta propiedad o parámetro es de solo lectura.

Número de salidas de la capa, devuelto como 1. Esta capa solo tiene una salida.

Tipos de datos: double

OutputNames — Nombres de salida

{'out'} (predeterminado)

Esta propiedad o parámetro es de solo lectura.

Nombres de salida, devueltos como {'out'}. Esta capa solo tiene una salida.

Tipos de datos: cell

Ejemplos

Crear una capa softmax

Cree una capa softmax con el nombre 'sm1'.

layer = softmaxLayer('Name','sm1')

layer = 
  SoftmaxLayer with properties:

    Name: 'sm1'

Incluya una capa softmax en un arreglo Layer.

layers = [ ...
    imageInputLayer([28 28 1])
    convolution2dLayer(5,20)
    reluLayer
    maxPooling2dLayer(2,'Stride',2)
    fullyConnectedLayer(10)
    softmaxLayer
    classificationLayer]

layers = 
  7x1 Layer array with layers:

     1   ''   Image Input             28x28x1 images with 'zerocenter' normalization
     2   ''   2-D Convolution         20 5x5 convolutions with stride [1  1] and padding [0  0  0  0]
     3   ''   ReLU                    ReLU
     4   ''   2-D Max Pooling         2x2 max pooling with stride [2  2] and padding [0  0  0  0]
     5   ''   Fully Connected         10 fully connected layer
     6   ''   Softmax                 softmax
     7   ''   Classification Output   crossentropyex

Algoritmos

Capa softmax

Una capa softmax aplica una función softmax a la entrada.

Para los problemas de clasificación, suele usarse una capa softmax y, después, una capa de clasificación que siguen a la capa totalmente conectada final.

La función de activación de unidades de salida es la función softmax:

$$y_r\left(x\right)=\frac{\exp \left(a_r\left(x\right)\right)}{{\displaystyle \sum _{j=1}^k\exp \left(a_j\left(x\right)\right)}},$$

donde $$0\le y_r\le 1$$ y $${\displaystyle \sum _{j=1}^k{y}_j=1}$$.

La función softmax es la función de activación de unidades de salida usada después de la última capa totalmente conectada para atajar los problemas de clasificación de varias clases:

$$P\left(c_r|x,\theta \right)=\frac{P\left(x,\theta |c_r\right)P\left(c_r\right)}{{\displaystyle \sum _{j=1}^{k}P\left(x,\theta |c_j\right)P\left(c_j\right)}}=\frac{\exp \left(a_r\left(x,\theta \right)\right)}{{\displaystyle \sum _{j=1}^k\exp \left(a_j\left(x,\theta \right)\right)}},$$

donde $$0\le P\left(c_r|x,\theta \right)\le 1$$ y $${\displaystyle \sum _{j=1}^{k}P\left(c_j|x,\theta \right)=1}$$. Además, $$a_r=\ln \left(P\left(x,\theta |c_r\right)P\left(c_r\right)\right)$$, $$P\left(x,\theta |c_r\right)$$ es la probabilidad condicional de la clase de muestra dada r, mientras que $$P\left(c_r\right)$$ es la probabilidad anterior de la clase.

La función softmax también se conoce como el exponencial normalizado y se puede considerar como la generalización de varias clases de la función sigmoide logística [1].

Formatos de entrada y salida de capa

Las capas en un arreglo de capas o en una gráfica de capas pasan datos a las capas posteriores como objetos dlarray con formato. El formato de un objeto dlarray es una cadena de caracteres, en la que cada carácter describe la dimensión correspondiente de los datos. Los formatos constan de uno o más de estos caracteres:

• "S": espacial

• "C": canal

• "B": lote

• "T": tiempo

• "U": sin especificar

Por ejemplo, los datos de imagen 2D que están representados como arreglo 4D, donde las dos primeras dimensiones corresponden a las dimensiones espaciales de las imágenes, la tercera dimensión corresponde a los canales de las imágenes y la cuarta dimensión corresponde a la dimensión de lote, pueden describirse como datos con formato "SSCB" (espacial, espacial, canal, lote).

Puede interactuar con estos objetos dlarray en flujos de trabajo de diferenciación automática, como aquellos para desarrollar una capa personalizada, usar un objeto functionLayer o usar las funciones forward y predict con objetos dlnetwork.

En esta tabla se muestran los formatos de entrada admitidos de objetos SoftmaxLayer y el formato de salida correspondiente. Si el software pasa la salida de la capa a una capa personalizada que no hereda de la clase nnet.layer.Formattable o a un objeto FunctionLayer con la propiedad Formattable establecida en 0 (false), la capa recibe un objeto dlarray sin formato con dimensiones ordenadas según los formatos de esta tabla. Los formatos incluidos en esta lista son únicamente un subconjunto. La capa puede ser compatible con formatos adicionales, como aquellos con dimensiones adicionales "S" (espacial) o "U" (sin especificar).

Formato de entrada	Formato de salida
"CB" (canal, lote)	"CB" (canal, lote)
"SCB" (espacial, canal, lote)	"SCB" (espacial, canal, lote)
"SSCB" (espacial, espacial, canal, lote)	"SSCB" (espacial, espacial, canal, lote)
"SSSCB" (espacial, espacial, espacial, canal, lote)	"SSSCB" (espacial, espacial, espacial, canal, lote)
"CBT" (canal, lote, tiempo)	"CBT" (canal, lote, tiempo)
"SCBT" (espacial, canal, lote, tiempo)	"SCBT" (espacial, canal, lote, tiempo)
"SSCBT" (espacial, espacial, canal, lote, tiempo)	"SSCBT" (espacial, espacial, canal, lote, tiempo)
"SSSCBT" (espacial, espacial, espacial, canal, lote, tiempo)	"SSSCBT" (espacial, espacial, espacial, canal, lote, tiempo)
"CU" (canal, sin especificar)	"CU" (canal, sin especificar)
"SC" (espacial, canal)	"SC" (espacial, canal)
"SSC" (espacial, espacial, canal)	"SSC" (espacial, espacial, canal)
"SSSC" (espacial, espacial, espacial, canal)	"SSSC" (espacial, espacial, espacial, canal)

En objetos dlnetwork, los objetos SoftmaxLayer también admiten estas combinaciones de formato de entrada y salida.

Formato de entrada	Formato de salida
"CT" (canal, tiempo)	"CT" (canal, tiempo)
"SCT" (espacial, canal, tiempo)	"SCT" (espacial, canal, tiempo)
"SSCT" (espacial, espacial, canal, tiempo)	"SSCT" (espacial, espacial, canal, tiempo)
"SSSCT" (espacial, espacial, espacial, canal, tiempo)	"SSSCT" (espacial, espacial, espacial, canal, tiempo)

Referencias

[1] Bishop, C. M. Pattern Recognition and Machine Learning. Springer, New York, NY, 2006.

Capacidades ampliadas

Generación de código C/C++
Genere código C y C++ mediante MATLAB® Coder™.

Generación de código de GPU
Genere código CUDA® para GPU NVIDIA® mediante GPU Coder™.

Historial de versiones

Introducido en R2016a

Consulte también

trainnet | trainingOptions | dlnetwork | convolution2dLayer | fullyConnectedLayer

Temas

• Crear una red neuronal de deep learning sencilla para clasificación
• Entrenar una red neuronal convolucional para regresión
• Deep learning en MATLAB
• Lista de capas de deep learning