Verificación
La verificación de deep learning es un conjunto de técnicas para evaluar las propiedades de las redes neuronales profundas. Por ejemplo, puede verificar las propiedades de solidez de una red, calcular los límites de salida de la red, encontrar ejemplos adversarios, detectar datos fuera de distribución y verificar que se cumplen los estándares del sector.
El paquete de soporte Deep Learning Toolbox Verification Library permite realizar pruebas de la solidez de las propiedades de redes de deep learning.
Use la función
verifyNetworkRobustness
para verificar la solidez de la red con ejemplos adversarios. Una red es sólida frente a entradas adversarias si la clase predicha de la red no cambia cuando la entrada se perturba entre los límites de entrada inferior y superior especificados. Para un conjunto de límites de entrada, la función comprueba si la red es sólida frente a ejemplos adversarios entre esos límites de entrada y devuelveverified
,violated
ounproven
.Use la función
estimateNetworkOutputBounds
para estimar el intervalo de valores de salida que devuelve la red cuando la entrada está entre los límites inferior y superior especificados. Use esta función para estimar la sensibilidad de las predicciones de la red con respecto a la perturbación de la entrada.Utilice la función
networkDistributionDiscriminator
para crear un discriminador de distribución que separe los datos en datos fuera de distribución y dentro de distribución.
Funciones
estimateNetworkOutputBounds | Estimate output bounds of deep learning network (desde R2022b) |
verifyNetworkRobustness | Verify adversarial robustness of deep learning network (desde R2022b) |
networkDistributionDiscriminator | Deep learning distribution discriminator (desde R2023a) |
isInNetworkDistribution | Determine whether data is within the distribution of the network (desde R2023a) |
distributionScores | Distribution confidence scores (desde R2023a) |
drise | Explain object detection network predictions using D-RISE (desde R2024a) |
Objetos
BaselineDistributionDiscriminator | Baseline distribution discriminator (desde R2023a) |
EnergyDistributionDiscriminator | Energy distribution discriminator (desde R2023a) |
ODINDistributionDiscriminator | ODIN distribution discriminator (desde R2023a) |
HBOSDistributionDiscriminator | HBOS distribution discriminator (desde R2023a) |
Temas
- Verification of Neural Networks
Learn about verification of neural networks using Deep Learning Toolbox™ Verification Library.
- Verify Robustness of Deep Learning Neural Network
This example shows how to verify the adversarial robustness of a deep learning neural network.
- Verify Robustness of ONNX Network
This example shows how to verify the adversarial robustness of an imported ONNX™ deep neural network. (desde R2024a)
- Deep Learning Visualization Methods
Learn about and compare deep learning visualization methods.
- Out-of-Distribution Detection for Deep Neural Networks
This example shows how to detect out-of-distribution (OOD) data in deep neural networks.
- Verify an Airborne Deep Learning System
This example shows how to verify a deep learning system for airborne applications and is based on the work in [5,6,7], which includes the development and verification activities required by DO-178C [1], ARP4754A [2], and prospective EASA and FAA guidelines [3,4]. (desde R2023b)