Esta página es para la versión anterior. La página correspondiente en inglés ha sido eliminada en la versión actual.
Precisión
Las palabras computacionales constan de un número finito de bits. Esto significa que la codificación binaria de las variables es solo una aproximación a un valor real de precisión arbitraria. Por lo tanto, las limitaciones de la representación binaria introducen automáticamente limitaciones en la precisión del valor.
Temas
- Maximize Precision
To maximize precision, make the slope as small as possible while keeping the range adequately large.
- Rounding Modes
Learn about the different rounding modes available in Fixed-Point Designer™.
- Net Slope and Net Bias Precision
Net slope and bias precision, detecting precision loss, underflow, and overflow.
- Detect Fixed-Point Constant Precision Loss
This example shows how to detect fixed-point constant precision loss.
- Use Scaled Doubles to Avoid Precision Loss
How to avoid precision loss by overriding the data types in your model with scaled doubles.
Ejemplos destacados
Compute Quantization Error
Compute and compare the statistics of the signal quantization error when using various rounding methods.
