Why answer of uint8 in .m and mdl are different?

1 visualización (últimos 30 días)
nkumar
nkumar el 27 de Jul. de 2015
Respondida: Walter Roberson el 27 de Jul. de 2015
I have a value of -1.In .m file if i process uint8(-1) i get answer as 0,but in simulink if i feed a constant with -1 and use data conversion of uint8 i get answer as 255.Why do i get different answers.

Iniciar sesión para responder a esta pregunta.

Respuesta aceptada

Walter Roberson
Walter Roberson el 27 de Jul. de 2015
http://www.mathworks.com/help/simulink/slref/datatypeconversion.html
Notice that Saturate on Integer Overflow defaults to Off; you want it to be On.

Más respuestas (0)

Categorías

Más información sobre Sources en Help Center y File Exchange.

Etiquetas

Community Treasure Hunt

Find the treasures in MATLAB Central and discover how the community can help you!

Start Hunting!

Translated by