Calculation error for floor function floor(1.4/0.025)
11 visualizaciones (últimos 30 días)
Mostrar comentarios más antiguos
if x = floor(1.4/0.025) is 55 in Matlab, how does y = 1.4/0.025 is 56?
0 comentarios
Respuesta aceptada
Iain
el 20 de Mayo de 2013
1.4/0.025 actually evaluates to 55.9999999999999928946.
The error is in the FIFTEENTH decimal place, which is an extremely small error, however, it is less than 56, and will "floor" to 55.
0 comentarios
Más respuestas (1)
Ver también
Categorías
Más información sobre Logical en Help Center y File Exchange.
Productos
Community Treasure Hunt
Find the treasures in MATLAB Central and discover how the community can help you!
Start Hunting!