Accuracy small numbers converted to symbolic

1 visualización (últimos 30 días)
Martin Baumann
Martin Baumann el 4 de Mayo de 2021
Comentada: Martin Baumann el 6 de Mayo de 2021
Any idea how to eliminate the inaccuracy occuring when converting small numbers to symbolic:
Current Example:
>> sym(2e-6)
ans =
4722366482869645/2361183241434822606848
>> sym(2e-5)
ans =
1/50000

Respuesta aceptada

Walter Roberson
Walter Roberson el 4 de Mayo de 2021
sym('2e-6')
ans = 
0.000002
sym(2)*10^(-6)
ans = 
  1 comentario
Martin Baumann
Martin Baumann el 6 de Mayo de 2021
Thank you Walter, great idea and does the trick. Regards, Martin

Iniciar sesión para comentar.

Más respuestas (0)

Community Treasure Hunt

Find the treasures in MATLAB Central and discover how the community can help you!

Start Hunting!

Translated by