Accuracy small numbers converted to symbolic
1 visualización (últimos 30 días)
Mostrar comentarios más antiguos
Martin Baumann
el 4 de Mayo de 2021
Comentada: Martin Baumann
el 6 de Mayo de 2021
Any idea how to eliminate the inaccuracy occuring when converting small numbers to symbolic:
Current Example:
>> sym(2e-6)
ans =
4722366482869645/2361183241434822606848
>> sym(2e-5)
ans =
1/50000
0 comentarios
Respuesta aceptada
Más respuestas (0)
Ver también
Categorías
Más información sobre Symbolic Variables, Expressions, Functions, and Preferences en Help Center y File Exchange.
Community Treasure Hunt
Find the treasures in MATLAB Central and discover how the community can help you!
Start Hunting!