set-precision  ( n -- )

publication: 9 janvier 2022 / mis à jour 1 décembre 2023

Read this page in english

 

vocabulaire: forth

Modifie la précision d'affichage des nombres Réels.

La précision de calcul sur des nombres réels s'arrête à 6 décimales. Si vous demandez une précision supérieure à 6 sur les décimales des nombres réels, les valeurs affichées au-delà de 6 décimales seront fausses.

Exemple:

pi f.    \ display 3.141592 
2 set-precision 
pi f.    \ display 3.14 
 
20 set-precision 
1e 3e f/ f.   \ display 0.33333350400826286262 

Legal: site web personnel sans commerce / personal site without seling