Berekent elke rekenkundige functie met een precisie van 16 tot 400 cijfers achter de komma.
SetPrecision (uitdrukking ; precisie)
uitdrukking
- een numerieke uitdrukking
precisie
- een getal of een numerieke uitdrukking voor het aantal decimalen
getal
7.0
Alle functies behalve de trigonometrische functies ondersteunen uitgebreide precisie. Deze functie voert geen verkorting uit.
SetPrecision (5/9;30)
geeft als resultaat 0,555555555555555555555555555556.
SetPrecision (1,321321321321321321321321321;0)
geeft als resultaat 1,3213213213213213.
SetPrecision (If (veld1>5 ; Exp(50) ; Average (5/9;1/7;5/7)) ; 25)
geeft als resultaat
5184705528587072464087.4533229334853848274691006 als veld1 > 5 of
0.4708994708994708994708995 als veld1 <= 5.