2010年5月6日 星期四

精準度處理

//1000等同取小數三位精準
var fixedValue:int = 1000;

var v1:Number = 0.6;
var v2:Number = 3;
var v3:Number = v1 * v2;
//1.7999999999999998
trace(v3);
v1 = v1 * fixedValue;
v3 = v1 * v2 / fixedValue;
//1.8
trace(v3);

v1 /= fixedValue;
//0.6
trace(v1);

v2 = 6;
v3 = v1*v2;
//3.5999999999999996
trace(v3);

v1 = v1 * fixedValue;
v3 = v1 * v2 / fixedValue;
//3.6
trace(v3);

v1 = 1.2;
v2 = 1.23;
v3 = v1 + v2;
//2.4299999999999997
trace(v3);
v1 *= fixedValue;
v2 *= fixedValue;
v3 = (v1 + v2)/ (fixedValue);
//2.43
trace(v3);

沒有留言:

張貼留言