2010年5月6日 星期四

精準度處理

//1000等同取小數三位精準
var fixedValue:int = 1000;

var v1:Number = 0.6;
var v2:Number = 3;
var v3:Number = v1 * v2;
//1.7999999999999998
trace(v3);
v1 = v1 * fixedValue;
v3 = v1 * v2 / fixedValue;
//1.8
trace(v3);