09-27-2012, 09:37 AM,
|
|||||
|
|||||
RE: 小数点以下の四捨五入について
roundは整数の丸めなので、一度整数にして丸めた後、戻せばよいかと思います。
しかしこの場合でもroundは不具合があるので、下記URLを参照に0.5fを足せばよいでしょう。 {format "%.3f", {round {"1.6555".to-double} * 10000 + 0.5f} / 10000} 参照URL http://developers.curlap.com/faq/48-faq-...48-58.html |
|||||
« Next Oldest | Next Newest »
|
Messages In This Thread |
小数点以下の四捨五入について - by okm - 09-26-2012, 11:03 AM
RE: 小数点以下の四捨五入について - by usami - 09-27-2012, 09:37 AM
RE: 小数点以下の四捨五入について - by okm - 09-27-2012, 10:11 AM
|
Users browsing this thread:
1 Guest(s)
1 Guest(s)