IT博客汇
首页
精华
技术
设计
资讯
扯淡
权利声明
登录
注册
浮点数(有限浮点数、无限循环浮点数)的精确表达 - 聆听的风声
聆听的风声
发表于
2015-11-18 14:27:00
love
0
【摘要】在计算机中,是否decimal或者float或者double来存储小数是不能得到精确值得。如果你希望能得到精确的计算结果,最好是用分数形式来表示小数。有限小数或者无限循环小数都可以转化为分数。 例如: 0.9=9/10 0.333(3)=1/3给定一个小数,它的形式为0.34、0.30、...
阅读全文