注册 登录
查看: 425|回复: 5

浮点运算异常

[复制链接]
发表于 2015-1-10 16:28:31 | 显示全部楼层 |阅读模式
在用浮点运算的时候出现小数点后移的现象,程序如下
  1. volatile float test_f1 = 20, test_sum, test_f2 = 8.64;
在单步调试过程出现
  加法  减法
  乘法
除法
貌似就除法是对的

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有帐号?注册

x
回复

使用道具 举报

发表于 2015-1-10 16:30:23 | 显示全部楼层
科学计数法啊。。。
回复 支持 反对

使用道具 举报

 楼主| 发表于 2015-1-10 16:40:15 | 显示全部楼层
玄来玄去 发表于 2015-1-10 16:30
科学计数法啊。。。

确定是科学计数法??我又蠢了

回复 支持 反对

使用道具 举报

发表于 2015-1-10 16:43:12 | 显示全部楼层
阳光里的夏天 发表于 1420879215
确定是科学计数法??我又蠢了
IAR 浮点数里显示的都是科学计数法的。
来自PC客户端 来自PC客户端
回复 支持 反对

使用道具 举报

 楼主| 发表于 2015-1-10 16:49:22 | 显示全部楼层
山外メ雲ジ 发表于 2015-1-10 16:43
IAR 浮点数里显示的都是科学计数法的。

好吧,以前都不知道。
回复 支持 反对

使用道具 举报

发表于 2015-1-10 17:36:15 | 显示全部楼层
test_f1 = 20

在watch 里看到的是:2.000 e1  好像是这样子
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 注册

本版积分规则

快速回复 返回列表 返回顶部