注册 登录
查看: 299|回复: 4

[K60] 浮点数相乘得不到正确的结果

[复制链接]
发表于 2014-3-18 22:36:05 | 显示全部楼层 |阅读模式
nP=CAR_AA_P_INT*g_nCarAngle;以上变量都是浮点型,其中CAR_AA_P_INT为2.0,g_nCarAngle为-28.0,但得到的nP为-2.08456908E+9。

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有帐号?注册

x
回复

使用道具 举报

发表于 2014-3-18 23:46:34 | 显示全部楼层
FX 开了硬件浮点?
回复 支持 反对

使用道具 举报

 楼主| 发表于 2014-3-20 19:59:05 | 显示全部楼层
阙云亭 发表于 2014-3-18 23:46
FX 开了硬件浮点?

找到错误了,外部调用的时候定义成了浮点型。
回复 支持 反对

使用道具 举报

 楼主| 发表于 2014-3-20 20:09:01 | 显示全部楼层
定义成了整型
回复 支持 反对

使用道具 举报

发表于 2014-3-20 20:32:01 | 显示全部楼层
September 发表于 2014-3-20 20:09
定义成了整型

原来如此,还真的没留意过这问题
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 注册

本版积分规则

快速回复 返回列表 返回顶部