登录学犀牛中文网更精彩
手机短信,快捷登录
微信登录,快人一步
只需一步,快速开始
发布于 2018-9-8 0 点赞 5 评论 1422 浏览
killersfb
实习生
查看完整内容
本版积分规则 回复 回帖并转播 回帖后跳转到最后一页
文明上网理性发言、请文明用语
举报
嗯,谢谢解答
是的
春日之丘 发表于 2018-9-18 21:38 这个问题我也发现了,不是只有等号包含大于及小于都会有这个问题,有时正常有时不正常 我反覆测试后得到一 ...
乌龙 发表于 2018-9-10 18:17 用约等于就没有问题
我反覆测试后得到一个答案,精度问题,不知为什么GH在计算到后面会发生这个怪问题
你在数据资料加上浮点计算Round控制在小数后三位,再计算就一切正常
另外希望在提问时附上GH,别人要帮你测试也方便一点
举报