大佬教程收集整理的这篇文章主要介绍了这是一个bug？浮动操作被视为整数，大佬教程大佬觉得挺不错的，现在分享给大家，也给大家做个参考。
String value = “0.01”; float convertedValue = float.Parse(value); return (int)(convertedValue * 100.0f);
但是这个操作返回1：
String value = “0.01”; float convertedValue = float.Parse(value) * 100.0f; return (int)(convertedvalue);
因为convertedValue是一个浮点数,而是在括号中* 100f不应该被视为浮动操作？
String value = "0.01"; float convertedValue = float.Parse(value); return (int)(convertedValue * 100.0f);
在此示例中,该值被解析为80位浮点数,用于计算机的内部浮点地牢.然后将其转换为32位浮点数以存储在convertedValue变量中.这使得值被四舍五入,似乎是略小于0.01的数字.然后将其转换回80位浮点数乘以100,将舍入误差增加100倍.然后将其转换为32位int.这导致float被截断,并且由于它实际上略小于1,所以int转换返回0.
String value = "0.01"; float convertedValue = float.Parse(value) * 100.0f; return (int)(convertedvalue);
在此示例中,该值再次解析为80位浮点数.然后将其乘以100,然后将其转换为32位浮点数.这意味着舍入误差是如此之小,当转换为32位浮点型存储在convertedValue中时,它将舍入到正好为1.然后当转换为int时,您将获得1.
主要思想是计算机使用高精度浮点进行计算,然后在值存储在变量中时对其进行舍入.您使用浮动物体的分配越多,舍入误差越多.
以上是大佬教程为你收集整理的这是一个bug？浮动操作被视为整数全部内容，希望文章能够帮你解决这是一个bug？浮动操作被视为整数所遇到的程序开发问题。
如果觉得大佬教程网站内容还不错，欢迎将大佬教程推荐给程序员好友。
本图文内容来源于网友网络收集整理提供，作为学习参考使用，版权属于原作者。
如您有任何意见或建议可联系处理。小编QQ：384754419，请注明来意。