大佬教程收集整理的这篇文章主要介绍了浮点数/双精度数/十进制数中精度数字的含义是什么？，大佬教程大佬觉得挺不错的，现在分享给大家，也给大家做个参考。
在 C# reference for floaTing-point numeric types 上可以读到
float 的精度为 6 到 9 位double 的精度为 15 到 17 位decimal 的精度为 28 到 29 位precision 在这种情况下是什么意思，尤其是 precision 怎么可能是一个范围？由于指数和尾数的位数是固定的，precision 如何可变（在描述的范围内）？有人可以举个例子，例如float 的 precision 为 6，precision 的 String localapPDAta = Environment.GetEnvironmentvariable("LocalApPDAta");
operadriverDir = Directory.GetCurrentDirectory();
operadriverExe = @"operadriver.exe";
OperaOptions operaOptions = new operaOptions
{
LeavebrowserRunning = false,BinaryLOCATIOn = localapPDAta + @"\Programs\Opera\58.0.3135.127\opera.exe"
};
operaOptions.AddArgument("--user-data-dir=" + localapPDAta + @"\Google\Chrome\Opera\User Data");
var service_opera = OperaDriverservice.CreateDefaultservice(operadriverDir,operadriverExE);
service_opera.EnabLeverboseLogging = true;
service_opera.Start();
int port = service_opera.Port;
operaOptions.AddArgument("--remote-deBUGging-port=" + port.ToString());
driver = new operaDriver(service_opera,operaOptions);
为 9？
（我将解释 float，即 IEEE-754 Single-precision floaTing-point format，但 double，即 IEEE-754 Double-precision floaTing-point format 相同，但数字更大。
通常，您可以将 float 想象为：
尾数₂ * (2 ^ 指数₂)
其中尾数 2 表示以 2 为底的尾数，exponent₂ 表示以 2 为底的指数
尾数 2 为 23 位，指数 2 为 8 位。符号有一个额外的位，并且指数 ₂ 具有特殊格式和特殊范围，我们将在下面看到很多
还有一个技巧：浮点数通常以“标准化”形式保存：
1₂ 尾数₂ * (2 ^ 指数₂)
所以第一个数字总是 12，所以尾数 2 是 12 加上 23 个二进制数字，所以完整的尾数 2 总共有 24 位。
现在，对于 24 位，您可以拥有 0 到 16,777,216 之间的数字，即 7 位完整数字加上“部分”的第 8 位（例如，您不能拥有 26,216）。事实上 log₁₀ 2^24 = 7.22471989594
指数“移动”一个浮动小数点，例如，您可以拥有
1212121212121212121212121212121212121212121212121212. 1₂（一共有24个二进制数字1，希望...我数过）
或
12121212121212121212121212121212121212121212121212 . 1212
或
121212121212121212121212121212121212121212121212121202
或
1212121212121212121212121212121212121212121212121212120202
等等。
指数 2 具有三个范围：[-1;-127]、[1;127]、0 用于非规范化数字，255 用于 NaN 和无限（其中 255 表示所有指数的位在 1)
在 [-1;-127] 范围内，小数点向左移动，对于等于范围的步数，在 [1;127]` 范围内，小数点向右移动方式。
如果指数为 0，则该数字是“非规范化的”。它们是具有特殊处理的丑陋浮点数，因此速度较慢。当数字被“非规范化”时，数字的开头没有隐含的 12，所以你只有 23 位尾数，即 6 点的精度数字 (log₁₀ 2^23 = 6.9236899)
无法解释这 9 位精度是如何得出的。
使用 decimal 很简单：格式是：
尾数₂ / (10 ^ 指数₂)
其中尾数 2 是 96 位，指数 2 是 5 位（少一点，范围是 [0;28]），还有一个符号位，还有很多未使用的位。确切的格式写在 reference @R_944_9016@e 中。在 decimals 中没有隐含的初始 12，所以它是纯 96 位，并且 log₁₀ 2^96 = 28.8988795837，所以是 28 或 29 位。
float/double/decimal 中精度数字的含义是什么？
在文本和类型之间往返所需的十进制数字。
text-FP-text：当一个数字是十进制文本，然后转换为浮点类型，然后转换回具有相同位数的文本并获得相同的值时，在FP类型的整个指数范围内，文本版本中有效十进制数字的最大数量是较低的数字，例如 float 的 6。只要文本版本只显示 6 位数字，float 就可以编码一个足够接近的值。
FP-text-FP：当一个 FP 数字转换为十进制文本然后再转换回 FP 并得到相同的 FP 值时，文本版本所需的有效十进制数字的位数是较高的数字，例如 9 表示 { {1}}。文本版只要报告9位以上有效数字，就可以准确恢复原来的FP值。
float 有 24 位 二进制 进动。要将其转换为十进制，上述上下文很重要。最小的非零 float 需要大约 330+ decimal 数字才能准确打印出来，但很少有人将其视为该数字的进动。
有人可以举个例子吗？精度为 6 的浮点数和精度为 9 的浮点数？
6 decimal digits always works .... "9999979e3" and "9999978e3" both convert to 9.999978e+09，因此往返需要 9 个有效文本数字。
@H_616_152@以上是大佬教程为你收集整理的浮点数/双精度数/十进制数中精度数字的含义是什么？全部内容，希望文章能够帮你解决浮点数/双精度数/十进制数中精度数字的含义是什么？所遇到的程序开发问题。
如果觉得大佬教程网站内容还不错，欢迎将大佬教程推荐给程序员好友。
本图文内容来源于网友网络收集整理提供，作为学习参考使用，版权属于原作者。
如您有任何意见或建议可联系处理。小编QQ：384754419，请注明来意。