本文介绍了小数在计算机中的存储方式,第一种为定点方式,这种方式很少遇到,但在Matlab中有涉及,见图文《Matlab与线性代数–显示格式的设置》。第二种为浮点方式,一个浮点数由阶码和尾数构成,一旦明白其中的原理,就能够明白float和double类型所表达的存储范围(阶码控制)和精度(尾数控制)是怎么回事了,以便写代码时更好的选择数据类型。
本文介绍了小数在计算机中的存储方式,第一种为定点方式,这种方式很少遇到,但在Matlab中有涉及,见图文《Matlab与线性代数–显示格式的设置》。第二种为浮点方式,一个浮点数由阶码和尾数构成,一旦明白其中的原理,就能够明白float和double类型所表达的存储范围(阶码控制)和精度(尾数控制)是怎么回事了,以便写代码时更好的选择数据类型。