|
|||||
|
|
| 计算器的计算误差与计算精确度的研讨 | |
| 引用本文： | 张允中. 计算器的计算误差与计算精确度的研讨[J]. 林业建设, 2002, 0(6): 24-27 |
| 作者姓名： | 张允中 |
| 作者单位： | 云南农业大学林业职业技术学院，云南 昆明 650224 |
| 摘 要： | 程序型计算器在林业上应用十分广泛，而用计算器进行数值计算都可能出现误差。现给出减小误差的原理和算法途径；指出不同档次的计算工具有不同的计算精度确度，应根据对计算误差的要求进行恰当选用；CASIOfx-3000p系列计算器因节省末3Bit位而采用“七舍八入”的特殊处理规则导致误差过大。 |
| 关 键 词： | Casio计算器 计算误差 计算精度 程序型计算器 可靠数位 有效数位 原因分析 |
| 修稿时间： | 2002-08-31 |
Study on precision and error for calculation of the calculator |
|
| Abstract: | |
| Keywords: | |
| 本文献已被 CNKI 维普 万方数据 等数据库收录！ | |