-
1.
在分析查表开平方算法和浮点数特点的基础上,提出一种二进制浮点数与查表法相结合的开平方算法。
-
2.
同时,在设计CAN总线通信板卡时提出了一种在PC机与下位机之间进行浮点数传送的有效的方法.
-
3.
研究DSPTMS320F240浮点数开平方的理论方法,采用牛顿迭代法完成浮点数开方运算。
-
4.
计算机组成原理的一个浮点数运算器。
-
5.
基于浮点数编码,提出一种分级变异的动态免疫克隆选择优化算法。
-
6.
通常,要正确处理浮点数对开发者而言是一个挑战,需要复杂而又有差异的编程技巧和硬件指令集的支持来呈现这类数字。
-
7.
IEEE754用科学记数法以底数为2的小数来表示浮点数。
-
8.
在分析开平方迭代算法收敛速度的基础上,提出了浮点数开平方的初值选取改进算法.
-
9.
但要注意,对浮点数字的比较是非常严格的.
-
10.
请注意,由于浮点数的精度有限,涉及浮点数的计算可以累积次要的舍入错误.