小数

物理世界是连续的,人的认知是有限的,所以处理的数据都是有限的小数。

基于这个特点,绝大部分数字系统中的处理都是定点

定点的缺点在于表示的数据范围有限,于是就有了浮点数

这样一来,就出现了数据表示误差(一半是天使,一般是恶魔)

特别是在和用户交互过程中,如果没有能有效处理用户的输入,恶魔就敲门了。例如用户输入一个数,再读取回来就发现和输入的不一致(xxx99999)

归根结底,系统中需要一个完善的定点系统,放弃掉基本的整型/浮点数表示。

使用两种方式来表示:指数形式,AAAAA+E,前面表示有限的数据,后面的E表示实际的范围或者单位

分数M/N的形式,进行计算时需要将M/N代入公式成为(M*X)/N的形式,在这个过程中需要防止(M*X)溢出。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容

  • 定点小数运算 来自:http://www.eepw.com.cn/article/17893.htm 在DSP世界...
    郝宇峰阅读 9,415评论 0 2
  • 今年一月四号,看到李笑来在公众号里说每天不管多忙多累都要写三千字,于是我冒出了“每天写五百字”的念头。 寒往暑来,...
    张永胜_永往直前阅读 307评论 0 3
  • 1.温泉宾馆群鸭突中毒 今年立春早,春节未过,天气就日渐暖和了。英华鸭集团董事长为了让员工们休好春节假,养精蓄...
    米老爹阅读 1,512评论 45 34
  • 疲倦、迷茫、无所适从。家里人的催促加上自己内心的倦怠,真的觉得亚历山大。我现在开始慢慢怀疑很多东西,爱情、职业、性...
    Scarlett_moon阅读 150评论 0 0
  • 有的时候静下来想想我总会很害怕,怕我会失去婚姻和爱情。因为家庭关系不和谐。很怕。 因为一直不太喜欢他爸妈有失水准的...
    又一彼岸花阅读 340评论 0 0