大家好,欢迎来到IT知识分享网。
高精度(High Precision)计算是指处理那些超出了标准数据类型(如整数、浮点数等)表示范围或精度限制的数值运算。
从定义上可以看出,它旨在处理两种存在精度问题的情况:
1.数据溢出。我们常用的数据类型(如int型)都是有能表示的数据范围的,超出了范围自然计算结果就会存在偏差。
2.精度不足。对于浮点数来说,本身就存在精度不高的问题。当有更高的精度要求时(典型的就是金融领域),就得用到高精度计算。
高精度计算其实也没那么神秘,无非就是单独存储各个位上的数字(通常使用数组),然后就像我们人工计算那样逐位计算,只不过这个过程中可能会用到某些高级算法来提高运算效率。
免责声明:本站所有文章内容,图片,视频等均是来源于用户投稿和互联网及文摘转载整编而成,不代表本站观点,不承担相关法律责任。其著作权各归其原作者或其出版社所有。如发现本站有涉嫌抄袭侵权/违法违规的内容,侵犯到您的权益,请在线联系站长,一经查实,本站将立刻删除。 本文来自网络,若有侵权,请联系删除,如若转载,请注明出处:https://haidsoft.com/124268.html