服务器之家:专注于VPS、云服务器配置技术及软件下载分享
分类导航

PHP教程|ASP.NET教程|Java教程|ASP教程|编程技术|正则表达式|C/C++|IOS|C#|Swift|Android|VB|R语言|JavaScript|易语言|vb.net|

服务器之家 - 编程语言 - C# - C# double类型变量比较分析

C# double类型变量比较分析

2022-10-21 13:07川master C#

这篇文章主要介绍了C# double类型变量比较分析,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧

double类型变量

怎么比较大小

通过使用double.equals(doubale a,double b)进行比较时,发现两个数值不是相等。

C# double类型变量比较分析

图中sum为从0加0.1累计到1,按数学计算应该为1.0,但是在计算机中计算为0.9999999999,通过double.equals或者直接用==进行等量判断时,发现不相同。

这说明double类型不能直接进行等量判断,那么怎么进行比较呢?

类型转换为decimal

将float模型转换成decimal可以直接进行判断了.

C# double类型变量比较分析

可以看出两个值都是1,这样就可以直接进行比较了。

综上所述,在进行数值比较时,如果使用double类型时,不能直接进行等量判断,需要通过两值相减小于某个定义的值如0.0000001来判断两值相等或者转换为其他类型进行判断。

补充知识:c#中Double类型的使用场景

【Double】

double类型在程序中定义变量会经常使用,如果使用不当,会导致实际值精度问题出现,例子如下:

?
1
2
3
4
5
6
Double d1 = 66.09;
Double d2 = 89.943;
Double d3 = 156.033;
d2 = d1 + d2; //两个double 类型相加的结果是:156.03300000000002
Console.WriteLine(d2.CompareTo(d3)); //导致最终的结果是d2的值大于d3的值,但是实际看到的值是相等的
Console.ReadLine();

【解决方案】

使用Decimal类型定义后保证小数的精确度,两个相同类型的decimal相加后可以确保程序不会自动添加进度到结果值中,这样就能够避免出现以上情况发生

?
1
2
3
4
5
6
Decimal d1 = 66.09M;
Decimal d2 = 89.943M;
Decimal d3 = 156.033M;
d2 = d1 + d2;
Console.WriteLine(d2.CompareTo(d3));
Console.ReadLine();

以上这篇C# double类型变量比较分析就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持服务器之家。

原文链接:https://blog.csdn.net/yuyanchuan/article/details/78199652

延伸 · 阅读

精彩推荐
  • C#C#多线程编程详解

    C#多线程编程详解

    C#提供了丰富的多线程操作,为编程带来了极大的便利,但如果使用不当也会带来各种各样的麻烦。本篇文章主要介绍了C#多线程,有需要的可以了解一下。...

    阿凡卢5272021-12-10
  • C#解析错误富文本json字符串(带双引号)的快速解决方法

    解析错误富文本json字符串(带双引号)的快速解决方法

    下面小编就为大家带来一篇解析错误富文本json字符串(带双引号)的快速解决方法。小编觉得挺不错的,现在就分享给大家,也给大家做个参考。一起跟随小...

    C#教程网5542021-12-02
  • C#webBrowser执行js的方法,并返回值,c#后台取值的实现

    webBrowser执行js的方法,并返回值,c#后台取值的实现

    下面小编就为大家带来一篇webBrowser执行js的方法,并返回值,c#后台取值的实现。小编觉得挺不错的,现在就分享给大家,也给大家做个参考。一起跟随小编过...

    C#教程网11132021-12-13
  • C#详谈C# 图片与byte[]之间以及byte[]与string之间的转换

    详谈C# 图片与byte[]之间以及byte[]与string之间的转换

    下面小编就为大家带来一篇详谈C# 图片与byte[]之间以及byte[]与string之间的转换。小编觉得挺不错的,现在就分享给大家,也给大家做个参考。一起跟随小编...

    C#9742021-12-24
  • C#C#中using指令的几种用法

    C#中using指令的几种用法

    本文介绍的是C#中using指令的几种用法,希望对你有帮助,一起来看吧!...

    C#教程网4462021-11-01
  • C#C#中的事务用法实例分析

    C#中的事务用法实例分析

    这篇文章主要介绍了C#中的事务用法,以一个简单实例形式分析了C#创建及使用事物的相关技巧,具有一定参考借鉴价值,需要的朋友可以参考下...

    yenange12292021-10-27
  • C#C#遍历集合与移除元素的方法

    C#遍历集合与移除元素的方法

    这篇文章主要介绍了C#遍历集合与移除元素的方法,结合实例形式分析了C#使用for循环遍历集合以及add与Remove方法进行元素添加与移除的使用技巧,需要的朋友...

    jixiaomeng10832021-11-29
  • C#C# List引用类型克隆的3种方法

    C# List引用类型克隆的3种方法

    这篇文章主要给大家介绍了关于C# List引用类型克隆的3种方法,包括反射、序列化(依赖Newtonsoft.Json) 以及序列化(BinaryFormatter)的实现方法,需要的朋友可...

    陈国良9802022-03-09