C#中double 数组里做除法怎么保留小数点后面的数据
double[]yangpin=newdouble[601];//样品int[]huangban=newint[601];//黄板int[]kongbai=newint[...
double[] yangpin = new double[601];//样品
int[] huangban = new int[601];//黄板
int[] kongbai = new int[601];//空白
yangpin[i] = (b[i] - kongbai[i]) / (huangban[i] - kongbai[i]);
像这样 大概是20000/25000 但是结果是0.0 不知道怎么回事 我要保留小数点后6位 展开
int[] huangban = new int[601];//黄板
int[] kongbai = new int[601];//空白
yangpin[i] = (b[i] - kongbai[i]) / (huangban[i] - kongbai[i]);
像这样 大概是20000/25000 但是结果是0.0 不知道怎么回事 我要保留小数点后6位 展开
6个回答
展开全部
在c#中除法默认不保留小数点,
decimal result = 100 / 1000; // result = 0;
需要保留小数点,可以如下
decimal result = 100m / 1000;
m代表decimal.
如果是变量要如何处理呢?这是需要用到Math.Round()
int x= 120;
int y= 100000;
decimal result = (decimal)x / y; // (decimal)x/ y 表示把 x 转换成decimal再做除法运算,int 除 int 是会丢失小数点的。
不过这样的小数点后面的数太多了,需要处理下,这时候需要Math.Round()
decimal result = Math.Round((decimal)x/ y,2); 后面的2表示保留小数点后2位小数
--------------------------------------------------------------------------------------------------------
在C#与法中,“/”除后所得的值的类型,跟他的除数和被除数的类型有关。如:
int a=4;
int b=5;
float c=a/b ;
则结果为0(因为会先进行int的除法操作,得出结果0,再将结果转为float 0;);
总之,得出的数都是整形的,最终发现原来除后所得的值的类型,跟他的除数和被除数的类型有关。所以,应写成:
float a=3;
float b=5;
float c=a/b;
这样,才能得出正确的结论!
在int里,2/5的结果就是0
又因为表达式(float num = 2/5)左边是float,而int可以隐式转换成float,所以,C#把0变成了float的:0.0
如果你要得到正确的结果,必须至少让等号右边的一个数为float:加个小数点,或者加上F:
2.0/5
或
2.0/5.0
或
2f / 5
希望对你有帮助哈!
decimal result = 100 / 1000; // result = 0;
需要保留小数点,可以如下
decimal result = 100m / 1000;
m代表decimal.
如果是变量要如何处理呢?这是需要用到Math.Round()
int x= 120;
int y= 100000;
decimal result = (decimal)x / y; // (decimal)x/ y 表示把 x 转换成decimal再做除法运算,int 除 int 是会丢失小数点的。
不过这样的小数点后面的数太多了,需要处理下,这时候需要Math.Round()
decimal result = Math.Round((decimal)x/ y,2); 后面的2表示保留小数点后2位小数
--------------------------------------------------------------------------------------------------------
在C#与法中,“/”除后所得的值的类型,跟他的除数和被除数的类型有关。如:
int a=4;
int b=5;
float c=a/b ;
则结果为0(因为会先进行int的除法操作,得出结果0,再将结果转为float 0;);
总之,得出的数都是整形的,最终发现原来除后所得的值的类型,跟他的除数和被除数的类型有关。所以,应写成:
float a=3;
float b=5;
float c=a/b;
这样,才能得出正确的结论!
在int里,2/5的结果就是0
又因为表达式(float num = 2/5)左边是float,而int可以隐式转换成float,所以,C#把0变成了float的:0.0
如果你要得到正确的结果,必须至少让等号右边的一个数为float:加个小数点,或者加上F:
2.0/5
或
2.0/5.0
或
2f / 5
希望对你有帮助哈!
展开全部
看看下面的结果
decimal result = 100 / 1000; // result = 0;
需要保留小数点,可以如下:
decimal result = 100m / 1000;
m代表decimal.
如果是变量要如何处理呢?这是需要用到Math.Round()
int x= 120;
int y= 100000;
decimal result = (decimal)x / y; // (decimal)x/ y 表示把 x 转换成decimal再做除法运算,int 除 int 是会丢失小数点的。
不过这样的小数点后面的数太多了,需要处理下,这时候需要Math.Round()
decimal result = Math.Round((decimal)x/ y,2);
后面的2表示保留小数点后2位小数.
decimal result = 100 / 1000; // result = 0;
需要保留小数点,可以如下:
decimal result = 100m / 1000;
m代表decimal.
如果是变量要如何处理呢?这是需要用到Math.Round()
int x= 120;
int y= 100000;
decimal result = (decimal)x / y; // (decimal)x/ y 表示把 x 转换成decimal再做除法运算,int 除 int 是会丢失小数点的。
不过这样的小数点后面的数太多了,需要处理下,这时候需要Math.Round()
decimal result = Math.Round((decimal)x/ y,2);
后面的2表示保留小数点后2位小数.
已赞过
已踩过<
评论
收起
你对这个回答的评价是?
展开全部
因为你都是整型类型的,所以结果会是0,你可尝试把其中一个转换成doblue再做除法
yangpin[i] = (b[i] - kongbai[i]) / Convert.ToDouble(huangban[i] - kongbai[i]);
已赞过
已踩过<
评论
收起
你对这个回答的评价是?
展开全部
double[] yangpin = new double[601];//样品
int[] huangban = new int[601];//黄板
int[] kongbai = new int[601];//空白
yangpin[i] = Math.Round((b[i] - kongbai[i]) *1.0/ (huangban[i] - kongbai[i]),6);
已赞过
已踩过<
评论
收起
你对这个回答的评价是?
展开全部
结果为0.0的原因是 (b[i] - kongbai[i]) 和 (huangban[i] - kongbai[i])的计算结果都是整型,而在c#中整形除法结果默认为整型。
除法的被除数或者除数之一为double类型的,C#将另一项隐式转换为double类型,计算结果为double类型。所以,将 (b[i] - kongbai[i]) 和 (huangban[i] - kongbai[i])任一项或者两项都转换为double类型,即可获得double类型的计算结果。
要想保留小数点后六位,需要用Math.Round()。修改后的代码如下,在C#中通过测试。
int i=0;
double[] yangpin = new double[601];//样品
int[] huangban = new int[601];//黄板
int[] kongbai = new int[601];//空白
int[] b =new int[601];
yangpin[i] = Math.Round(Convert.ToDouble(b[i] - kongbai[i]) / Convert.ToDouble(huangban[i] - kongbai[i]), 6);
除法的被除数或者除数之一为double类型的,C#将另一项隐式转换为double类型,计算结果为double类型。所以,将 (b[i] - kongbai[i]) 和 (huangban[i] - kongbai[i])任一项或者两项都转换为double类型,即可获得double类型的计算结果。
要想保留小数点后六位,需要用Math.Round()。修改后的代码如下,在C#中通过测试。
int i=0;
double[] yangpin = new double[601];//样品
int[] huangban = new int[601];//黄板
int[] kongbai = new int[601];//空白
int[] b =new int[601];
yangpin[i] = Math.Round(Convert.ToDouble(b[i] - kongbai[i]) / Convert.ToDouble(huangban[i] - kongbai[i]), 6);
已赞过
已踩过<
评论
收起
你对这个回答的评价是?
推荐律师服务:
若未解决您的问题,请您详细描述您的问题,通过百度律临进行免费专业咨询