请问matlab中如何控制数据精度?
matlab默认的数据类型是double(64位)现在我生成了一些小数数值想让它们以小数点后不同的位数参与运算查看结果:例如:1.23568561、取小数点后1位:取1....
matlab默认的数据类型是double(64位) 现在我生成了一些小数数值 想让它们以小数点后不同的位数参与运算查看结果:
例如:1.2356856
1、取小数点后1位:取1.2运算 ;
2、取小数点后3位:取1.236运算;
3、取小数点后5位:取1.23569运算;
……
应当怎么处理?
format函数不行,format只能改变显示长度,对参与运算的精度无法控制
用vpa也不行,因为vpa只能取有效数字,碰到太小的数比如0.000000567754这样的数就无法控制取小数点后几位了
请问该如何处理? 展开
例如:1.2356856
1、取小数点后1位:取1.2运算 ;
2、取小数点后3位:取1.236运算;
3、取小数点后5位:取1.23569运算;
……
应当怎么处理?
format函数不行,format只能改变显示长度,对参与运算的精度无法控制
用vpa也不行,因为vpa只能取有效数字,碰到太小的数比如0.000000567754这样的数就无法控制取小数点后几位了
请问该如何处理? 展开
2个回答
展开全部
从您的提问中可以发现,您是有一定的Matlab基础的。
我建议您用round函数进行控制精度。延用您举的例子。为了书写方便,就设1.2356856为x。
取小数点后1位,round(x*10)/10即可;
取小数点后2位,round(x*100)/100即可;
依此类推,取小数点后n位,round(x*10^n)/10^n即可;
取小数点前1位,round(x/10)*10即可;
取小数点前2位,round(x/100)*100即可;
依此类推,取小数点前n位,round(x*10^(-n))/10^(-n)即可;
希望我的回答能够解答您的疑惑,谢谢。
我建议您用round函数进行控制精度。延用您举的例子。为了书写方便,就设1.2356856为x。
取小数点后1位,round(x*10)/10即可;
取小数点后2位,round(x*100)/100即可;
依此类推,取小数点后n位,round(x*10^n)/10^n即可;
取小数点前1位,round(x/10)*10即可;
取小数点前2位,round(x/100)*100即可;
依此类推,取小数点前n位,round(x*10^(-n))/10^(-n)即可;
希望我的回答能够解答您的疑惑,谢谢。
推荐律师服务:
若未解决您的问题,请您详细描述您的问题,通过百度律临进行免费专业咨询