Matlab中的数值精度问题

最新推荐文章于 2025-06-18 11:50:05 发布

你可真搞笑

最新推荐文章于 2025-06-18 11:50:05 发布

阅读量5.8k

点赞数 2

CC 4.0 BY-SA版权

分类专栏： Matlab 文章标签： matlab 几何学

本文链接：https://blog.csdn.net/weixin_43568289/article/details/121386329

Matlab 专栏收录该内容

55 篇文章 ¥39.90 ¥99.00

订阅专栏

超级会员免费看

本文探讨了在Matlab中遇到数值精度问题时如何解决，主要介绍了利用符号工具箱中的digits和vpa函数来提高计算精度，以确保结果的准确性。通过示例代码展示了vpa函数的应用，以及如何通过修改代码来达到同样的效果。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

数值的计算精度一直科学计算重点关注的内容之一，小编在本文就给大家演示一下如何提高计算的精度，重点依旧是采用符号工具箱，当然代价就是计算的速度下降。

实例：

% 测试代码
clear;

rowData = [ 0000011000110000000 ...
            0000011000100000000 ...
            0000011000010000000];
        
PHS =   rowData/1e6/1e7 - ...
        mod(rowData,1e6*1e7)/1e6/1e7;   % 截断后13位，输出为[1 1 1]
   
mod(PHS,1)   % 对截断后的数据再对1取余数，结果应该都是0。
             % 但是仿真下来第2个元素输出的是1。

由于采用数值运算导致运算的精度不够，可以考虑使用digits和vpa函数提高精度，代码如下所示：

clear;

digits(100)

rowData = [ 0000011000110000000 ...
            0000011000100000000 ...
            0000011000010000000];

PHS =   vpa(rowData/1e6/1e7 - ...
        mod(rowData,1e6*1e7)/1e6/1e7);   % 截断后13位，输出为[1 1 1]

mod(PHS,1)

运行后可以发现，使用vpa函数可以得出正确的结果。

那么针对本问题，除了可以使用vpa函数外得到正确结果，还可以通过对其最后一行代码进行修改，得到正确结果：

mod(ceil(PHS),1) % 使用ceil函数向上取整，但是这个方法不通用