作业帮 > 综合 > 作业

保留4位有效数字,matlab中误差限Tol是多少

来源:学生作业帮 编辑:搜搜考试网作业帮 分类:综合作业 时间:2024/08/02 23:08:22
保留4位有效数字,matlab中误差限Tol是多少
10^-4还是10^-5?
保留4位有效数字,matlab中误差限Tol是多少
你所说的是在什么地方的误差限?
误差限有绝对误差和相对误差之分.如果是绝对误差,决定的是精确到几位小数,并不意味着有效数字的位数;而相对误差则决定有效数字的位数,4位的话取10^-4就可以了.