不知道你在说什么。你是不是想说用有限精度计算不合适


所有跟贴·加跟贴·新语丝读书论坛

送交者: Nixrreg 于 2006-09-16, 21:41:44:

回答: 如何从事数学物理和化学研究 (6) 由 林树坤 于 2006-09-16, 13:51:53:

比如中间值要用高精度或符号计算,否则太大或太小,存储溢出,或四舍五入造成误差,连滚带爬,最终结果牙豁豁?



所有跟贴:


加跟贴

笔名: 密码: 注册笔名请按这里

标题:

内容: (BBCode使用说明)