哈尼马甲 发表于 2014-12-11 11:39

Excel线性拟合,斜率偏小10倍的原因?

处理一组数据,总觉得没对,仔细看了看,发现是线性拟合显示的公式不对,虽然现在问题解决了,不过还是想具体分咨询下,以防以后也出现这种问题。

X: 0.56320.8448    2.816
Y: 178229   227417   510772
直接画散点图,添加趋势线,(默认设置下)显示公式y=14618x+99639   r^2=0.999

slope公式算为 y=146188x+99639然后这个才是对的。

在“设置趋势线标签格式”处“数字”项目下类别从“常规”改成“数字”会显示正确的斜率(146188.98)。

于是确定是显示的问题,现在的问题是为什么会显示成这样,如何修改默认设置可破?担心下次也遇到同样问题,自己却一时没发现,造成工作失误。。

PS:word2007




----发送自 HUAWEI H60-L01,Android 4.4.2

哈尼马甲 发表于 2014-12-11 13:40

都没S1er回复。。帖子都要沉了。。。

----发送自 HUAWEI H60-L01,Android 4.4.2

refo2613 发表于 2014-12-11 13:47

y2z 发表于 2014-12-11 13:55

EXCEL2013,直接显示Y=146189X+99639 R2=0.9995

ostcollector 发表于 2014-12-11 14:02

word 2013,无问题

navarra 发表于 2014-12-11 14:03

打2007 sp3补丁了吗

----发送自 samsung SM-N9002,Android 4.4.2

哈尼马甲 发表于 2014-12-11 17:09

不清楚,是一台仪器的电脑。下班了,明天看看。。是那个的原因吗?

----发送自 HUAWEI H60-L01,Android 4.4.2

chronicle 发表于 2014-12-11 20:56

做统计为什么不用spss呢。。。。

哈尼马甲 发表于 2014-12-11 21:25

chronicle 发表于 2014-12-11 20:56
做统计为什么不用spss呢。。。。

就是标线计算一下含量。。不需要统计。

哈尼马甲 发表于 2014-12-11 21:26

chronicle 发表于 2014-12-11 20:56
做统计为什么不用spss呢。。。。

就是标线计算一下含量。。不需要统计。

绕指流光 发表于 2014-12-12 10:37

手头刚好有07和13两个版本,确认了一下的确07有这个问题,是由常规格式引起的。13则没问题
百度了一下,其实本质上还是常规格式有效位数取舍的问题,没有解决的好办法,请手动设置为其他格式以防出错

请参考:
趋势线方程和 R 平方值初始显示为舍入到的 5 位数字。如要显示更多位数,请按下列步骤操作:
打开带有图表的文件。
双击趋势线方程式或 R 平方值文本。
在数字选项卡上,单击类别列表中的数字,然后将“小数位数”设置更改为 30 或小于 30 的数字。
单击确定。备注:即使可以将数字类别的小数位数设置为 30,Excel 中的显示值最大也只能精确到 15 位。其余位数均显示为 0。

绕指流光 发表于 2014-12-12 10:38

其实这应该算是一个bug,6位数字舍入5位后刚好又加了一个x,于是就没有对6位数做科学计数法处理了

哈尼马甲 发表于 2014-12-12 13:21

绕指流光 发表于 2014-12-12 10:38
其实这应该算是一个bug,6位数字舍入5位后刚好又加了一个x,于是就没有对6位数做科学计数法处理了 ...

谢谢你的详细解释,改不了的我就手动设置,或者看看能不能更新一下。

卡米拉大人 发表于 2014-12-13 10:56

拟合为啥不用MATLAB……直接图形界面能弄,还能自己选择拟合点

——— 来自Stage1st Reader For iOS

哈尼马甲 发表于 2014-12-13 17:37

我倒是会用。。。其他人咋办?问题是我只是想先预判一下实验结果。。最终是仪器工作站出拟合曲线算结果。

----发送自 HUAWEI H60-L01,Android 4.4.2
页: [1]
查看完整版本: Excel线性拟合,斜率偏小10倍的原因?