y - JMP
y - JMP
y - JMP
You also want an ePaper? Increase the reach of your titles
YUMPU automatically turns print PDFs into web optimized ePapers that Google loves.
质 量 统 计 应 用 方 法 —— 回 归 分 析<br />
<strong>JMP</strong> 中 国 区<br />
Copyright © 2008, SAS Institute Inc. All rights reserved.
内 容 摘 要<br />
• 公 司 简 介 及 <strong>JMP</strong> 入 门 ( 略 )<br />
• 回 归 分 析 的 基 本 概 念<br />
• 回 归 模 型 的 建 立<br />
• 回 归 模 型 的 诊 断<br />
• 回 归 模 型 的 用 途<br />
• 回 归 分 析 的 综 合 应 用 案 例<br />
• 交 流 与 问 答<br />
Copyright © 2008, SAS Institute Inc. All rights reserved.
如 何 鉴 定 流 程 能 力 的 优 劣 ?<br />
Target<br />
LSL<br />
USL<br />
Copyright © 2008, SAS Institute Inc. All rights reserved.
质 量 管 理 的 发 展<br />
传 统 控 制<br />
阶 段<br />
(QC,<br />
quality<br />
control)<br />
统 计 质 量<br />
控 制 阶 段<br />
(SQC,<br />
statistical<br />
quality<br />
control)<br />
全 面 质 量<br />
管 理 阶 段<br />
(TQM,<br />
total<br />
quality<br />
management)<br />
六 西 格 玛<br />
质 量 管 理<br />
阶 段<br />
( Six Sigma<br />
Management)<br />
1900 1930 1950 1990<br />
Copyright © 2008, SAS Institute Inc. All rights reserved.
<strong>JMP</strong> 是 什 么 ?<br />
• SAS 公 司 的 软 件 事 业 部<br />
• 名 字 源 于 John’s Macintosh Program<br />
• 功 能 强 大 、 使 用 简 单 的 专 业 统 计 质<br />
量 分 析 软 件<br />
• <strong>JMP</strong> 软 件 , 众 多 世 界 知 名 学 府 和 企 业 、 超 过<br />
200,000 名 用 户 的 选 择<br />
Copyright © 2008, SAS Institute Inc. All rights reserved.
Copyright © 2008, SAS Institute Inc. All rights reserved.<br />
2008 全 球 绩 效<br />
-30 余 年 持 续 增 长 ,08 年 营 业 收 入 达 到 22.6 亿 美 金
Copyright © 2008, SAS Institute Inc. All rights reserved.<br />
全 球 最 优 秀 的 行 业 领 袖 信 赖 <strong>JMP</strong>
<strong>JMP</strong> ——<br />
让 数 据 分 析 更 轻 松<br />
1. 功 能 强 大 的 数 据 分 析 能 力<br />
2. 卓 越 的 可 视 化 效 果<br />
3. 简 单 易 懂 的 操 作 方 式<br />
Copyright © 2008, SAS Institute Inc. All rights reserved.
统 计 分 析 能 力<br />
基 本 统 计<br />
回 归 分 析<br />
方 差 分 析<br />
列 联 表<br />
模 型 拟 合<br />
描 述 性 统 计<br />
线 性 回 归<br />
一 般 方 差 分 析<br />
卡 方 分 析<br />
分 段 拟 合<br />
单 样 本 、 双 样 本 t 检 验<br />
多 项 式 回 归<br />
Welch 方 差 分 析<br />
对 应 分 析<br />
样 条 拟 合<br />
配 对 t 检 验<br />
相 关 和 协 方 差<br />
多 元 回 归<br />
逐 步 和 最 佳 子 集 回 归<br />
协 方 差 分 析<br />
广 义 线 性 模 型<br />
Cochran Mantel<br />
Haenszel 检 验<br />
随 机 效 应 模 型<br />
混 合 模 型<br />
单 样 本 方 差 、 等 方 差 检<br />
验<br />
正 态 分 布 的 拟 合 与 检 验<br />
其 他 主 要 分 布 的 拟 合 与<br />
检 验<br />
Logistic 回 归<br />
偏 最 小 二 乘 法<br />
非 线 性 回 归<br />
响 应 面 回 归<br />
正 交 回 归<br />
多 元 方 差 分 析<br />
非 平 衡 方 差 分 析<br />
嵌 套 方 差 分 析<br />
平 均 值 分 析<br />
环 图 多 重 比 较<br />
统 一 尺 度 估 计<br />
对 数 方 差<br />
反 向 预 测<br />
Box Cox 转 换<br />
参 数 功 效<br />
置 信 区 间 和 预 测 区 间<br />
定 制 检 验<br />
时 间 序 列 分 析<br />
多 元 分 析<br />
仿 真<br />
非 参 数 分 析<br />
样 本 数 量 和 功 效<br />
自 相 关 、 偏 自 相 关 、 交 主 成 分 分 析<br />
叉 相 关<br />
因 子 分 析<br />
ARIMA 分 析<br />
密 度 椭 圆<br />
季 节 性 ARIMA 分 析<br />
聚 类 分 析<br />
平 滑 模 型<br />
判 别 分 析<br />
Winter 法<br />
项 目 分 析<br />
谱 密 度 分 析<br />
对 应 分 析<br />
预 测<br />
联 合 分 析<br />
注 : 蓝 色 为 其 他 统 计 软 件 所 不 具 备 的 功 能<br />
Copyright © 2008, SAS Institute Inc. All rights reserved.<br />
随 机 数 据 生 成 器<br />
随 机 噪 声<br />
多 元 随 机 变 量<br />
随 机 抽 样<br />
与 建 模 密 切 整 合<br />
Wilcoxon 检 验<br />
中 位 数 检 验<br />
Van Der Waerden 检 验<br />
Kruskal-Wallis 检 验<br />
统 计 量 Spearman Rho<br />
统 计 量 Kendall Tau<br />
统 计 量 Hoeffding D<br />
单 样 本 、 双 样 本 和 多 样 本<br />
的 均 值<br />
单 样 本 的 方 差<br />
单 样 本 、 双 样 本 的 比 例<br />
泊 松 分 布
统 计 分 析 能 力<br />
统 计 过 程 控 制<br />
测 量 系 统 分 析<br />
试 验 设 计<br />
生 存 / 可 靠 性 分 析<br />
运 行 图<br />
变 异 源 分 析<br />
完 全 因 子 设 计<br />
分 布 拟 合<br />
变 量 控 制 图<br />
量 具 的 重 复 性 和 再 现 性<br />
筛 选 设 计<br />
WeiBayes 分 析<br />
属 性 控 制 图<br />
量 具 的 偏 倚 和 线 性<br />
响 应 面 设 计<br />
竞 争 原 因 估 计<br />
特 殊 原 因 检 验<br />
嵌 套 型 量 具 分 析<br />
混 料 设 计<br />
参 数 生 存 模 型<br />
操 作 特 性 曲 线<br />
交 叉 嵌 套 混 合 的 量 具 分 析<br />
田 口 设 计<br />
非 线 性 参 数 生 存 模 型<br />
时 间 加 权 控 制 图<br />
属 性 一 致 性 分 析<br />
扩 充 设 计<br />
比 例 危 险 模 型<br />
多 变 量 控 制 图<br />
Kappa<br />
空 间 填 充 设 计<br />
加 速 失 效 模 型<br />
Levey Jennings 控 制 图<br />
判 别 比 率<br />
非 线 性 设 计<br />
可 修 复 系 统 的 再 现 分 析<br />
实 时 控 制 图<br />
可 区 分 类 别 数<br />
定 制 设 计<br />
过 程 能 力 分 析<br />
数 据 挖 掘 : 决 策 树 , 神 经 网 络<br />
注 : 蓝 色 为 其 他 统 计 软 件 所 不 具 备 的 功 能<br />
Copyright © 2008, SAS Institute Inc. All rights reserved.
专 业 图 形<br />
<strong>JMP</strong> 中 的 可 视 化 方 式<br />
动 画 演 示<br />
• <strong>JMP</strong> 提 供 最 专 业 的 统 计 分 析 图 形 : 种 类 、 效 果 、 可 读 性<br />
数 据 与 图 形 的 交 互<br />
• 拒 绝 枯 燥 , 生 动 演 绎 统 计 学 原 理<br />
项 目 管 理<br />
Copyright © 2008, SAS Institute Inc. All rights reserved.<br />
• 真 正 实 现 动 态 链 接 , 瞬 间 揭 示 事 实 真 相<br />
• 融 项 目 管 理 和 数 据 分 析 为 一 体 , 提 高 工 作 效 率
<strong>JMP</strong> 中 的 图 形 种 类<br />
饼 图 、 折 线 图 、 条 形 图 ;<br />
直 方 图 、 箱 型 图 ;<br />
散 点 图 、3D 散 点 图 、 散 点 图 矩 阵 ;<br />
运 行 图 、 时 间 序 列 图<br />
分 位 数 图 、 茎 叶 图 、CDF 图 ;<br />
Pareto 图 、 鱼 骨 图 ;<br />
贝 叶 斯 图 ;<br />
立 方 图 ;<br />
等 高 线 图 、 曲 面 图 、 三 元 图 ;<br />
刻 画 器 、 定 制 刻 画 器 ;<br />
平 行 图 、 方 格 图 、 树 图 ;<br />
拼 花 图 ;<br />
OC 曲 线 ;<br />
泡 泡 图 ;<br />
……<br />
•Seeing is believing!<br />
Copyright © 2008, SAS Institute Inc. All rights reserved.
<strong>JMP</strong> 使 用 界 面<br />
根 据 用 户 要 求<br />
层 层 递 进<br />
Copyright © 2008, SAS Institute Inc. All rights reserved.
展 开 行 菜 单<br />
<strong>JMP</strong> 数 据 表<br />
隐 藏 / 撤 消 隐 藏<br />
控 制 面 板<br />
展 开 列 菜 单<br />
控 制 面 板<br />
Copyright © 2008, SAS Institute Inc. All rights reserved.<br />
列 = 变 量<br />
行 = 记 录<br />
表 = 数 据 库<br />
数 据 网 格
菜 单 架 构<br />
协 助 管 理<br />
数 据 处 理<br />
分 析 数 据<br />
可 视 化 数 据<br />
Copyright © 2008, SAS Institute Inc. All rights reserved.
回 归 分 析 与 假 设 检 验<br />
Response<br />
Continuous<br />
Categorical<br />
Predictor<br />
Continuous<br />
t test /<br />
ANOVA<br />
Simple<br />
Linear<br />
Regression<br />
Copyright © 2008, SAS Institute Inc. All rights reserved.
• 什 么 是 回 归 ?<br />
回 归<br />
• 根 据 变 量 间 客 观 存 在 的 相 关 关 系 , 建 立 起 合 适 的 数 学 模<br />
型 , 分 析 和 讨 论 其 性 质 和 应 用 的 统 计 方 法<br />
• 回 归 有 什 么 用 ?<br />
• 量 化 变 量 ( 尤 其 是 连 续 变 量 ) 之 间 的 客 观 规 律<br />
• 排 除 众 多 噪 声 因 素 的 干 扰 , 找 到 影 响 流 程 变 异 / 质 量 性 能 的<br />
关 键 因 素<br />
• 根 据 少 量 的 样 本 数 据 了 解 庞 大 的 总 体 情 况<br />
• 根 据 历 史 数 据 预 测 和 监 控 流 程 今 后 长 期 的 表 现<br />
• 加 速 学 习 进 程 , 高 度 提 炼 专 业 知 识 和 经 验<br />
• 深 入 、 透 彻 地 理 解 流 程 , 为 批 量 化 生 产 经 营 的 标 准 化 工 作<br />
奠 定 基 础<br />
• 科 学 客 观 地 总 结 和 归 纳 出 产 品 设 计 、 工 艺 改 进 的 综 合 解 决<br />
方 案<br />
• 根 据 客 户 要 求 、 技 术 标 准 灵 活 地 调 整 现 有 的 工 艺 / 服 务 流 程<br />
Copyright © 2008, SAS Institute Inc. All rights reserved.
回 归 的 应 用 领 域<br />
市 场 营 销<br />
产 品 研 发<br />
质 量 管 理<br />
回 归<br />
工 艺 改 进<br />
服 务 优 化<br />
企 业 管 理<br />
Copyright © 2008, SAS Institute Inc. All rights reserved.
Y<br />
常 见 的 回 归 形 式<br />
Simple linear (1 X) Multiple (2 or more Xs)<br />
1 2 3<br />
Y<br />
X<br />
Polynomial (1 X)<br />
Y<br />
X 2<br />
X 1<br />
X<br />
Polynomial (2 or more Xs)<br />
Indicator variables<br />
(for discrete Xs)<br />
X a<br />
Logistic (for discrete Ys)<br />
4 5 6<br />
1<br />
Y<br />
Y<br />
x<br />
x<br />
x<br />
x x x<br />
x<br />
x<br />
x x<br />
x<br />
x<br />
x<br />
x<br />
x<br />
X b<br />
X c<br />
% yes<br />
X 2<br />
X 1<br />
Copyright © 2008, SAS Institute Inc. All rights reserved.<br />
X i<br />
0<br />
X
回 归 分 析 的 一 般 过 程<br />
• 明 确 研 究 的 对 象 和 范 围<br />
• 变 量 的 基 础 分 析<br />
• 收 集 并 了 解 数 据<br />
• 选 择 回 归 模 型 ( 假 设 )<br />
• 观 察 散 点 图<br />
• 作 描 述 性 统 计<br />
• 线 性 或 曲 面 ?<br />
• 一 元 或 多 元 ?<br />
• 数 据 转 换 ?<br />
• 离 散 型 X, 离 散 型 Y?<br />
• 模 型 求 解<br />
• 计 算 参 数<br />
未 通 过<br />
• 模 型 检 验<br />
• 判 定 系 数<br />
• 显 著 性<br />
• 残 差<br />
通 过<br />
• 实 际 应 用<br />
• 控 制 输 出 值<br />
• 通 过 输 入 值 预 测<br />
Copyright © 2008, SAS Institute Inc. All rights reserved.
散 点 图 与 相 关 系 数 的 概 念<br />
Y (output)<br />
STRONG<br />
Negative<br />
weak<br />
STRONG<br />
Positive<br />
-1 0<br />
1<br />
Correlation Coefficient<br />
X (input)<br />
r<br />
=<br />
∑<br />
∑<br />
(<br />
x<br />
(<br />
x<br />
i<br />
−<br />
i<br />
−<br />
x<br />
)<br />
x<br />
)(<br />
2<br />
⋅<br />
y<br />
∑<br />
i<br />
−<br />
y<br />
)<br />
(<br />
y<br />
i<br />
−<br />
y<br />
)<br />
2<br />
Copyright © 2008, SAS Institute Inc. All rights reserved.
散 点 图 与 相 关 系 数 的 组 合<br />
Y<br />
Y<br />
Y<br />
Strong Positive Correlation<br />
r = .95<br />
X<br />
Moderate Positive Correlation<br />
r = .70<br />
X<br />
No Correlation<br />
r = .006<br />
X<br />
Y<br />
Y<br />
Y<br />
Strong<br />
Negative Correlation<br />
r = -.90<br />
X<br />
Moderate<br />
Negative Correlation<br />
r = -.73<br />
X<br />
Other Pattern -<br />
No Linear Correlation<br />
r = -.29<br />
X<br />
Copyright © 2008, SAS Institute Inc. All rights reserved.
一 元 线 性 回 归 模 型<br />
Y<br />
e<br />
y = a + b x + e<br />
2<br />
i<br />
e<br />
3<br />
i<br />
i<br />
Residual<br />
e<br />
1<br />
y$<br />
= a + bx<br />
i<br />
X<br />
i<br />
Copyright © 2008, SAS Institute Inc. All rights reserved.
理 论 公 式<br />
Sample<br />
Regression Equation<br />
y i = a + bx i + e i<br />
Sample Slope<br />
b<br />
=<br />
n<br />
∑<br />
i=<br />
1<br />
( x<br />
n<br />
i<br />
∑<br />
i=<br />
1<br />
− x )(<br />
( x<br />
i<br />
−<br />
y<br />
i<br />
x )<br />
−<br />
2<br />
y)<br />
=<br />
S<br />
S<br />
xy<br />
2<br />
x<br />
Sample Intercept<br />
a<br />
=<br />
y<br />
−<br />
bx ˆ<br />
Copyright © 2008, SAS Institute Inc. All rights reserved.
回 归 诊 断<br />
1. 变 差 度 量<br />
判 定 系 数 (R 2 )<br />
均 方 根 误 差 (RMSE)<br />
2. 显 著 性 检 验<br />
3. 残 差 分 析<br />
4. 散 点 图 分 析<br />
y<br />
$<br />
= a + b x<br />
i<br />
i<br />
Copyright © 2008, SAS Institute Inc. All rights reserved.
判 定 系 数 R 2 0 ≤ R 2 ≤ 1<br />
R 2 Explained Variation<br />
= =<br />
Total Variation<br />
n<br />
n<br />
∑<br />
( )<br />
2<br />
yˆ<br />
∑<br />
i<br />
− y<br />
i<br />
=<br />
1<br />
i<br />
=<br />
1<br />
= =<br />
1<br />
−<br />
n<br />
n<br />
∑<br />
( −<br />
)<br />
2<br />
y<br />
i<br />
y<br />
i<br />
=<br />
1<br />
i<br />
=<br />
1<br />
SSR<br />
SST<br />
( y<br />
−<br />
y<br />
ˆ<br />
)<br />
i<br />
∑ ( y<br />
ˆ<br />
−<br />
)<br />
i<br />
y<br />
2<br />
2<br />
Copyright © 2008, SAS Institute Inc. All rights reserved.
判 决 系 数 的 图 示<br />
Y<br />
Unexplained Sum of<br />
Squares (y i - y^<br />
i ) 2<br />
Total Sum of<br />
Squares (y i -y) 2<br />
总 平 方 和<br />
x i<br />
y i<br />
残 差 平 方 和<br />
$y<br />
i = a + b x<br />
Explained Sum of<br />
Squares (y^<br />
i -y) 2<br />
回 归 平 方 和<br />
⎯y<br />
X<br />
i<br />
Copyright © 2008, SAS Institute Inc. All rights reserved.
均 方 根 误 差<br />
1. 实 际 观 察 值 与 回 归 估 计 值 离 差 平 方 和 的 均 方 根<br />
2. 反 映 实 际 观 察 值 在 回 归 直 线 周 围 的 分 散 状 况<br />
3. 从 另 一 个 角 度 说 明 了 回 归 直 线 的 拟 合 程 度<br />
4. 计 算 公 式 为<br />
S<br />
e<br />
=<br />
n<br />
∑<br />
i=<br />
1<br />
( y<br />
i<br />
−<br />
n − 2<br />
yˆ<br />
i<br />
)<br />
2<br />
S<br />
e<br />
=<br />
n<br />
n<br />
n<br />
2<br />
yi<br />
− a ⋅ yi<br />
− b ⋅<br />
i= 1 i= 1 i=<br />
1<br />
∑ ∑ ∑<br />
n<br />
−<br />
2<br />
x<br />
i<br />
⋅<br />
y<br />
i<br />
Copyright © 2008, SAS Institute Inc. All rights reserved.
回 归 系 数 的 显 著 性 检 验<br />
1. 假 设<br />
H 0 : β 1 = 0 (No Linear Relationship)<br />
H 1 : β 1 ≠ 0 (Linear Relationship)<br />
2. 检 验 统 计 量<br />
b − β<br />
S<br />
t = 1 ~ t(<br />
n − 2)<br />
where S = e<br />
n−2<br />
S<br />
b<br />
b<br />
∑ ( x − x )<br />
2<br />
i<br />
3. 统 计 决 策 :<br />
If t ≥ t α , refuse H 0.<br />
If t < t α , accept H 0.<br />
Copyright © 2008, SAS Institute Inc. All rights reserved.
回 归 方 程 的 显 著 性 检 验<br />
1. 假 设<br />
H 0 : No Linear Relationship<br />
H 1 : Linear Relationship<br />
2. 检 验 统 计 量<br />
F<br />
=<br />
SSR<br />
1<br />
SSE<br />
n<br />
−<br />
2<br />
=<br />
∑<br />
i<br />
=<br />
1<br />
n<br />
∑<br />
i<br />
n<br />
( y<br />
ˆ<br />
−<br />
y<br />
)<br />
2<br />
i<br />
1<br />
= 1<br />
~<br />
F<br />
(1 ,<br />
n<br />
2<br />
n<br />
−<br />
2<br />
( y<br />
−<br />
y<br />
ˆ<br />
)<br />
i<br />
2<br />
−<br />
2)<br />
3. 统 计 决 策 :<br />
If F ≥ F α , refuse H 0.<br />
If F < F α , accept H 0.<br />
Copyright © 2008, SAS Institute Inc. All rights reserved.
残 差 分 析<br />
Assumption<br />
Check Tool<br />
1. Residuals not related<br />
to Predicted Y<br />
Scatterplot of Residuals vs<br />
Predicted Y (Fits)<br />
2. Residual distribution<br />
stable over time<br />
Run Chart of Residuals<br />
3. Residuals normally<br />
distributed<br />
Normal Plot & Histogram of<br />
Residuals<br />
4. Residuals not related<br />
to X<br />
Scatterplot of Residuals vs.<br />
Each X<br />
Copyright © 2008, SAS Institute Inc. All rights reserved.
Copyright © 2008, SAS Institute Inc. All rights reserved.<br />
散 点 图 分 析
回 归 的 应 用<br />
1. 根 据 自 变 量 x 的 取 值 估 计 或 预 测 因 变 量 y 的 取 值<br />
2. 估 计 或 预 测 的 类 型<br />
• 点 估 计<br />
− y 的 平 均 值 的 点 估 计<br />
−<br />
y 的 个 别 值 的 点 估 计<br />
• 区 间 估 计<br />
− y 的 平 均 值 的 置 信 区 间 估 计<br />
−<br />
y 的 个 别 值 的 预 测 区 间 估 计<br />
3. 平 均 值 的 点 估 计 和 个 别 值 的 的 点 估 计 是 一 样 的 , 但 在 区 间 估 计 中<br />
则 不 同<br />
4. 点 估 计 不 能 给 出 估 计 的 精 度 , 点 估 计 值 与 实 际 值 之 间 是 有 误 差<br />
的 , 因 此 有 必 要 进 行 区 间 估 计<br />
Copyright © 2008, SAS Institute Inc. All rights reserved.
x<br />
Copyright © 2008, SAS Institute Inc. All rights reserved.<br />
区 间 估 计 的 图 示<br />
单 值 置 信 上 限<br />
单 值 置 信 上 限<br />
均 值 置 信 上 限<br />
均 值 置 信 上 限<br />
均 值 置 信 上 限<br />
均 值 置 信 上 限<br />
单 值 置 信 下 限<br />
单 值 置 信 下 限<br />
y<br />
⎯x<br />
x 0
案 例 学 习<br />
1. 影 响 健 身 效 果 的 原 因 分 析<br />
2. 钢 铁 强 度 的 提 升<br />
3. 婴 幼 儿 发 育 趋 势 的 调 查<br />
4. 食 品 包 装 重 量 的 控 制<br />
5. 密 封 过 程 有 效 性 的 改 善<br />
Copyright © 2008, SAS Institute Inc. All rights reserved.
Thank You<br />
<strong>JMP</strong> 中 国 区<br />
上 海 市 浦 东 南 路 256 号 华 夏 银 行 大 厦 8 楼 801 室<br />
Tel: 86 21 61633088<br />
Mail: jmpchina@sas.com<br />
Web: www.jmp.com/china<br />
Copyright © 2008, SAS Institute Inc. All rights reserved.