3矩阵和正态分布

2017-08-10 06:32

  第一章第一章 武汉理工大学统计学系唐湘晋多元统计分析是研究客观事物中多种指标间 相互依赖, 相互影响的统计规律性的一个数理统计 学分支. 多元统计分析能使我们对所研究的问题更全面, 更深刻的认识. 帮助我们透过现象看本质,发观事 物之间内在的本质规律,从而推动各个学科的发 多元统计分析的概念多元统计分析的概念 武汉理工大学统计学系唐湘晋优点有两个: 多元统计分析可以从整体上分析结果.多元统计分析的特点 多元统计分析的特点 武汉理工大学统计学系唐湘晋多元统计分析的作用 1、能够简化数据的数据结构(主成分分析) 2、能够进行分类和组合(聚类分析、判别分析) 3、能够研究指标之间的依存关系(多元回归分析) 4、可以进行预测 5、可以进行假设检验 武汉理工大学统计学系唐湘晋一、矩阵代数 一、矩阵代数 一、矩阵代数 11 12 2122 1.11.1 、关于矩阵论的一些内容 、关于矩阵论的一些内容 矩阵矩阵 10 武汉理工大学统计学系唐湘晋 diag(1,L,1)下三角阵 11武汉理工大学统计学系唐湘晋 如果A 阶方阵,则它的行列式定义为: det(A) 行列式行列式 12 武汉理工大学统计学系唐湘晋 是nn阶方阵,则它是 奇异阵 如果A 非奇异阵如果A 矩阵A的逆,记作A -1 它满足:AA -1 (AB)-1 矩阵的逆矩阵的逆 13 武汉理工大学统计学系唐湘晋 设矩阵A 和逆矩阵A -1 的分块矩阵为: 其中A 11 2221 12 11 2221 12 11 :如果A 11 奇异的,则: 其中A 221 11-1 1121 2212 1121 2212 14武汉理工大学统计学系唐湘晋 定理的证明: 注意到: 2211 12 1122 21 12 11 1121 11-1 2211 1122 21 12 11 1121 1121 2221 12 11 L.H.SR.H.S 15 武汉理工大学统计学系唐湘晋 的证明: L.H.SR.H.S 1121 2221 12 11 1121 1121 -1L.H.S 1121 2212 1121 2212 R.H.S16 武汉理工大学统计学系唐湘晋 对于nn阶对称矩阵A 正定的主要结论: 正定矩阵正定矩阵 17 武汉理工大学统计学系唐湘晋 射影矩阵射影矩阵 18 武汉理工大学统计学系唐湘晋 是个n阶矩阵,我们称是A的迹.迹函数与行列式函数是定义在方阵上的两 个基本函数.迹函数是线性的,它具有如下的基本特 1122 tr nn trtr 19武汉理工大学统计学系唐湘晋 对来说,A的特征多项式这样tr (A)又可表示成 其中 是A的n个特征值.这表明tr 1122 20武汉理工大学统计学系唐湘晋 化简可得注意到A是实阵,必须 ,即A是对称的. -1 -1-1 tr tr tr tr BPBPP trtr ijji trtr ijji ijji 21武汉理工大学统计学系唐湘晋 (i)注意到,故结论显然成立. (ii)当时 trtr tr tr tr ABBA AA AB AA tr 22武汉理工大学统计学系唐湘晋 特征值与特征向量特征值与特征向量 个特征值.满足下列矩阵方程的向量l 23武汉理工大学统计学系唐湘晋 24武汉理工大学统计学系唐湘晋 性质: 分别是pq阶和qp阶矩阵.则AB和BA具有相同的 非零特征值; 如果A是实对称矩阵,则λ LL•在这种情形下,我们记为: 25 武汉理工大学统计学系唐湘晋 cA具有特征值cλ -1具有特征值λ A-cI具有特征值λ 26武汉理工大学统计学系唐湘晋 矩阵分解矩阵分解 Singularvalue decomposition) 27武汉理工大学统计学系唐湘晋 是X′X的特征值,V的行是X′X的特征向量. ′= 是′的特征值,U的列是′的特征向量. 28武汉理工大学统计学系唐湘晋 是A的特征值.P的列是A的特征向量. 29武汉理工大学统计学系唐湘晋 Cholesky分解 Gram-Schmidt正交化 上三角阵30 武汉理工大学统计学系唐湘晋 直接运算和直接运算和 Kronecker Kronecker 阶矩阵.直接算子 “vec”定义为: 31武汉理工大学统计学系唐湘晋 定义: ij)是np阶矩阵, 阶矩阵.A与B的Kronecker乘积定义为如下的nm 32武汉理工大学统计学系唐湘晋 Kronecker乘积的性质 Kronecker乘积的性质 trtr tr vec vec vec vec tr BDAC 33武汉理工大学统计学系唐湘晋 矩阵的导数矩阵的导数 对于多元函数 则我们称此列向量为y关于向量x的导数. 34武汉理工大学统计学系唐湘晋 35武汉理工大学统计学系唐湘晋 ij)是nn阶矩阵,因为 所以我们有 特别地, 如果A是对称矩阵,则 jiij AxAx 36武汉理工大学统计学系唐湘晋 21,Lx 2m n1,Lx nm 阶矩阵X的标度函数.类似地,我们可以定 义y关于矩阵X的导数: 11 37武汉理工大学统计学系唐湘晋 tr(AX),其中A=(a ij )是mn阶矩阵, jiij ijji 38武汉理工大学统计学系唐湘晋 tr(X′AX),其中A=(a ij )是nm阶矩阵, 39武汉理工大学统计学系唐湘晋 一些变换的一些变换的 Jacobians Jacobians 行列式 行列式 设有积分 我们考虑一一对应变换 其中f 的JacobiansJacobians行列式为 行列式为: dxdx dydy 40武汉理工大学统计学系唐湘晋 42武汉理工大学统计学系唐湘晋 随机变量与随机向量随机变量与随机向量 随机变量 随机向量 随机向量 为随机变量。1.2、关于概率统计的一些内容 1.21.2 、关于概率统计的一些内容 、关于概率统计的一些内容 43 武汉理工大学统计学系唐湘晋 (累积)分布函数(c.d.f.)随机变量 边际分布 随机向量 44武汉理工大学统计学系唐湘晋 概率密度函数(p.d.f)随机变量 随机向量 dtdt 45武汉理工大学统计学系唐湘晋 条件概率与条件分布条件概率 条件概率密度函数 已知事件B,事件A的条件概率 当事件A与事件B不相互时 已知X q+1 46武汉理工大学统计学系唐湘晋 性随机变量 是相互的.47 武汉理工大学统计学系唐湘晋 随机向量设随机向量X 对任意的48 武汉理工大学统计学系唐湘晋 数学期望随机变量 随机矩阵 ijij 49武汉理工大学统计学系唐湘晋 数学期望的性质 E(AX) AE(X)E(AXB E(trAX) tr(AE(X))50 武汉理工大学统计学系唐湘晋 协方差随机变量 随机向量 VardF CovCov 其中51 武汉理工大学统计学系唐湘晋 性质: Cov(X) ,其中a和b是向量Cov(X 其中a是向量 E(′) 52武汉理工大学统计学系唐湘晋 相关系数随机变量 随机向量 53武汉理工大学统计学系唐湘晋 总体和样本总体和样本 总体 总体(population) 研究对象的某种特征值的全体组成的集合。用X表示。样本 样本(sample) 在总体中选取部分有代表性的子集称为(随机)样本。一个样本是来自总体X的一组相互同X分布的随机变 样本观测值样本观测值 示样本观测值或样本值。54 武汉理工大学统计学系唐湘晋 统计量及其参数估计统计量及其参数估计 统计量 统计量(statistics) 为一个统计量。显然,统计量g(X )也是一个随机变量。总体 总体 的数字特征的数字特征 参数参数 总体均值μ :刻划总体的平均取值总体方差σ :刻划总体取值的分散程度55 武汉理工大学统计学系唐湘晋 根据样本值推断总体性质 根据样本值推断总体性质 参数估计参数估计 样本均值 显然,样本均值、样本方差都属于统计量。通常用样本均值、样本方差作为总体均值、总体方差的无 偏估计量。 相合估计:当n取得充分大,样本均值、样本方差分别逼 近总体均值和总体方差。 56武汉理工大学统计学系唐湘晋 10. 10. 统计推断的两类问题 统计推断的两类问题 参数估计和假设检验参数估计和假设检验 参数估计问题 参数估计问题 假定总体X的分布函数形式已知,对其中的某些参数进 行估计。 估计方法:矩估计法、最小二乘法、最大似然,…… 假设检验问题 假设检验问题 从样本值出发,判断关于总体分布的某种假设是否成 57武汉理工大学统计学系唐湘晋 提出原假设(或称零假设)和备选假设(或称提出原假设(或称零假设)和备选假设(或称 对立假设) 对立假设) 指定显著性水平指定显著性水平 (一般取(一般取 0.05,0.01, 0.05, 0.01, α值越小,否定原假设的条件越高,不容易否定原假设; α值越大,否定原假设的条件越低,比较容易否定 原假设。 58 武汉理工大学统计学系唐湘晋 、构造检验统计量、构造检验统计量 、进行统计试验、进行统计试验 收集数据、计算检验统计收集数据、计算检验统计 量及显著性概率值 量及显著性概率值 、根据显著性水平、根据显著性水平 值进行判断值进行判断 59 武汉理工大学统计学系唐湘晋 11. 11. 正态分布 正态分布 Normaldistribution Normal distribution 其中-

  0均为。称 服从参数为服从参数为 的正态分布的正态分布,记作 :方差60 武汉理工大学统计学系唐湘晋 61武汉理工大学统计学系唐湘晋 正态分布的若干性质 正态分布的若干性质 正态分布完全由其均值μ和方差σ 决定;正态分布的概率密度函数曲线呈对称的“钟形”; 经验规则(3 σ准则): 62武汉理工大学统计学系唐湘晋 68% 95% 99% μ+2σμ+3σ μ-2σμ-3σ 63武汉理工大学统计学系唐湘晋 变量与变量的关系: 确定性关系 函数关系 函数关系 U=IR v=gt 变量与变量的关系: 非确定性关系 统计相关 统计相关 (具有统计规律) 回归分析方法回归分析方法 12. 12. 回归分析 回归分析 64 武汉理工大学统计学系唐湘晋 回归分析的基本问题 回归分析的基本问题 的相关关系的经验回归方程 经验回归方程, 简称 回归方程 回归方程; 取确定值时,随机变量Y的取值,称为预测 预测 问题 问题; •为使Y在给定的范围内取值,利用回归方程,控制自变 的取值范围,称为控制问题 控制问题。

新闻排行

随机阅读