方差-协方差-PCA

已于 2024-04-18 15:26:10 修改
阅读量278 收藏 5
点赞数 2
CC 4.0 BY-SA版权
分类专栏： 期末课程应急 文章标签： 算法
于 2023-11-30 19:17:53 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_51771210/article/details/134651985
本文详细介绍了在Python中使用numpy计算方差和协方差的区别，以及矩阵乘法的几何含义，特别关注PCA中的特征向量、基变换和第二正交向量生成过程。讨论了如何处理缩放、旋转和选择不同基对PCA的影响。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

pca讲解视频笔记

方差

在这里插入图片描述
在这里插入图片描述
注意numpy中求方差和series中求方差的区别 ： numpy中求方差需要设置ddof=1，否则默认为0. 只有ddof=1，才能除以n-1 ; 而series中求方差时，默认ddof就是1，所以无需再设置ddof

协方差

在这里插入图片描述
注意矩阵的点积运算 行=列
在这里插入图片描述
当使用np.dot的时候，如果都是一维向量，就可以不用考虑转置了

协方差矩阵

在这里插入图片描述
上标样本，下标特征
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
均值为零，就可以考虑向量化，进行计算

矩阵乘法的几何意义

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

缩放变换

在这里插入图片描述
在这里插入图片描述

同时旋转缩放

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
注意这里由于不是等比例的缩放，所以这里缩放之后的向量和原向量不是在一个方向上

特征向量

在这里插入图片描述

基

在这里插入图片描述
选择不同的基，就会有不同的坐标系

两个向量不相关才能作为基选项
在这里插入图片描述
在这里插入图片描述

基变换

在这里插入图片描述
在这里插入图片描述

PCA

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
注意第二正交向量是由是由向量之间叠加转换而成的，
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

协方差（Covariance）
一个搬运知识的笨小孩
02-14 1万+
协方差1.协方差1.1 相关性1.2 计算协方差1.3 协方差与相关性1.4 协方差能让我们知道些什么信息？1.5 协方差无法让我们知道哪些信息？ 1.协方差 笔记来源：Covariance, Clearly Explained!!! 在概率论与统计学中用于衡量两个随机变量的联合变化程度 1.1 相关性 以细胞中的基因X和基因Y的数量为例，下面给出了5个细胞中，每个细胞分别含有的基因X和基因Y的数量，我们计算出了这5个细胞含基因X数量的样本均值 xˉ\bar{x}xˉ 和含基因Y数量的样本均值 yˉ\b
协方差
dkkfff的博客
04-09 1474
在概率论和统计学中，协方差用于衡量两个变量的总体误差；方差是协方差的一种特殊情况，即当两个变量是相同的情况。 协方差定义： 期望值分别为E(X) = μ 与 E(Y) = ν 的两个实数随机变量X与Y之间的协方差为：cov(X,Y)=E(X- μ)E(Y-v)=E(XY)- μv 1.协方差表示的是两个变量总体的误差，这与只表示一个变量误差的方差不同。 2.如果两个变量的变化趋势一致，也就是说如果其中一个大于自身的期望值，另外一个也大于自身的期望值，那么两个变量之间的协方差就是正值。 3.如果两个变量的变
【多元数据处理的核心】：方差-协方差矩阵的全面解析与实战应用
![【多元数据处理的核心】：方差-协方差矩阵的全面解析与实战应用]...文章首先介绍了方差和协方差的定义、性质及其在数据处理和变量关系分析中的重要性。随后，深入探讨了方差-协方差矩阵的构建方法和在
PCA-方差及协方差等介绍
10-18
### PCA-方差及协方差等介绍 #### 均值 均值是一个非常基础的概念，用于描述一组数据集中趋势的一种度量。对于给定的一组样本 \(\{x_1, x_2, \ldots, x_n\}\)，其均值 \(\mu\) 可以通过以下公式计算得出： \[ \mu...
pca-code.json_studentume_pca-code_pca-code.json_省市区json数据_pca.js
10-01
在给定的标题和描述中，"pca-code.json_studentume_pca-code_pca-code.json_省市区json数据_pca.js" 提到了PCA，并结合了“省市区json数据”，暗示了这是一个结合PCA与地理数据的应用示例。标签进一步强调了"pca-...
PCA-SIFT.zip_pca_pca-sift_sift PCA_sift pca_sift_sift匹配
09-24
PCA-SIFT算法是一种结合主成分分析(PCA)与尺度不变特征变换(SIFT)的图像处理技术，用于图像识别和匹配。这个压缩包“PCA-SIFT.zip”包含了与该算法相关的资源，可能是源代码、示例数据或者文档。下面将详细解释PCA-...
Face-Recognition-Using-PCA-master_人脸识别_pca_
10-02
在本项目"Face-Recognition-Using-PCA-master"中，重点是通过主成分分析（PCA）方法来实现人脸识别。 **PCA（主成分分析）** 主成分分析是一种统计学方法，用于将多维数据集转换为一组线性不相关的变量，称为主...
深入理解协方差（图文详解）
热门推荐
野生猿-群号1025127672
07-15 8万+
先从方差开始，我们有一组样本x1、x2、x3····xn，这组样本的均值为EX，每一个样本都与EX之间存在误差，那么这组样本的方差被定义为：所有误差的和的均值，也即[Σ(xi-EX)^2]/(n-1)， 方差的作用就是用来“衡量样本偏离均值的程度”。 下面开始看协方差： 仔细观察上述定义式，可知：如果两个变量的变化趋势一致，也就是说如果其中一个大于自身的期望值时另外一个也大于自身的...
方差与协方差
ForRubyDownLoad的博客
11-25 897
方差/标准差是有量纲的， 协方差放映的想相关关系(不是相关系数)， 是不受量纲影响的 #环境&数据准备 import sys as sy import numpy as np import pandas as pd import tushare as ts import pyecharts as pye from sklearn import datasets as ds import...
什么是协方差
最新发布
彬彬侠的博客
10-26 5335
协方差（Covariance）是统计学中的一个度量，用来描述两个随机变量之间的线性关系。协方差表示的是两个变量如何一起变化，具体来说，它反映了当一个变量变化时，另一个变量是如何变化的。如果两个变量具有正的线性关系，则它们的协方差为正；如果具有负的线性关系，则协方差为负；如果两个变量不相关，它们的协方差接近于零。
方差，协方差，相关系数，协方差矩阵总结及python示例
cape的博客
01-25 1万+
方差 方差用来度量随机变量 X 与其数学期望 E(X) 的偏离程度。 随机变量 X 的离差 X-E(X) 的平方的数学期望叫做方差，公式为： D(X)=E[(X−EX)2]\ D(X) = E[(X - EX)^2]   方差总是一个非负数，当随机变量的可能值集中在数学期望的附近时，方差较小；反之方差较大。所以由方差的大小可以推断随机变量分布的分散程度。   python代码举例：import
【数学】协方差介绍、相关系数介绍，Python代码
q742971636的博客
08-08 2251
协方差（Covariance）是统计学中用来衡量两个随机变量之间关系的一种度量。它反映了这两个变量的变化趋势是否一致，即当一个变量偏离其均值时，另一个变量是否也倾向于偏离其均值。协方差可以帮助我们了解变量之间的线性关系以及它们的相互变化情况。具体而言，对于两个随机变量 X 和 Y，它们的协方差记作 Cov(X, Y)，计算公式如下：然而，协方差的数值大小受到变量单位的影响，不易直接比较不同数据集之间的关系。
数学概念:协方差
rosefun96的博客
05-09 1万+
1 计算 1 covariance 讲解
深入理解协方差
Braylon的博客
03-16 858
文章目录协方差方差例子协方差矩阵意义 协方差 度量各个维度偏离其均值的程度。协方差的值如果为正值，则说明两者是正相关的(从协方差可以引出“相关系数”的定义)，结果为负值就说明负相关的，如果为0，也是就是统计上说的“相互独立”。 在概率论中，两个随机变量 X 与 Y 之间相互关系，大致有下列3种情况： 当 X, Y 的联合分布像图那样时，我们可以看出，大致上有： X 越大 Y 也越大， X 越...
协方差详解
Steve Wang's blog
09-26 1万+
今天面算法，面试官问协方差是什么，因为平时基本可能用不到，所以一脸懵逼，今天来温习一下什么是协方差。 期望(Expection) 函数f(x)关于某分布P(x)的期望或者期望值是指，当x是由P产生时，f作用于x时，f(x)的平均值。对于离散型随机变量，通过求和得到： Ex∼P[f(x)]=∑xP(x)f(x)\mathbb{E}_{x\sim P}[f(x)]=\sum_xP(x)f(x)Ex...
PCA深入理解：均值、方差、协方差与特征值解析
"PCA-方差及协方差等介绍" 在数据分析和机器学习领域，主成分分析（PCA）是一种常见的降维技术，它利用线性变换将原始高维数据转换为一组各维度线性无关的新变量，这些新变量被称为主成分。在PCA中，理解和计算方差...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值