KPCA核主成分分析法MATLAB 主要是降低数据维度。 当输入数据维度太大的时候程序运行会很慢所以适当由高维度转换成低维度是有必要的。 可指定成分数或累计贡献度进行特征选择 提供指导服务 (所程序均有详细注释)核主成分分析KPCA这玩意儿简直就是处理非线性数据的救星。传统PCA只能线性降维遇到螺旋分布或者环形数据直接歇菜这时候就得靠核方法把数据投射到高维空间再操作。咱今天就用MATLAB整点实在的手把手教你如何把500维数据压缩到亲妈都不认识的3维。先看核心代码框架怎么搭。先整几个关键函数别一上来就写大段脚本。比如先定义个高斯核函数function K gaussian_kernel(X, Y, sigma) % 计算样本间的高斯核矩阵 % X: m×d矩阵Y: n×d矩阵 % sigma: 核宽度参数 pairwise_dist pdist2(X, Y, squaredeuclidean); K exp(-pairwise_dist / (2*sigma^2)); end这个sigma参数可别瞎设太小会导致过拟合太大又丢失细节。一般取数据平均距离的1-5倍比较靠谱。接下来是重头戏——核矩阵中心化处理function K_centered center_kernel(K) % 核矩阵中心化 n size(K,1); one_n ones(n,n)/n; K_centered K - one_n*K - K*one_n one_n*K*one_n; end这一步很多人会漏掉直接导致结果跑偏。本质是在特征空间里减去均值的影响相当于把核矩阵调整到原点附近。不搞这个的话后面特征分解出来的主成分全是歪的。KPCA核主成分分析法MATLAB 主要是降低数据维度。 当输入数据维度太大的时候程序运行会很慢所以适当由高维度转换成低维度是有必要的。 可指定成分数或累计贡献度进行特征选择 提供指导服务 (所程序均有详细注释)实战环节假设我们有个784维的手写数字数据集。先加载数据然后降维load(digits.mat); % 载入784维数据 X digitsData(:,1:1000); % 转置为样本×特征格式 sigma 15; % 根据数据分布调整 K gaussian_kernel(X, X, sigma); K center_kernel(K); [V, D] eigs(K, 3); % 取前三个特征向量 projected_data K * V; % 得到降维后的数据注意这里用eigs而不是eig因为数据量大时只要前几个特征值就够了。如果指定累计贡献率可以这样搞[V_full, D_full] eig(K); eigenvalues diag(D_full); [~, idx] sort(eigenvalues, descend); cum_contribution cumsum(eigenvalues(idx))/sum(eigenvalues); k find(cum_contribution 0.95, 1); % 累计贡献95%时的维度最后来个可视化对比把三维数据点用scatter3画出来不同类别标不同颜色。这时候你会发现原本纠缠在一起的类别在核空间里可能被明显区隔开了。不过要注意核函数选不好可能适得其反——比如对环形数据用多项式核效果就比高斯核差远了。调试技巧方面建议先用小样本测试核参数。有个邪道但管用的方法把sigma设成数据标准差的中位数然后每次乘以2或除以2看效果变化。另外内存不够的话可以分块计算核矩阵或者用Nystrom近似法偷懒。