针对传统支持向量机(SVM)算法在数据不均衡情况下无法有效实现故障检测的不足,提出一种基于过抽样和代价敏感支持向量机相结合的故障检测新算法。
该算法首先利用边界人工少数类过抽样技术(BSMOTE)实现训练样本的均衡。
为减少人工增加样本带来的噪声影响,利用K近邻构造一个代价敏感的支持向量机(CSSVM)算法,利用每个样本的代价函数消除噪声样本对SVM算法分类精度的影响。
将该算法应用在轴承故障检测中,并同传统的SVM算法,不同类代价敏感SVM-C算法,SVM和SMOTE相结合的算法进行比较,试验结果表明当样本不均衡时,建议算法的故障检测性能较其它算法有显著提高。

MATLAB源码集锦-剪辑近邻法和压缩近邻法代码

模式识别K近邻法的流程图用于学生实验报告和作业

KNN的MATLAB实现，基于特殊的SONAR数据，M文件，MATLAB源代码

KDtree的建立以及基于KDtree的最近邻域搜索。
代码简单易懂实用

介绍kNN算法，用python实现三个案例，包括简单分类器搭建、约会网站改进、手写字体识别，适合工科生用来介绍算法用

MATLAB源码集锦-快速近邻法分类程序

这个Matlab工具箱实现32种维数降低技术。
这些技术都可以通过COMPUTE_MAPPING函数或trhoughGUI。
有以下技术可用： -主成分分析（'PCA'） -线性判别分析（'LDA'） -多维缩放（'MDS'） -概率PCA（'ProbPCA'） -因素分析（'因子分析'） -Sammon映射（'Sammon'） -Isomap（'Isomap'） -LandmarkIsomap（'LandmarkIsomap'） -局部线性嵌入（'LLE'） -拉普拉斯特征图（'Laplacian'） -HessianLLE（'HessianLLE'） -局部切线空间对准（'LTSA'） -扩散图（'DiffusionMaps'） -内核PCA（'KernelPCA'） -广义判别分析（'KernelLDA'） -随机邻居嵌入（'SNE'） -对称随机邻接嵌入（'SymSNE'） -t分布随机邻居嵌入（'tSNE'） -邻域保留嵌入（'NPE'） -线性保持投影（'LPP'） -随机接近嵌入（'SPE'） -线性局部切线空间对准（'LLTSA'） -保形本征映射（'CCA'，实现为LLE的扩展） -最大方差展开（'MVU'，实现为LLE的扩展） -地标最大差异展开（'地标MVU'） -快速最大差异展开（'FastMVU'） -本地线性协调（'LLC'） -歧管图表（'ManifoldChart'） -协调因子分析（'CFA'） -高斯过程潜变量模型（'GPLVM'） -使用堆栈RBM预训练的自动编码器（'AutoEncoderRBM'） -使用进化优化的自动编码器（'AutoEncoderEA'）此外，工具箱包含6种内在维度估计技术。
这些技术可通过INTRINSIC_DIM函数获得。
有以下技术可用： -基于特征值的估计（'EigValue'） -最大似然估计器（'MLE'） -基于相关维度的估计器（'CorrDim'） -基于最近邻域评估的估计器（'NearNb'） -基于包装数量（'PackingNumbers'）的估算器 -基于测地最小生成树（'GMST'）的估计器除了这些技术，工具箱包含用于预白化数据（函数PREWHITEN），精确和估计样本外扩展（函数OUT_OF_SAMPLE和OUT_OF_SAMPLE_EST）的函数以及生成玩具数据集（函数GENERATE_DATA）的函数。
工具箱的图形用户界面可通过DRGUI功能访问

《编程之法：面试和算法心得》涉及面试、算法、机器学习三个主题。
书中的每道编程题目都给出了多种思路、多种解法，不断优化、逐层递进。
本书第1章至第6章分别阐述字符串、数组、树、查找、动态规划、海量数据处理等相关的编程面试题和算法，第7章介绍机器学习的两个算法—K近邻和SVM。
　　此外，《编程之法：面试和算法心得》每一章都有“举一反三”和“习题”，以便读者及时运用所学的方法解决相似的问题，且在附录中收录了语言、链表、概率等其他题型。
书中的每一道题都是面试的高频题目，反复出现在近5年各大公司的笔试和面试中，对面试备考有着极强的参考价值。

现在我们回到LDA的原理上，我们在第一节说讲到了LDA希望投影后希望同一种类别数据的投影点尽可能的接近，而不同类别的数据的类别中心之间的距离尽可能的大，但是这只是一个感官的度量。
现在我们首先从比较简单的二类LDA入手，严谨的分析LDA的原理。
　　　　假设我们的数据集D={(x1,y1),(x2,y2),...,((xm,ym))}D={(x1,y1),(x2,y2),...,((xm,ym))},其中任意样本xixi为n维向量，yi∈{0,1}yi∈{0,1}。
我们定义Nj(j=0,1)Nj(j=0,1)为第j类样本的个数，Xj(j=0,1)Xj(j=0,1)为第j类样本的集合，而μj(j=0,1)μj(j=0,1)为第j类样本的均值向量，定义Σj(j=0,1)Σj(j=0,1)为第j类样本的协方差矩阵（严格说是缺少分母部分的协方差矩阵）。
　　　　μjμj的表达式为：μj=1Nj∑x∈Xjx(j=0,1)μj=1Nj∑x∈Xjx(j=0,1)　　　　ΣjΣj的表达式为：Σj=∑x∈Xj(x−μj)(x−μj)T(j=0,1)Σj=∑x∈Xj(x−μj)(x−μj)T(j=0,1)　　　　由于是两类数据，因此我们只需要将数据投影到一条直线上即可。
假设我们的投影直线是向量ww,则对任意一个样本本xixi,它在直线ww的投影为wTxiwTxi,对于我们的两个类别的中心点μ0,μ1μ0,μ1,在在直线ww的投影为wTμ0wTμ0和wTμ1wTμ1。
由于LDA需要让不同类别的数据的类别中心之间的距离尽可能的大，也就是我们要最大化||wTμ0−wTμ1||22||wTμ0−wTμ1||22,同时我们希望同一种类别数据的投影点尽可能的接近，也就是要同类样本投影点的协方差wTΣ0wwTΣ0w和wTΣ1wwTΣ1w尽可能的小，即最小化wTΣ0w+wTΣ1wwTΣ0w+wTΣ1w。
综上所述，我们的优化目标为：argmaxwJ(w)=||wTμ0−wTμ1||22wTΣ0w+wTΣ1w=wT(μ0−μ1)(μ0−μ1)TwwT(Σ0+Σ1)wargmax⏟wJ(w)=||wTμ0−wTμ1||22wTΣ0w+wTΣ1w=wT(μ0−μ1)(μ0−μ1)TwwT(Σ0+Σ1)w　　　　我们一般定义类内散度矩阵SwSw为：Sw=Σ0+Σ1=∑x∈X0(x−μ0)(x−μ0)T+∑x∈X1(x−μ1)(x−μ1)TSw=Σ0+Σ1=∑x∈X0(x−μ0)(x−μ0)T+∑x∈X1(x−μ1)(x−μ1)T　　　　同时定义类间散度矩阵SbSb为：Sb=(μ0−μ1)(μ0−μ1)TSb=(μ0−μ1)(μ0−μ1)T　　　　这样我们的优化目标重写为：argmaxwJ(w)=wTSbwwTSwwargmax⏟wJ(w)=wTSbwwTSww　　　　仔细一看上式，这不就是我们的广义瑞利商嘛！这就简单了，利用我们第二节讲到的广义瑞利商的性质，我们知道我们的J(w)J(w)最大值为矩阵S−12wSbS−12wSw−12SbSw−12的最大特征值，而对应的ww为S−12wSbS−12wSw−12SbSw−12的最大特征值对应的特征向量!而S−1wSbSw−1Sb的特征值和S−12wSbS−12wSw−12SbSw−12的特征值相同,S−1wSbSw−1Sb的特征向量w′w′和S−12wSbS−12wSw−12SbSw−12的特征向量ww满足w′=S−12www′=Sw−12w的关系!　　　　注意到对于二类的时候，SbwSbw的方向恒为μ0−μ1μ0−μ1,不妨令Sbw=λ(μ0−μ1)Sbw=λ(μ0−μ1)，将其带入：(S−1wSb)w=λw(Sw−1Sb)w=λw，可以得到w=S−1w(μ0−μ1)w=Sw−1(μ0−μ1)，也就是说我们只要求出原始二类样本的均值和方差就可以确定最佳的投影方向ww了。

在日常工作中，钉钉打卡成了我生活中不可或缺的一部分。然而，有时候这个看似简单的任务却给我带来了不少烦恼。 每天早晚，我总是得牢记打开钉钉应用，点击"工作台"，再找到"考勤打卡"进行签到。有时候因为工作忙碌，会忘记打卡，导致考勤异常，影响当月的工作评价。而且，由于我使用的是苹果手机，有时候系统更新后，钉钉的某些功能会出现异常，使得打卡变得更加麻烦。 另外，我的家人使用的是安卓手机，他们也经常抱怨钉钉打卡的繁琐。尤其是对于那些不太熟悉手机操作的长辈来说，每次打卡都是一次挑战。他们总是担心自己会操作失误，导致打卡失败。 为了解决这些烦恼，我开始思考是否可以通过编写一个全自动化脚本来实现钉钉打卡。经过一段时间的摸索和学习，我终于成功编写出了一个适用于苹果和安卓系统的钉钉打卡脚本。