BAT机器学习面试1000题系列1前言1BAT机器学习面试1000题系列21归一化为什么能提高梯度下降法求解最优解的速度？222归一化有可能提高精度223归一化的类型231）线性归一化232）标准差标准化233）非线性归一化2335.什么是熵。
机器学习ML基础易27熵的引入273.1无偏原则2956.什么是卷积。
深度学习DL基础易38池化，简言之，即取区域平均或最大，如下图所示（图引自cs231n）40随机梯度下降46批量梯度下降47随机梯度下降48具体步骤：50引言721.深度有监督学习在计算机视觉领域的进展731.1图像分类（ImageClassification）731.2图像检测（ImageDection）731.3图像分割（SemanticSegmentation）741.4图像标注–看图说话（ImageCaptioning）751.5图像生成–文字转图像（ImageGenerator）762.强化学习（ReinforcementLearning）773深度无监督学习（DeepUnsupervisedLearning）–预测学习783.1条件生成对抗网络（ConditionalGenerativeAdversarialNets，CGAN）793.2视频预测824总结845参考文献84一、从单层网络谈起96二、经典的RNN结构（NvsN）97三、NVS1100四、1VSN100五、NvsM102RecurrentNeuralNetworks105长期依赖（Long-TermDependencies）问题106LSTM网络106LSTM的核心思想107逐步理解LSTM108LSTM的变体109结论110196.L1与L2范数。
机器学习ML基础易163218.梯度下降法的神经网络容易收敛到局部最优，为什么应用广泛？深度学习DL基础中178@李振华，https://www.zhihu.com/question/68109802/answer/262143638179219.请比较下EM算法、HMM、CRF。
机器学习ML模型中179223.Boosting和Bagging181224.逻辑回归相关问题182225.用贝叶斯机率说明Dropout的原理183227.什么是共线性,跟过拟合有什么关联?184共线性：多变量线性回归中，变量之间由于存在高度相关关系而使回归估计不准确。
184共线性会造成冗余，导致过拟合。
184解决方法：排除变量的相关性／加入权重正则。
184勘误记216后记219

1stOpt（FirstOptimization）是七维高科有限公司（7D-SoftHighTechnologyInc.）独立开发，拥有完全自主知识产权的一套数学优化分析综合工具软件包。
在非线性回归，曲线拟合，非线性复杂工程模型参数估算求解等领域傲视群雄，首屈一指，居世界领先地位。
除去简单易用的界面，其计算核心是基于七维高科有限公司科研人员十数年的革命性研究成果【通用全局优化算法】(UniversalGlobalOptimization-UGO)，该算法之最大特点是克服了当今世界上在优化计算领域中使用迭代法必须给出合适初始值的难题，即用户勿需给出参数初始值，而由1stOpt随机给出，通过其独特的全局优化算法，最终找出最优解。
以非线性回归为例，目前世界上在该领域最有名的软件工具包诸如OriginPro，Matlab，SAS，SPSS，DataFit，GraphPad，TableCurve2D，TableCurve3D等，均需用户提供适当的参数初始值以便计算能够收敛并找到最优解。
如果设定的参数初始值不当则计算难以收敛，其结果是无法求得正确结果。
而在实际应用当中，对大多数用户来说，给出(猜出)恰当的初始值是件相当困难的事，特别是在参数量较多的情况下，更无异于是场噩梦。
而1stOpt凭借其超强的寻优，容错能力，在大多数情况下（大于90%)，从任一随机初始值开始，都能求得正确结果。

以新疆红富士苹果为研究对象,探讨应用高光谱图像技术和最小外接矩形法预测其大小的研究方法。
提取苹果高光谱图像中可见红色区域受色度影响较小的713nm以及近红外区域793和852nm的3个波长图像,做双波段比运算处理。
比较所得双波段比图像可知,852/713双波段比图像中背景和前景灰度对比度最大。
对该图像做阈值分割以及形态闭运算去除果梗区域,使用8邻接边界跟踪法得到二值图像的轮廓坐标序列,采用最小外接矩形法求苹果的大小,与实测值建立回归方程。
结果表明,基于高光谱图像技术采用波段比算法,结合最小外接矩形法,能够有效地检测苹果大小,预测值与实际值最大绝对误差为3.06mm,均方根误差为1.21mm。

diffy是用于比较版本返回信息差异的工具,它可以在很大程度上减轻我们回归测试的工作,使我们上线安全得到更多的保障.

利用python进行局部加权线性回归实战，内含有原始数据及拟合结论图。

周期滑移检测是其中涉及载波相位观测的高精度GNSS数据处理的基本步骤之一，例如在精确的点定位（PPP）和精确的轨道确定（POD）中。
自1980年代开发以来，有效地处理了双频GPS。
然而，新兴的北斗导航卫星系统为这些现有算法带来了一些新的挑战，尤其是在小周跳频发的情况下。
在这项研究中，在低海拔北斗GEO载波相位观测中发现了大量的1周期滑动，这些观测是由IGS多GNSS实验的接收者收集的。
如果可能，在PPP和POD处理之前，应识别并修复这种小的周跳。
我们提出了一种基于一系列双频相位无几何组合的增强循环滑移检测方法。
采用鲁棒的多项式拟合算法和一般的自回归条件异方差建模技术来提供自适应检测阈值，从而可以以高可靠性识别出如此小的循环滑动。
仿真和实际数据测试表明，即使在电离层闪烁的情况下，该方法具有较高的灵敏度和较低的误报率。

Matlab功率谱估计的详尽分析——绝对原创功率谱估计是信息学科中的研究热点,在过去的30多年里取得了飞速的发展。
现代谱估计主要是针对经典谱估计(周期图和自相关法)的分辨率低和方差性能不好的问题而提出的。
其内容极其丰富,涉及的学科和领域也相当广泛,按是否有参数大致可分为参数模型估计和非参数模型估计,前者有AR模型、MA模型、ARMA模型、PRONY指数模型等;后者有最小方差方法、多分量的MUSIC方法等。
ARMA谱估计叫做自回归移动平均谱估计,它是一种模型化方法。
由于具有广泛的代表性和实用性,ARMA谱估计在近十几年是现代谱估计中最活跃和最重要的研究方向之一。
二：AR参数估计及其SVD—TLS算法。
谱分析方法要求ARMA模型的阶数和参数以及噪声的方差已知.然而这类要求在实际中是不可能提供的,即除了一组样本值x(1),x(2),…,x(T)以供利用(有时会有一定的先验知识)外,再没有其它可用的数据.因此必须估计有关的阶数和参数,以便获得谱密度的估计.在ARMA定阶和参数之估计中,近年来提出了一些新算法，如本文介绍的SVD—TLS算法便是其中之一。
三：实验结果分析和展望1，样本数多少对估计误差的影响。
（A=[1,0.8,-0.68,-0.46]）图1上部分为N=1000；
下部分为取相同数据的前N=50个数据产生的结果。
图1N数不同：子图一N=1000,子图二N=200，子图三N=50由图可知，样本数在的多少，在对功率谱估计的效果上有巨大的作用，特别在功率谱密度函数变化剧烈的地方，必须有足够多的数据才能完整的还原原始功率谱密度函数。
2，阶数大小对估计误差的影响。
A=[1,-0.9,0.76]A=[1,-0.9,0.76,-0.776]图二阶数为二阶和三阶功率密度函数图A=[1,-0.9,0.86,-0.96,0.7]A=[1,-0.9,0.86,-0.96,0.7,-0.74]图三阶数为三阶和四阶功率密度函数图如图所示，阶数相差不是很大时，并不能对结果产生较大的影响。
但是阶数太低，如图二中二阶反而不能很好的估计出原始值。
3，样本点分布对估计误差对于相同的A=[1,-0.9,0.86,-0.96,0.7]；
样本的不同，在估计时的误差是不可避免的。
因此，我们在取得样本时，应该尽可能的减少不必要的误差。
图四：不同的样本得到不同的估计值4，奇异值的阈值判定范围不同对结果的影响。
上图是取奇异值的阈值大于等于0.02，而下图是取阈值大于等于0.06，显然在同种数据下，阈值的选取和最终结果有密切关系。
由于系数矩阵和其真实值的逼近的精确度取决于被置零的那些奇异值的平方和。
所以选取太小，导致阶数增大，选取太大会淘汰掉真实的系数。
根据经验值，一般取0.05左右为最佳。

本文将基于遗传算法(GeneticAlgorithms，GA)优化的改进广义回归神经网络(ImprovedGeneralRegressionNeuralNetworkbasedonGA,GRNNGA)做为NSSF（NetworkSecuritySituationForecas）网络安全态势预测。
GRNNGA方法先利用滑动时间窗(SlidingTimeWindow,STW）将各离散时间监测点的网络安全态势值(NetworkSecuritySituationValue,NSSV)构造成部分线性相关的多元回归数据序列,再利用GA动态地搜索GRNN的最优训练参数,以改善基于GRNNGA的NSSF性能。
经大量实验验证,基于GRNNGA的NSSF方法具有更高的预测精度和实用性

矩阵求导详细手册-求导运算公式表文献及-PPT，文献为斯坦福大学数学系推导和总结的矩阵求导运算表，PPT为一些矩阵求导运算规则。
是我在看机器学习线性回归推导时时候要用到的内容，网上比较后找了这两个质量比较高的资料，超值了。

何晓群版应用回归分析第四版课后答案完整版！！！！！！

在日常工作中，钉钉打卡成了我生活中不可或缺的一部分。然而，有时候这个看似简单的任务却给我带来了不少烦恼。 每天早晚，我总是得牢记打开钉钉应用，点击"工作台"，再找到"考勤打卡"进行签到。有时候因为工作忙碌，会忘记打卡，导致考勤异常，影响当月的工作评价。而且，由于我使用的是苹果手机，有时候系统更新后，钉钉的某些功能会出现异常，使得打卡变得更加麻烦。 另外，我的家人使用的是安卓手机，他们也经常抱怨钉钉打卡的繁琐。尤其是对于那些不太熟悉手机操作的长辈来说，每次打卡都是一次挑战。他们总是担心自己会操作失误，导致打卡失败。 为了解决这些烦恼，我开始思考是否可以通过编写一个全自动化脚本来实现钉钉打卡。经过一段时间的摸索和学习，我终于成功编写出了一个适用于苹果和安卓系统的钉钉打卡脚本。