gitchat资料。
从零开始学习BP神经网络。
本文主要叙述了经典的全连接神经网络结构以及前向传播和反向传播的过程。
通过本文的学习，读者应该可以独立推导全连接神经网络的传播过程，对算法的细节烂熟于心。
另外，由于本文里的公式大部分是我自己推导的，所以可能会有瑕疵，希望读者不吝赐教。
  虽然这篇文章实现的例子并没有什么实际应用场景，但是自己推导一下这些数学公式对理解神经网络内部的原理很有帮助，继这篇博客之后，我还计划写一个如何自己推导并实现卷积神经网络的教程，如果有人感兴趣，请继续关注我！

【新能源微电网】新能源微电网是由分布式电源、储能设备、能量转换装置等组成的微型发配电系统，能够在独立或并网状态下运行，具有自我控制、保护和管理能力。
它结合了新能源发电，如太阳能和风能，以提高能源利用率，尤其在偏远地区提供电力供应。
然而，新能源的不稳定性给微电网的运行带来了挑战，如发电量预测和电网管理的困难。
【人工智能神经网络】人工神经网络是人工智能的核心组成部分，模拟生物神经网络结构，用于解决复杂问题，如信息处理和学习。
在新能源微电网领域，神经网络主要用于处理非线性和复杂的预测任务，如风力发电量和电力负荷的预测。
主要的神经网络分词法有：神经网络专家系统分词法和神经网络分词法，前者结合了神经网络的自学特性与专家系统的知识，后者通过神经网络的内在权重来实现正确分词。
【RBF神经网络】径向基函数（RBF）神经网络是神经网络的一种，常用于预测任务。
它由输入层、隐藏层和输出层组成，其中隐藏层使用RBF作为激活函数，实现输入数据的非线性变换，从而适应复杂的数据模式。
在微电网中，RBF神经网络用于短期负荷预测，能有效处理非线性关系，降低外部因素对预测的干扰。
【微电网短期负荷预测】短期负荷预测对于微电网的能量管理和运行优化至关重要。
通过构建RBF神经网络模型，可以预测未来一定时间内的负荷变化。
预测模型的建立通常需要选择与负荷密切相关的输入数据，如时间、气温、风速等，并进行数据预处理。
MATLAB等工具可用于进行网络训练和仿真，以生成预测结果。
【风力发电预测】RBF神经网络同样适用于风力发电量的预测。
通过对风速、气压等相关因素的预测，可以估算微电网系统的风力发电潜力，帮助维持系统的稳定运行，减少风电波动对微电网的影响。
总结来说，人工智能神经网络，尤其是RBF神经网络，为解决新能源微电网中的挑战提供了有效工具。
通过精确预测新能源发电量和电力负荷，可以优化微电网的运行效率，确保其稳定性和自给自足的能力。
此外，这种技术还能促进可再生能源的有效利用，有助于推动能源行业的可持续发展。

1绪论11.1人工神经网络的研究背景和意义11.2神经网络的发展与研究现状21.3神经网络的研究内容和目前存在的问题31.4神经网络的应用42神经网络结构及BP神经网络42.1神经元与网络结构42.2BP神经网络及其原理72.3BP神经网络的主要功能92.4BP网络的优点以及局限性93BP神经网络在实例中的应用103.1基于MATLAB的BP神经网络工具箱函数103.2BP网络在函数逼近中的应用123.3BP网络在样本含量估计中的应用174结束语23

反演控制方法与实现《反演控制方法与实现》系统地介绍了反演控制方法的基本原理及其在不确定非线性系统中的应用。
《反演控制方法与实现》共分为6章，在介绍反演法的一般理论的基础上，重点论述了抑制参数漂移的自适应反演方法，考虑非线性干扰观测器的弱抖振滑模反演方法，针对系统模型部分未知的情况，使用模糊系统和神经网络估计系统中的未知部分，给出了基于智能系统的反演设计方法，同时本书介绍了系统状态未知情况下的反演设计方法。
针对各种情况本书均给出了详细的理论设计方法和Matlab仿真。
　《反演控制方法与实现》是作者在从事控制理论与控制方法研究的基础上完成的。
本书适用于从事非线性控制方法研究的工作人员和研究生参考。
前言第1章绪论1·1研究的背景及意义1·2李雅普诺夫稳定性理论1·2·1李雅普诺夫意义下的稳定性1·2·2有界性1·2·3李雅普诺夫稳定性理论1·3微分几何理论基础1·3·1李导数和李括号1·3·2微分同胚1·3·3控制系统的相对阶1·3·4输入状态线性化1·3·5状态反馈线性化的设计1·4反演法的基本原理1·5反演法的研究概况1·5·1自适应反演控制1·5·2鲁棒自适应反演控制1·5·3滑模反演控制1·5·4智能反演控制1·5·5其他反演控制方法1·6本书的主要研究内容第2章自适应反演控制方法2·1引言2·2常规自适应反演法2·2·1自适应反演法设计思路2·2·2仿真算例2·3抑制参数漂移的自适应反演控制2·3·1问题描述及预备知识2·3·2抑制参数漂移的自适应反演控制器设计2·3·3系统稳定性分析2·3·4仿真算例2·4扩展的自适应反演控制2·4·1问题描述2·4·2参数自适应律的设计2·4·3基于动态面的扩展反演控制器设计2·4·4稳定性分析2·4·5仿真算例2·5仿真算例的Matlab实现2·5·1节仿真算例的Matlab实现2·5·2节仿真算例的Matlab实现2·5·3节仿真算例的Matlab实现2·6本章小结第3章不确定非线性系统的弱抖振滑模反演控制3·1引言3·2滑模控制基本原理3·3匹配不确定非线性系统的弱抖振滑模反演控制3·3·1问题描述3·3·2滑模反演控制器设计3·3·3滑模反演控制稳定性分析3·3·4自适应滑模反演控制器设计3·3·5自适应滑模反演控制稳定性分析3·3·6非线性干扰观测器3·3·7匹配不确定非线性系统的弱抖振滑模反演控制3·3·8仿真算例3·4非匹配不确定非线性系统的多滑模反演控制3·4·1问题描述3·4·2多滑模反演控制3·4·3基于非线性干扰观测器的多滑模反演控制3·4·4系统稳定性分析3·4·5仿真算例3·5仿真算例的Matlab实现3·5·1节弱抖振滑模反演控制的Matlab实现3·5·2节自适应弱抖振滑模反演控制Matlab实现3·5·3节多滑模反演控制Matlab实现3·6本章小结第4章基于模糊系统的非线性系统反演控制4·1引言4·2基于模糊系统的非线性系统控制4·2·1问题的提出4·2·2模糊系统描述4·2·3控制器设计4·2·4仿真算例4·3节Matlab实现4·4本章小结第5章基于神经网络的非线性系统反演控制5·1引言5·2非线性系统的鲁棒小波神经网络控制5·2·1问题的提出5·2·2小波神经网络结构5·2·3控制器的设计5·2·4稳定性分析5·2·5仿真5·3不确定非线性系统的鲁棒自适应渐近跟踪控制5·3·1控制目标5·3·2控制器设计5·3·3仿真算例5·4算例的Matlab实现5·4·1节算例的Matlab实现5·4·2节算例1的Matlab实现5·4·3节算例2的Matlab实现5·5本章小结第6章基于状态观测器的反演控制器设计6·1滑模观测器控制器设计6·1·1滑模观测器设计6·1·2滑模反演控制器设计6·2仿真算例6·3节仿真实例的Matlab实现6·4本章小结参考文献

完整的PDF版　第1章绪论　　1.1从生物神经网络到人工神经网络　　1.2人工神经网络的发展史　　1.3人工神经网络的应用　　1.4生物神经元　　1.5人工神经元模型　　1.6神经网络的结构　　1.7神经网络的特点　　1.8神经网络的学习方式　　第2章MATLAB神经网络工具箱中的神经网络模型　　2.1MATLAB工具箱的神经元模型　　2.2MATLAB工具箱中的神经网络结构　　2.3MATLAB神经网络工具箱中的网络对象及其属性　　2.3.1网络对象属性　　2.3.2子对象属性　　第3章感知器　　3.1感知器神经元及感知器神经网络模型　　3.2感知器的学习　　3.3感知器的局限性　　3.4单层感知器神经网络的MATLAB仿真程序设计　　3.5多层感知器神经网络及其MATLAB仿真　　3.6感知器应用于线性分类问题的进一步讨论　　第4章线性神经网络　　4.1线性神经网络模型　　4.2线性神经网络的学习　　4.3线性神经网络的MATLAB仿真程序设计　　4.3.1线性神经网络设计的基本方法　　4.3.2线性神经网络的设计例程　　第5章BP网络　　5.1BP神经元及BP网络模型　　5.2BP网络的学习　　5.2.1BP网络学习算法　　5.2.2BP网络学习算法的比较　　5.3BP网络泛化能力的提高　　5.4BP网络的局限性　　5.5BP网络的MATLAB仿真程序设计　　5.5.1BP网络设计的基本方法　　5.5.2BP网络应用实例　　第6章径向基网络　　6.1径向基网络模型　　6.2径向基网络的创建与学习过程　　6.3其他径向基神经网络　　6.4径向基网络的MATLAB仿真程序设计　　第7章竞争型神经网络　　7.1竞争型神经网络模型　　7.2竞争型神经网络的学习　　7.3竞争型神经网络存在的问题　　7.4竞争型神经网络的MATLAB仿真程序设计　　第8章自组织神经网络　　8.1自组织特征映射神经网络模型　　8.2自组织特征映射神经网络的学习　　8.3学习向量量化神经网络模型　　8.4学习向量量化神经网络的学习　　8.5LVQ1学习算法的改进　　8.6LVQ神经网络的MATLAB仿真程序设计　　第9章反馈型神经网络　　9.1Elman神经网络　　9.2Hopfield神经网络　　9.3反馈神经网络的MATLAB仿真程序设计　　第10章图形用户界面　　10.1图形用户界面简介　　10.2图形用户界面应用示例　　10.3图形用户界面的其他操作　　第11章Simulink　　11.1Simulink神经网络仿真模型库简介　　11.2Simulink应用示例　　第12章自定义网络　　12.1自定义神经网络　　12.1.1自定义神经网络的创建　　12.1.2自定义神经网络的初始化、训练与仿真　　12.2自定义函数　　附录A神经网络工具箱函数　　参考文献

递归神经网络（RNN）是两种人工神经网络的总称。
一种是时间递归神经网络（recurrentneuralnetwork），又名循环神经网络，另一种是结构递归神经网络（recursiveneuralnetwork）。
时间递归神经网络的神经元间连接构成矩阵，而结构递归神经网络利用相似的神经网络结构递归构造更为复杂的深度网络。
RNN一般指代时间递归神经网络。
单纯递归神经网络因为无法处理随着递归，权重指数级爆炸或消失的问题（Vanishinggradientproblem），难以捕捉长期时间关联；
而结合不同的LSTM可以很好解决这个问题。

《神经网络结构设计的理论与方法(带附录)》完整版，附录含书中matlab代码等信息

卷积神经网络结构示意图，可以作为一个参考进行修改，包含有卷积层，池化层，Flatten,全连接层和softmax

目录第1章线性神经网络的工程应用1.1系统辨识的MATLAB实现1.2自适应系统辨识的MATLAB实现1.3线性系统预测的MATLAB实现1.4线性神经网络用于消噪处理的MATLAB实现第2章神经网络预测的实例分析2.1地震预报的MATLAB实现2.1.1概述2.1.2地震预报的MATLAB实例分析2.2交通运输能力预测的MATLAB实现2.2.1概述2.2.2交通运输能力预测的MATLAB实例分析2.3农作物虫情预测的MATLAB实现2.3.1概述2.3.2农作物虫情预测的MATLAB实例分析2.4基于概率神经网络的故障诊断2.4.1概述2.4.2基于PNN的故障诊断实例分析2.5基于BP网络和Elman网络的齿轮箱故障诊断2.5.1概述2.5.2基于BP网络的齿轮箱故障诊断实例分析2.5.3基于Elman网络的齿轮箱故障诊断实例分析2.6基于RBF网络的船用柴油机故障诊断2.6.1概述2.6.2基于RBF网络的船用柴油机故障诊断实例分析第3章BP网络算法分析与工程应用3.1数值优化的BP网络训练算法3.1.1拟牛顿法3.1.2共轭梯度法3.1.3LevenbergMarquardt法3.2BP网络的工程应用3.2.1BP网络在分类中的应用3.2.2函数逼近3.2.3BP网络用于胆固醇含量的估计3.2.4模式识别第4章神经网络算法分析与实现4.1Elman神经网络4.1.1Elman神经网络结构4.1.2Elman神经网络的训练4.1.3Elman神经网络的MATLAB实现4.2Boltzmann机网络4.2.1BM网络结构4.2.2BM网络的规则4.2.3用BM网络解TSP4.2.4BM网络的MATLAB实现4.3BSB模型4.3.1BSB神经模型概述4.3.2BSB的MATLAB实现第5章预测控制算法分析与实现5.1系统辨识5.2自校正控制5.2.1单步输出预测5.2.2最小方差控制5.2.3最小方差间接自校正控制5.2.4最小方差直接自校正控制5.3自适应控制5.3.1MIT自适应律5.3.2MIT归一化算法第6章改进的广义预测控制算法分析与实现6.1预测控制6.1.1基于CARIMA模型的JGPC6.1.2基于CARMA模型的JGPC6.2神经网络预测控制的MATLAB实现第7章SOFM网络算法分析与应用7.1SOFM网络的生物学基础7.2SOFM网络的拓扑结构7.3SOFM网络学习算法7.4SOFM网络的训练过程7.5SOFM网络的MATLAB实现7.6SOFM网络在实际工程中的应用7.6.1SOFM网络在人口分类中的应用7.6.2SOFM网络在土壤分类中的应用第8章几种网络算法分析与应用8.1竞争型神经网络的概念与原理8.1.1竞争型神经网络的概念8.1.2竞争型神经网络的原理8.2几种联想学习规则8.2.1内星学习规则8.2.2外星学习规则8.2.3科荷伦学习规则第9章Hopfield神经网络算法分析与实现9.1离散Hopfield神经网络9.1.1网络的结构与工作方式9.1.2吸引子与能量函数9.1.3网络的权值设计9.2连续Hopfield神经网络9.3联想记忆9.3.1联想记忆网络9.3.2联想记忆网络的改进9.4Hopfield神经网络的MATLAB实现第10章学习向量量化与对向传播网络算法分析与实现10.1学习向量量化网络10.1.1LVQ网络模型10.1.2LVQ网络学习算法10.1.3LVQ网络学习的MATLAB实现10.2对向传播网络10.2.1对向传播网络概述10.2.2CPN网络学习及规则10.2.3对向传播网络的实际应用第11章NARMAL2控制算法分析与实现11.1反馈线性化控制系统原理11.2反馈线性控制的MATLAB实现11.3NARMAL2控制器原理及实例分析11.3.1NARMAL2控制器原理11.3.2NARMAL2控制器实例分析第12章神经网络函数及其导函数12.1神经网络的学习函数12.2神经网络的输入函数及其导函数12.3神经网络的性能函数及其导函数12.3.1性能函数12.3.2性能函数的导函数第13章Simulink神经网络设计13.1Simulink交互式仿真集成环境13.1.1Simulink模型创建1

这是一门专门为STEM学生开发的机器学习入门课程。
我们讨论有监督、无监督和强化学习。
笔记开始阐述了没有神经网络的机器学习方法，如主成分分析，t-SNE，和线性回归。
我们继续介绍基本和高级神经网络结构，如传统神经网络、(变分)自编码器、生成对抗网络、受限玻尔兹曼机器和递归神经网络。

在日常工作中，钉钉打卡成了我生活中不可或缺的一部分。然而，有时候这个看似简单的任务却给我带来了不少烦恼。 每天早晚，我总是得牢记打开钉钉应用，点击"工作台"，再找到"考勤打卡"进行签到。有时候因为工作忙碌，会忘记打卡，导致考勤异常，影响当月的工作评价。而且，由于我使用的是苹果手机，有时候系统更新后，钉钉的某些功能会出现异常，使得打卡变得更加麻烦。 另外，我的家人使用的是安卓手机，他们也经常抱怨钉钉打卡的繁琐。尤其是对于那些不太熟悉手机操作的长辈来说，每次打卡都是一次挑战。他们总是担心自己会操作失误，导致打卡失败。 为了解决这些烦恼，我开始思考是否可以通过编写一个全自动化脚本来实现钉钉打卡。经过一段时间的摸索和学习，我终于成功编写出了一个适用于苹果和安卓系统的钉钉打卡脚本。