笔记百科神经网络控制
上周贾梓筠女神的讲座出席人数爆满，座无虚席，大家都认真的享受着这场知识的饕餮盛宴！女神将晦涩难懂的知识通过形象化、具体化、简洁化的阐述，让在座的所有人，不管是兢兢业业的程序猿还是霸气外露的企业高管、不管是朝气蓬勃的初中生还是知识渊博的博士生，都对女神的讲座赞不绝口！（想勾搭女神？文末有彩蛋哟~~~）
小编也收到了很多仰慕女神的同学对该讲座的一些感想，特意发出来与大家一起分享！（干货来袭！准备接招吧~）
先来看看，第一个来搞事情的是何方神圣？让我们跟着他回顾一下那个我们与女神相约的下午~
（小编语：这位童鞋~我觉得你很有潜力哦，果然我们大集智的人不仅仅是有颜，更重要的是有才，要是有妹子看上的请后台留言，小编可以给你联系方式！）
张泽鑫，西安的大二在读生。在年初因为一本集智俱乐部出版的《科学的极致：漫谈人工智能》渐渐找到了学习的方向;也因为这本书，认识了集智俱乐部;也是在集智，结识了很多有共同兴趣的伙伴。现在已经在学习DL的路上疯狂地奔跑…
12月3日下午
北京的风依旧冷冽，雾霾又开始蠢蠢欲动，但768创意产业园内的蕴味咖啡厅却充满骚动，对，是集智的一群老司机又要搞事情啦！这有勤恳耕耘十几年的程序猿、有身处变幻莫测的金融圈却对线性非线性颇有研究的经济师、有投身科研朝九晚五工作的中科院研究员、也有兴奋不能自己着急上车的大学生、更有不给教编程就捣蛋的初中生。这群人因为集智Club相识相聚在这里并开始了又一次学术与工程的狂欢，挑战有理想有抱负的科学青年的极限！
今天的分享者是集智科学家贾梓筠，这位姐姐不仅是枚学神，更被大家尊称为女神。贾博士分享的主题是基于神经网络的智能控制技术及其发展趋势（Neural Network based Intelligent Control Technical and Its Development Tendency）。报告围绕智能控制的研究背景，基本概念及应用场景展开，对智能控制的一般结构，研究范畴，方法分类做出详细介绍。指出了非线性动态系统控制中常见问题，如执行器故障，外部扰动，未知漂移结构等，以及神经网络在控制器中扮演的角色与应用方法；然后介绍了一种具有多内涵自调节能力的神经网络模型，并从神经元个数，时变理想权值，多样化基函数等角度介绍所提模型的优越之处。最后，通过数值仿真进一步验证了在模型不确定性和外部扰动存在时，所提控制方法的有效性以及闭环系统中信号的一致最终收敛性。
智能控制科学与机器人系统堪称理论与应用的完美结合。作为现代控制科学包容性最强的理论学科，与集大成于一身的机器人系统平台结合，会碰撞出怎样爱的火花？神经网络在智能控制中，怎样发挥它独特且强大的功能？智能控制对人工智能有什么启发？又烧脑袋了吧，还不快快上车，小编带你一睹女神风采！
PPT展示了自己早期的项目，有现在非常热门的无人驾驶汽车，也有人形迎宾机器人，还有在美国MIT留学期间PR2机器人运动控制项目。当然，还有国际顶级学术期刊的发表以及数十项第一发明人的专利。
下面，跟着老司机要急速飙车了，刚上车的快坐稳了！
女神的分享围绕两大板块展开：
一、 智能控制介绍（Introduction）
二、 神经控制新方法（Novel Neural Control Methods）
在智能控制介绍这个板块，她从研究背景（Research Background）、基本概念（Basic Concepts）、应用场景（Applications）三部分讲起。
贾博士先介绍了PID控制，PID控制器（比例-积分-微分控制器，见图1）是一个在工业控制应用中常见的反馈回路部件，由比例单元P、积分单元I和微分单元D组成。PID控制的基础是比例控制；积分控制可消除稳态误差，但可能增加超调；微分控制可加快大惯性系统响应速度以及减弱超调趋势。目前在机器人领域主要用于工业型机器人机械臂和服务机器人的底盘运动、关节电机控制等方面。
图1 PID控制器结构
PID控制的一大好处是不需要系统模型，但要很好的控制系统，就必须反复调节参数，一旦系统存在扰动或不确定性或十分复杂就十分难以解决。所以在机器人领域就引入了LQR (linear quadratic regulator)，即线性二次型调节器（见下图），LQR可得到状态线性反馈的最优控制规律，易于构成闭环最优控制。但该控制严重依赖模型，如果遇到很难建模的问题就会非常棘手甚至失效。其实，PID和LQR都属于传统控制范畴。
图2 LQR控制器一般结构
但目前，传统控制理论也遇到了发展瓶颈，主要是以下几方面：
1、由于实际系统的复杂性、非线性、不确定性、时变性和不完全性，无法建立精确的数学模型；
2、要求严格的假设条件，但这些假设往往不符合实际应用场景；
3、对于复杂的和包含不确定性的被控对象，无法进行建模；
4、为提高控制性能，控制方法会变得很复杂，导致设备成本变高、可靠性降低、通用性受限。
这些问题困扰科学家们已久，控制学专家不得不开始寻找控制学科发展的新方向。
其实，控制学科研究途径目前有两条，一是发展控制硬件、软件和人工智能技术，实现控制系统的智能化，二是结合计算机科学、信息科学、系统科学、神经科学、心理学、生理学等，创立边缘交叉新学科，探索新思想，新方法和新技术。
其实，宇宙万物处处可以提供很多思路供我们研究参考。例如，生物界给我们的设计提供了更宽广的思路，通过仿生启发的方法可以解决很多实际问题。生物的进化、感知、能量、群集、结构、认知等方面都对科研有极大的帮助。机械鱼等属于结构方面的仿生，遗传算法属于进化方面的仿生，听、说、表达是感知层面的仿生等等。
在自动控制发展史中（图3），智能控制目前代表自动控制的最高层次。
图3 控制理论的发展历程
下面，女神就智能控制的定义、意义、结构以及分类进行了详细的讲解。贾博士惟妙惟肖的讲解将这些晦涩难懂的理论让在坐的老司机若有所思，似有所悟。其实小编觉得真心好难理解，但还好有女神的耐心讲解，不要放弃，女神的大招在后面哦！
那智能控制是什么呢？
智能控制（英文Intelligent Control）其实是一种针对控制对象及其环境、控制目标和任务的不确定性和复杂性而提出的新兴控制技术。利用多种人工智能方法（如：人工神经网络、模糊逻辑、进化计算、遗传算法等）实现模拟人的学习、推理和决策等智能过程。
智能控制收纳了人工智能、自动控制、信息论、运筹学等众多学科的知识。智能控制作为现代控制科学包容性最强的理论学科，是真正的集大成者。
作为集大成者，那它的意义是什么呢？
1、为传统控制无法解决的问题，提供新方法和思路；
2、采用非数学模型，非数值计算，生物启发机制，混合广义模型以及反馈理论，设计灵活且功能多样的控制系统；
3、相比人工智能学科，具有更大包容性，很好汲取了不同学科的思想；
4、为实现脑力劳动和体力劳动的自动化、智能化做贡献。
图4 智能控制的一般结构
图5 智能控制的研究方向
下面，女神就智能控制中一重要方法做了讲解——神经网络控制。之前没有接触过的小伙伴可以提前查阅相关书籍或自行google快速了解一下哈！因为接下来的内容小编琢磨了好久好久才懂了那么一就就，相信正在阅读本文的你一定比小编聪明多了。休息一会，我们继续前进。
神经网络控制是智能控制中的一种非常重要的研究方法。神经网络控制分为两类，一类是神经网络模型，一类是神经控制。
接下来，贾博士先简单讲解了线性非线性与动态系统。为最后的大招在蓄力，一定要坐稳了。
现在的动态系统有三种控制类型，分别是镇定、调节、跟踪。
其实，目前的控制动态系统也面临很多问题：执行器故障、外部干扰问题、未知的漂移结构、输入非线性问题、未知的控制方向。这些问题目前也是研究的热门，不知你有没有突破难题的冲动呢?
下面。我们一起来看看控制器在系统中的地位到底是什么样的？没错，图6给出了闭环控制系统的基本结构。
图6 闭环控制系统的基本结构
女神对目前控制系统中遇到的问题逐一详细的讲解。包括执行器故障的描述、死驱饱和问题、应对外部扰动的方法、未知的控制方向、漂移结构的描述等。如果不是本专业人士可以不用深究，简单了解就可以啦！
其实，控制器希望自己本身有的优势（目标）：
1、结构尽量简单，在线运算成本足够低
2、尽可能少的定义参数，让控制器尽可能自动调节
3、较少甚至无需再次编程、设计
终于结束了晦涩难懂、甚至枯燥的理论部分，现在就到了休闲时刻啦！女神带你看遍机器人！
机器人系统是智能控制很好的应用验证平台，贾博士展示了各种各样的机器人并简单做了介绍。机器狗、机械手、达芬奇机械臂、野猫机器人、猎豹机器人、水下机器人、六足机器人、可穿戴式机器人等等（图7）。
图7 千奇百怪的机器人
其中，重点介绍了智能控制在无人驾驶汽车、高速列车、风力发电系统、智能电网等热门实际应用场景。
（前方高能预警，请坐稳扶好！自备纸巾！！！）
在神经控制新方法（Novel Neural Control Methods）这个板块，涉及经典方法回顾 （Review of Classical Methods）、 若干问题 （Several Issues）、可行解决方法（Potential Solutions）、控制器设计（Control Design）四方面内容。
在绝大多数教科书中，将神经网络控制大致分成以下6类：
神经网络直接逆控制（NN Direct Inverse Control）
神经网络内模控制（NN Internal Model Control）
神经自适应控制（Neural Adaptive Control）
神经网络预测控制（NN Predictive Control）
神经PID控制 （NN PID）
小脑模型关节控制 （CMAC）
其实，在Google中键入关键词反步、滑模、鲁棒、容错中任意一个都可以找到大量的神经网络控制方面的信息，你也可以试试哦！
那说到这里，神经网络控制到底是什么呢？
神经网络控制是20世纪80年代末期发展起来的自动控制领域的前沿学科之一。它是智能控制的一个新的分支，为解决复杂的非线性、不确定、不确知系统的控制问题开辟了新途径。神经网络控制是（人工）神经网络理论与控制理论相结合的产物，是发展中的学科。它汇集了包括数学、生物学、神经生理学、脑科学、遗传学、人工智能、计算机科学、自动控制等学科的理论、技术、方法及研究成果。在控制领域，将具有学习能力的控制系统称为学习控制系统，属于智能控制系统。神经控制是有学习能力的，属于学习控制，是智能控制的一个分支。神经控制发展至今，虽仅有十余年的历史，已有了多种控制结构。如神经预测控制、神经逆系统控制等。
是不是觉得神经控制博大精深呢？其实，神经网络还有很多奥秘等待着我们去探索研究。
下面，就是常规反馈控制和神经网络控制的区别了！
图8给出了一个简单的常规反馈控制系统的结构示意，
图8 简单的常规反馈控制
图9 是采用神经网络取代常规控制器后的样子
图9 经典神经网络控制系统
说了这么久，那神经网络控制的基本结构是什么呢？其实结构并不复杂，下图就是，是不是可以深呼口气放松一下啦！
图10 神经网络的功效
其实，这个模型中体现了自适应学习的过程，结合自适应控制的方法，具有参数“在线”自适应的神经网络控制得到了迅速发展。而在上世纪90年代之前，网络的权值学习过程是离线完成的。
下图，有没有戳中你的笑点呢？为什么会突然出现这种画风的图片呢？和女神的气质一点也不搭！（原来女神骨子里隐藏的幽默风趣的特质哈哈哈被我发现啦~）
图11 人脑的智能控制水平
其实，这副图片想告诉我们一个道理，我们骑车的时候从来不关心后面载的什么，不管后面载什么，只要我们上车后适应一下就出发了，机器人其实也应该如此。女神告诉我们，这幅图是来自控制界的一位大咖教授的PPT，如果感兴趣可以在Google搜索S. S, Ge哦。
接下来，是神经控制理论经常会遇到的一个理论——万能逼近理论。
它有多么强大呢？一个网络有充分多的神经元存在，它就能完成任意复杂系统的学习逼近。但神经元到底多多才算多呢？不难理解,神经元过少会导致网络失去学习能力，而过多会导致资源浪费等很多问题。所以到底要选多少呢，小编也很苦逼啊！
图12 通过增加神经元节点，提高神经网络的学习能力
下面，放一张在很多论文中会见到的神经元网络模型，不懂的可以自行Google脑补一下。
那目前的模型有难以解决的问题吗？其实有很多！比方说:
关于紧集：如何确保神经网络训练输入z始终在确定的紧集中？
关于神经元数量：网络中需要包含多少神经元才算足够？如何自动更新数目？
关于理想权值：如何处理未知时变理想权值w*？
关于基函数：如何在线调节基函数f 结构参数，使用结构多样非单一的基函数？
关于连续性：如何处理非连续函数g(z)？
关于NN模型：如何从神经科学角度优化神经网络模型并确保系统稳定性？
针对上述难题，贾博士提出了解决方案，将鲁棒自适应控制与虚拟参数结合，处理未知且时变的理想权值；使用多样化基函数取代单一结构的基函数。其实，这一方法的灵感来自于操作性条件反射学习机制。作为整日和数学公式打交道的她，竟也苦心钻研了数月的神经科学。可见，跨学科研究是理论突破的极好选择。
随后，贾博士对操作性条件反射学习机制进行了详细的讲解（感兴趣的快去Google哦），介绍了决定个体训练效果的四项因素：缺乏度、即时性、伴随性、规模大小。同时，结合行为心理学家Thornadikes的著名迷箱实验，对这四个因素一一讲解，并从神经生理学层面出发，讲述了多巴胺能神经元对纹状体神经元的影响、全局多巴胺奖励信号的广播过程、奖励刺激与奖励预测对多巴胺释放的影响等等。最后，得出了一套完整的神经元数量的自动调节机制，并在此基础上延展出了带有自动生长/灭亡特点的自调节型神经元网络。虽然，这些一串串的专业名词看起来好像那么与世隔绝，但实际上，贾博士在讲座中就上述模型的得来与应用做了生动有趣的推理和解释。由于篇幅有限，小编就不在这里介绍了。如果想知道女神是如讲解的，敬请期待集智Club的媒体集！
最后，贾博士和大家分享了近几年自己做科研的一些感悟。
在浩瀚的宇宙面前，虽然我们看起来是那么渺小，但其实每一个人所做出的每一个努力都会为人类了解宇宙还有社会进步贡献自己的力量，哪怕很小，但随着长期努力的积累以及众多人士持之以恒的坚持，就一定会推动人类文明的发展。
在分享的结束，集智的小伙伴们就各种想法展开了头脑风暴，并对讲座中的疑惑与贾博士进行了深入讨论，产生出了一些很有开创性的想法。本次讲座不愧是学术与工程的狂欢，多学科知识体系的融合碰撞，琳琅满目的数学公式，活生生的机器人表演Show，着实挑战一个有理想有抱负的科学青年的极限！
集智，营造自由交流学术思想的小生境，孕育开创性的科学发现。集智，让苹果砸得更猛烈些吧！
– END –
是不是看完之后很爽？想要勾搭女神却苦于没有途径吗？哈哈哈，贴心的小编为大家准备了入群通道~
科普一下女神的群！
本群由贾梓筠创建，目前是北交大在读PhD，MIT海归。以多学科融合为特色，专注于智能控制理论、人工神经网络、机器人、嵌入式控制系统设计领域研究和开发，期待来自不同领域的专业和非专业小伙伴加入；致力于为热爱探索科学新知、对未知有强烈好奇心、乐于将理论付诸实践的小伙伴们提供一个认知升级、专业探讨、资源链接的社群平台；不管你是做人工智能、机器人系统、生物工程、脑科学还是产品开发，欢迎来这里一起在热爱的领域尽情努力的玩儿~更重要的是，本群也是接触神秘的科研组织——集智俱乐部的通道哦
1、扫描二维码或者点击阅读原文填写麦克表单。
2、通过集智相关人员的好友申请即可入群。
最后的最后，送上福利！（下期内容更精彩呦~~）
– END –
集智俱乐部
英文名： Swarm Agents Club ，简称“ SA Club ”，成立于 2008 年 ， 是一个从事学术研究、享受科学乐趣的探索者的团体 。它倡导以平等开放的态度、科学实证的精神，进行跨学科的研究与交流，力图搭建一个中国的 “ 没有围墙的研究所 ”
集智俱乐部的口号：
让苹果砸得更猛烈些吧！！！
集智俱乐部的使命（即目标）：
营造自由交流学术思想的小生境，
孕育开创性的科学发现
集智每周精品推荐
深度学习征服复杂性 | 深度“深度学习”读书会第1期笔记随想
博物学视角下的进化、熵与自然秩序
如何掌握宇宙？| 凯风-集智研读营笔记之一
让苹果砸得更猛烈些吧！
长按识别二维码，关注集智Club，
让我们离科学探索更近一步。
