李爱军
- 作品数：11 被引量：41H指数：4
- 供职机构：北京交通大学计算机与信息技术学院更多>>
- 发文基金：国家教育部博士点基金国家自然科学基金更多>>
- 相关领域：自动化与计算机技术经济管理自然科学总论更多>>
- 信息理论框架下的神经网络构建被引量：6
- 2005年
- 神经网络模型的构建方法是神经网络研究的重点和难点,传统的构建方法建立在实验和重复学习的基础上,本文提出了一种信息理论框架下的神经网络构建方法基于熵的神经网络(EBNN).EBNN借助于前馈网络与决策树的等价性,采用熵做为神经网络构造的准则,利用决策树的构造思想和方法,建立了一种系统的神经网络构造方法.实验表明EBNN方法学习速度比传统BP网络快,但又不降低神经网络性能.
- 李爱军罗四维刘蕴辉黄华
- 关键词：网络构建前馈网络网络构造BP网络网络性能等价性
- 修剪算法的信息几何分析被引量：1
- 2006年
- 修剪法是确定和优化神经网络结构的重要方法之一.当前对修剪法的研究大多集中在方法描述上,对于修剪法内在机理的研究尚不多见,而研究修剪的内在机理可以为修剪策略提供理论基础和依据.从信息几何的角度研究了修剪法的内在机理,给出了神经网络结构修剪法的信息几何理论解释,利用神经流形参数结构的层次性,将修剪法表述为一系列从当前模型流形到其子流形的信息投影过程,在此基础上提出了新的修剪算法,并给出了算法可行性与有效性的实验验证.
- 刘蕴辉罗四维黄华李爱军
- 关键词：修剪法信息几何
- 基于决策树的神经网络被引量：17
- 2005年
- 传统人工神经网络模型采用试探的方法确定合适的网络结构,并随机地初始化参数值,导致神经网络训练效率低、结果不稳定.熵网络是一种建立在决策树之上的3层前馈网络,在熵网络基础上,提出了基于决策树的神经网络设计方法(DTBNN).DTBNN中提供了对神经网络参数的初始值合理设置的方法,并提出了由决策树确定的只是熵网络的初始结构,在实际的网络构造中需要根据实际应用添加神经元和连接权以提高网络的性能.理论分析和实验结果表明了这种方法的合理性.
- 李爱军罗四维黄华刘蕴辉
- 关键词：人工神经网络决策树
- 基于凸规划观点的神经网络学习
- 2004年
- 人工神经网络最重要的特征就是网络的学习能力,通过对神经网络内部权值的调整,学习外部环境结构的特征和信息的表示.从信息几何的角度,对神经网络的学习过程进行了几何描述,并将神经网络的学习问题转化为,最小化外部环境表示的真实分布与网络模型表示的逼近分布之间的"距离",并证明了对于可编码成指数簇流形的神经网络是凸规划问题.为神经网络学习的研究提出了一个新的思路,也为在高维非线性空间中解决网络学习问题的有效性,从信息几何的角度给出了一种解释.
- 刘蕴辉罗四维李爱军俞翰斌
- 关键词：神经网络信息几何
- 前馈神经网络工作机理分析与学习算法
- 人工神经网络(ArtificialNeuralNetworks，ANN)是一个高复杂度的非线性系统，虽然从形式上模拟了人脑的学习结构，但由于所依赖的生物学理论基础尚不完善，因此人工神经网络不仅功能上远远没有达到预期的接近...
- 李爱军
- 关键词：前馈神经网络决策树
- 文献传递
- 基于熵准则的神经网络设计方法(英文)被引量：1
- 2004年
- 神经网络的结构设计一直是研究者关注的基本问题.提出了一种构造神经网络的方法———EBNN.该方法采用熵作为第一层神经元的选择准则,在选择第一层神经元的同时可以得到隐层和输出层的神经元,并对神经网络参数进行合理的初始化.该方法不仅能有效地建立神经网络的结构,还提供了信息性增量学习的可能性.
- 李爱军罗四维刘蕴辉俞翰斌
- 关键词：神经网络输出层初始化设计方法神经元信息性
- 人工神经网络知识增殖性分析被引量：5
- 2005年
- 人工神经网络的知识增殖能力是该领域的热点和难点问题 ,具有重要的理论和实践意义 对人工神经网络的知识增殖性问题进行了较深入的探讨 ,从网络推广能力的角度分析了具有知识增殖能力的神经网络系统的结构设计问题 ,指出将多个网络个体结合在一起是实现人工神经网络增殖学习的重要方法 ,网络的自治能力在此具有重要的意义 利用具有自治能力的神经网络构建的网络群体中 ,网络个体无需改变而整体具有增殖学习能力 。
- 黄华罗四维刘蕴辉李爱军
- 关键词：人工神经网络
- 退火期望最大化算法A-EM被引量：3
- 2006年
- 使用EM算法训练随机多层前馈网具有低开销、易于实现和全局收敛的特点,在EM算法的基础上提出了一种训练随机多层前馈网络的新方法AEM.AEM算法利用热力学系统的最大熵原理计算网络中隐变量的条件概率,借鉴退火过程,引入温度参数,减小了初始参数值对最终结果的影响.该算法既保持了原EM算法的优点,又有利于训练结果收敛到全局极小.从数学角度证明了该算法的收敛性,同时,实验也证明了该算法的正确性和有效性.
- 齐英剑罗四维黄雅平李爱军刘蕴辉
- 关键词：期望最大化算法最大熵退火
- 民航运输企业人力资源考评与激励问题研究
- 该文针对中国国有民航运输企业经营管理粗放问题,特别是企业人力资源开发与管理依然停留在陈旧、落后的传统劳动人事管耻阶段的现状,结合目前民航运输企业的实际,运用人力资源开与管理在考评与激励方面的理论,分析和研究了国有民航运输...
- 李爱军
- 关键词：人力资源
- 文献传递
- 神经网络的层次化学习机制探讨被引量：2
- 2004年
- 研究人■神经网络的信息处理机制是模拟人脑功能要解决的一个重要问题,在信息几何框架(?),该机制可以通过研究信息系统的几何结构来讨论.本文提出了一种简化的模拟人类思维层次的层次化神经系统模型.并利用基(?)信息几何的神经场学习理论解释了不同层次的神经系统通过(?)馈和反馈连接进行动态交互作用的逼近学习机制,进而从整体宏观的角度对人脑学习机理以及概念形成给出了(?)个数学(?)
- 刘蕴辉罗四维李爱军黄华
- 关键词：信息几何层次化
