搜索到2627篇“ 随机梯度“的相关文章
- 一种基于随机梯度累积的对抗攻击方法
- 本发明设计一种基于随机梯度累积的对抗攻击方法,旨在生成迁移性更高的对抗样本从而提升模型鲁棒性。首先,在梯度迭代攻击过程在每轮迭代过程我们考虑上一次迭代的累积梯度信息来调整当前梯度。然后,计算上一次迭代的累积梯度信息时采用...
- 陈玉玲黄阳豆慧张洋文杨浩
- 基于随机梯度下降的激光雷达外参标定方法及装置
- 本发明公开了一种基于随机梯度下降的激光雷达外参标定方法、介质及装置,其中方法包括:通过雷达设备对待建图区域进行扫描,以得到基准点云数据;对所述基准点云数据进行筛选,以选取多个基准控制点,并提取所述基准控制点的点云坐标值;...
- 程明陈亮范晓亮王程
- 随机梯度追踪算法的硬件架构设计
- 2024年
- 压缩感知能够有效降低信号的采样速率,但信号恢复需要大量的复杂计算,这给用于重构的专用电路的面积和功耗带来挑战。以牺牲计算精度和增加计算时长为代价的情况下,随机计算能够大幅度减少算术操作过程中的功耗和硬件成本。这一特性使得随机计算在计算密集型电路设计中得到广泛应用。基于随机计算范式,设计了一种使用简单逻辑门搭建的向量内积计算电路,进一步构建了随机梯度追踪算法的硬件架构。相较于传统的二进制计算电路,该架构在Slices资源的使用上减少了83%。对信号长度为256、稀疏度为8的信号进行重构测试,结果显示其重构信噪比达到了18.99 dB,充分验证了该方案的有效性和灵活性。
- 陈智颖
- 关键词:压缩感知
- 基于数据滤波的随机梯度辨识方法
- 2024年
- 针对有色噪声干扰下的随机系统,利用数据滤波技术,对输入输出数据进行滤波,将具有滑动平均噪声的原始系统转换为白噪声干扰下的系统,提出有限脉冲响应滑动平均系统的滤波增广随机梯度算法,并对该算法进行收敛性分析.此外,为了提高参数估计的精度和加快算法的收敛速度,使用多新息辨识理论提出滤波多新息增广随机梯度算法,并分析其收敛性.与增广随机梯度算法相比,所提出的滤波增广随机梯度算法和滤波多新息增广随机梯度算法可以得到更高精度的参数估计.最后,通过仿真实例表明了所提出算法的有效性.
- 丁锋郑嘉芸张霄徐玲
- 关键词:参数估计多新息辨识数据滤波随机梯度收敛性分析
- 基于安全差分隐私随机梯度下降的隐私计算方法及系统
- 本发明公开了一种基于安全差分隐私随机梯度下降的隐私计算方法及系统,涉及隐私计算领域,具体为基于安全差分隐私随机梯度下降的隐私计算方法,所述方法在本地提取数据特征,使各方能够减少安全训练差分隐私模型所带来的巨大准确性损失和...
- 黄步添李琳沈玮毛澄宇刘健苏奎
- 一种改进的带有动量的随机梯度下降优化算法
- 2024年
- 带有动量的随机梯度下降(SGDM)优化算法是目前卷积神经网络(CNNs)训练中最常用的算法之一。然而,随着神经网络模型的复杂化,利用SGDM算法去训练神经网络模型所需时间越来越长,因此,改进SGDM算法的收敛性能是十分必要的。在SGDM算法的基础上,提出了一种新算法SGDMNorm。新算法利用历史迭代的梯度范数对梯度进行校正,在一定程度上提高了SGDM算法的收敛速度。从收敛性的角度对该算法进行分析,证明了SGDMNorm算法具有O(√T)悔界。通过数值模拟实验和CIFAR-10图片分类应用,表明SGDMNorm算法收敛速度比SGDM算法更快。
- 黄建勇周跃进
- 关键词:梯度下降算法神经网络
- 一类自适应梯度裁剪的差分隐私随机梯度下降算法被引量:1
- 2024年
- 梯度裁剪是一种防止梯度爆炸的有效方法,但梯度裁剪参数的选取通常对训练模型的性能有较大的影响。为此,本文针对标准的差分隐私随机梯度下降算法进行改进。首先,提出一种自适应的梯度裁剪方法,即在传统裁剪方法基础上利用分位数和指数平均策略对梯度裁剪参数进行自适应动态调整,进而提出一类自适应梯度裁剪的差分隐私随机梯度下降算法。其次,在非凸目标函数的情况下对提出的自适应算法给出收敛性分析和隐私性分析。最后,在MNIST、Fasion-MNIST和IMDB数据集上进行数值仿真。其结果表明,与传统梯度裁剪算法相比,本文提出的自适应梯度裁剪算法显著提高了模型精度。
- 张家棋李觉友
- 关键词:自适应性
- 一种基于差分隐私随机梯度下降的信息推荐方法
- 本发明涉及人工智能深度学习领域,特别涉及一种基于差分隐私随机梯度下降的信息推荐方法。其包括:根据用户感兴趣的信息样本及其关系搭建信息推荐模型;通过差分隐私随机梯度下降算法学习信息推荐模型中的参数并进行加噪处理;学习完成后...
- 黄康乾胡鑫周睿向德军黄志生
- 一种基于随机梯度下降算法的用户行为分析方法及装置
- 本发明涉及深度学习技术领域,揭示了一种基于随机梯度下降算法的用户行为分析方法及装置。所述方法包括:根据随机梯度下降算法获取初始函数,利用非线性规划最优性条件及余弦退火算法确定初始函数对应的样本用户行为的约束条件,通过结合...
- 董厶溢
- 针对MIMO系统的两阶段滤波极大似然随机梯度辨识方法
- 本申请公开了一种针对MIMO系统的两阶段滤波极大似然随机梯度辨识方法,方法包括:对MIMO系统输出误差自回归滑动平均模型进行中间变量构建,以确定模型中间变量表达式;根据模型中间变量表达式,对MIMO系统输出误差自回归滑动...
- 王辉辉刘喜梅
相关作者
- 丁锋

- 作品数:218被引量:703H指数:22
- 供职机构:江南大学物联网工程学院
- 研究主题:参数估计 多新息辨识 递推辨识 最小二乘 递阶
- 牛玉贞

- 作品数:221被引量:45H指数:4
- 供职机构:福州大学
- 研究主题:图像 网络 图像输入 图像质量评估 无参考
- 焦李成

- 作品数:3,347被引量:8,692H指数:41
- 供职机构:西安电子科技大学
- 研究主题:SAR图像 图像 极化SAR 遥感图像 图像分类方法
- 李俊红

- 作品数:199被引量:116H指数:6
- 供职机构:南通大学
- 研究主题:恒流放电 参数辨识 分数阶 参数辨识方法 电池SOC
- 董德尊

- 作品数:176被引量:41H指数:3
- 供职机构:国防科学技术大学
- 研究主题:数据包 报文 分布式 路由器 描述符