-
公开(公告)号:CN117952151A
公开(公告)日:2024-04-30
申请号:CN202410093342.6
申请日:2024-01-23
Applicant: 东北大学
IPC: G06N3/0455 , G06N3/08 , G06F40/30
Abstract: 本发明公开一种基于多掩码方式的语义向量模型预训练方法,步骤为:从各类开源社区收集和构建有监督文本的训练句对,构成训练数据集;编码方面,给定训练数据集的输入,采用中等掩码比例,随机掩码掉其中15%词元,利用编码器对句对进行编码,从而得到对应的句向量,并将编码器的[CLS]特征信息的最后一层的隐状态作为句向量;解码方面,给定数据集的输入,采用高掩码比例,利用掩码后的文本与编码器生成的句向量对文本进行重建;编码部分的掩码损失和解码器部分自重建的交叉熵损失相加得到损失值更新语义向量模型参数,得到最终的模型。本发明引入了非对称模型结构,强迫编码器学习到良好的语义向量表示,从而可以实现底座模型的显著改进。
-
公开(公告)号:CN104951425B
公开(公告)日:2018-03-13
申请号:CN201510426784.9
申请日:2015-07-20
Applicant: 东北大学
IPC: G06F15/18
Abstract: 本发明提供一种基于深度学习的云服务性能自适应动作类型选择方法,包括监测物理机群数据、虚拟机数据、服务组件数据;结合SLA中约定的约束事件和实时监测的数据,判定当前服务性能是否需要优化:若当前数据触发约束事件,则根据自适应方法库决策自适应动作类型,否则继续监测;根据决策的自适应动作类型进行云服务性能自优化;反馈学习,更新自适应方法库,返回继续监测。云环境自身具有高可伸缩、动态重构的特性,致使云服务的服务性能在实际运行环境中受到多因素的制约,本发明方法在服务组件进行服务性能自优化时,根据不同场景的实际情况从自适应动作集中选择出最佳的自适应动作。
-
公开(公告)号:CN106506229B
公开(公告)日:2019-04-23
申请号:CN201611077438.5
申请日:2016-11-30
Applicant: 东北大学
Abstract: 本发明提供一种SBS云应用自适应资源优化调整系统及方法,该系统包括:规则生成单元;监测单元;触发单元;动态决策单元;方案执行单元。该方法包括:生成自适应资源优化调整规则;在线实时获取SBS云应用的运行状态信息和云环境的运行状态信息;对SBS云应用进行自适应资源优化调整规则在线触发判断,确定触发的自适应资源优化调整规则;生成一组自适应资源优化调整动作,决策出自适应资源优化调整方案,进行SBS云应用自适应资源优化调整。本发明根据SBS云应用提供者与云环境提供者所签订的SLA,调整SBS云应用所占用的资源,实现了在保障SBS云应用性能的同时最小化资源调整的成本。
-
公开(公告)号:CN104360908A
公开(公告)日:2015-02-18
申请号:CN201410606471.7
申请日:2014-10-31
Applicant: 东北大学
IPC: G06F9/50
Abstract: 本发明涉及基于蚁群优化算法的云环境下SBS资源配置方法,首先获取SBS中各组件服务的资源候选资源配置集,然后获取任意资源属性向量与其组件服务平均响应时间之间的映射关系,构造SBS资源配置应用的搜索图,利用蚁群优化算法调整SBS中各组件服务的资源候选资源配置集,得到最优组合资源配置,最后根据最优组合资源配置对SBS进行资源配置,本发明中的SBS资源配置方法能在配置满足SLA约束的条件下最小化资源使用成本,从而提高服务提供商的收益,当SBS资源配置应用的规模较大时,本发明提出的方法能够保证在较短时间内求得近似最优的组合资源配置。
-
公开(公告)号:CN105760213B
公开(公告)日:2019-03-01
申请号:CN201610096360.5
申请日:2016-02-22
Applicant: 东北大学
IPC: G06F9/455
Abstract: 云环境下虚拟机资源利用率的预警系统及方法,属于云环境下虚拟机性能优化领域。系统包括数据获取模块、含有数据预处理模块、间断点判断模块、间断点估测与补充模块、数据预测模块和数据还原模块的数据处理与预测模块和资源利用率预警模块。方法包括:获取云环境下虚拟机资源利用率历史数据;对前述数据进行预处理;云环境下虚拟机资源利用率历史数据时间序列中间断点的估测与补充;通过可变周期的时间序列预测算法预测未来一段时间内的云环境下虚拟机资源利用率数据时间序列;对云环境下虚拟机资源利用率预测数据进行还原处理;云环境下虚拟机资源利用率预警;提高了对未来一段时间内的云环境下虚拟机资源利用率数据进行预测的准确性。
-
公开(公告)号:CN104932898B
公开(公告)日:2018-03-23
申请号:CN201510374260.X
申请日:2015-06-30
Applicant: 东北大学
Abstract: 本发明一种基于改进多目标粒子群优化算法的待增组件选择方法,属于云服务优化技术领域,本发明通过分析历史应用用户并发量,根据其数据分布趋势,利用自相关系数分析方法将并发量分为平稳型和非平稳型;针对不同的特征利用不同的时间序列预测方法,预测应用用户并发量;该方法不但提高了预测的效率,而且提升了预测方法的灵活度;此外利用组件调用关系和组件调用频率分解应用用户并发量,计算各组件并发量,综合考虑组件并发量和组件响应时间两种直观反映组件工作性能的因素,并以此为选择待增组件的依据,提高组件选择方法的准确性;针对传统粒子群优化算法约束条件精度低的问题,提出半可行域,有效的提高约束条件的精度。
-
公开(公告)号:CN105760213A
公开(公告)日:2016-07-13
申请号:CN201610096360.5
申请日:2016-02-22
Applicant: 东北大学
IPC: G06F9/455
CPC classification number: G06F9/45533
Abstract: 云环境下虚拟机资源利用率的预警系统及方法,属于云环境下虚拟机性能优化领域。系统包括数据获取模块、含有数据预处理模块、间断点判断模块、间断点估测与补充模块、数据预测模块和数据还原模块的数据处理与预测模块和资源利用率预警模块。方法包括:获取云环境下虚拟机资源利用率历史数据;对前述数据进行预处理;云环境下虚拟机资源利用率历史数据时间序列中间断点的估测与补充;通过可变周期的时间序列预测算法预测未来一段时间内的云环境下虚拟机资源利用率数据时间序列;对云环境下虚拟机资源利用率预测数据进行还原处理;云环境下虚拟机资源利用率预警;提高了对未来一段时间内的云环境下虚拟机资源利用率数据进行预测的准确性。
-
公开(公告)号:CN104951425A
公开(公告)日:2015-09-30
申请号:CN201510426784.9
申请日:2015-07-20
Applicant: 东北大学
IPC: G06F15/18
Abstract: 本发明提供一种基于深度学习的云服务性能自适应动作类型选择方法,包括监测物理机群数据、虚拟机数据、服务组件数据;结合SLA中约定的约束事件和实时监测的数据,判定当前服务性能是否需要优化:若当前数据触发约束事件,则根据自适应方法库决策自适应动作类型,否则继续监测;根据决策的自适应动作类型进行云服务性能自优化;反馈学习,更新自适应方法库,返回继续监测。云环境自身具有高可伸缩、动态重构的特性,致使云服务的服务性能在实际运行环境中受到多因素的制约,本发明方法在服务组件进行服务性能自优化时,根据不同场景的实际情况从自适应动作集中选择出最佳的自适应动作。
-
公开(公告)号:CN117935776A
公开(公告)日:2024-04-26
申请号:CN202410089667.7
申请日:2024-01-23
Applicant: 东北大学
Abstract: 本发明的一种基于增量学习的语种识别方法,包括步骤1:对原始音频文件进行预处理,提取得到音频特征序列;步骤2:搭建基于Transformer的语种识别模型框架;步骤3:使用多语种数据集训练语种识别模型,采用交叉熵损失函数进行优化训练;步骤4:保持步骤3训练好的语种识别模型的结构和参数不变,在其解码端添加新预测层,构成新的语种识别模型;步骤5:将新的多语种数据集输入到新的语种识别模型中,得到旧预测层输出的预测的语种概率和新预测层输出的预测的语种概率;步骤6:设置新的损失函数,通过最小化损失函数来更新新的语种识别模型的参数;步骤7:使用随机梯度下降法训练新的语种识别模型,最终得到基于增量学习的语种识别模型。
-
公开(公告)号:CN104932898A
公开(公告)日:2015-09-23
申请号:CN201510374260.X
申请日:2015-06-30
Applicant: 东北大学
Abstract: 本发明一种基于改进多目标粒子群优化算法的待增组件选择方法,属于云服务优化技术领域,本发明通过分析历史应用用户并发量,根据其数据分布趋势,利用自相关系数分析方法将并发量分为平稳型和非平稳型;针对不同的特征利用不同的时间序列预测方法,预测应用用户并发量;该方法不但提高了预测的效率,而且提升了预测方法的灵活度;此外利用组件调用关系和组件调用频率分解应用用户并发量,计算各组件并发量,综合考虑组件并发量和组件响应时间两种直观反映组件工作性能的因素,并以此为选择待增组件的依据,提高组件选择方法的准确性;针对传统粒子群优化算法约束条件精度低的问题,提出半可行域,有效的提高约束条件的精度。
-
-
-
-
-
-
-
-
-