一种动静态融合的多态手势识别方法

    公开(公告)号:CN109086664B

    公开(公告)日:2023-04-28

    申请号:CN201810681989.5

    申请日:2018-06-27

    Applicant: 济南大学

    Inventor: 冯志全 周晓燕

    Abstract: 本发明提供了一种动静态融合的多态手势识别方法,属于交互式教学领域。该动静态融合的多态手势识别方法包括:(1)利用Kinect持续捕捉用户做出的手势序列;(2)对捕捉到的手势序列进行动静态融合处理,得到动静态融合的样本序列;(3)对所述动静态融合的样本序列进行归一化尺寸处理,得到训练样本;(4)将所述训练样本输入到训练好的深度学习模型中进行识别得到识别结果。利用本发明方法提高了多态手势的识别率以及鲁棒性,使整个交互式教学界面更好地为智能教学系统服务。

    基于轻量化驱动和三尺度编码的视频帧插值方法及系统

    公开(公告)号:CN115880149A

    公开(公告)日:2023-03-31

    申请号:CN202211489722.9

    申请日:2022-11-25

    Applicant: 济南大学

    Abstract: 本发明公开了基于轻量化驱动和三尺度编码的视频帧插值方法及系统,获取待插值视频的第i帧原始图像和第i+1帧原始图像;分别对第i帧原始图像和第i+1帧原始图像进行尺度缩放,得到第i帧缩小尺度的图像、第i+1帧缩小尺度的图像、第i帧放大尺度的图像、第i+1帧放大尺度的图像;将原始图像和尺度缩放后的图像均输入到训练后的视频帧插值模型中,输出插值图像;其中,训练后的视频帧插值模型,对原始图像和尺度缩放后的图像,分别进行三个尺度的特征提取,采用通道注意力机制模块对三个尺度的特征进行融合,采用双重注意力机制模块对融合后的特征进行增强;再对增强后的特征进行帧扭曲操作,得到插值图像。

    一种基于意图理解的智能实验方法

    公开(公告)号:CN114881179B

    公开(公告)日:2022-09-06

    申请号:CN202210796763.6

    申请日:2022-07-08

    Applicant: 济南大学

    Inventor: 冯志全 杨璐榕

    Abstract: 本发明涉及数据处理技术领域,提供一种基于意图理解的智能实验方法,通过对多通道动态信息进行评估,按照有效信息的价值含量对每个通道自动赋予不同的权重,能够根据人的行为与动机的关系,获取静态信息,将静态信息与动态信息采用融合策略进行融合,提高意图预测的准确率,另外设计加入了趣味学习元素,可以根据不同学生的实验情况进行有针对性的引导警示以及设障等,使学生更容易达到心流状态。本发明具有理解用户意图精准并且大大提升了学习者的学习专注度和效率的有益效果。

    一种在线学习按摩定位算法

    公开(公告)号:CN114842948A

    公开(公告)日:2022-08-02

    申请号:CN202210776224.6

    申请日:2022-07-04

    Applicant: 济南大学

    Inventor: 冯志全 周丽然

    Abstract: 本发明公开了一种在线学习按摩定位算法,涉及人工智能技术领域,包括以下步骤:(1)根据自然指向确定按摩候选区域;(2)利用比例选择法的方式在按摩候选区域通过询问交互确定按摩中心点位置、按摩点二维分布模型及按摩区域;(3)在线学习按摩习惯,根据用户的选择区域,更新相关身体部位的两种概率以减少按摩中心点定位时减少人机的交互次数。本发明的有益效果在于可减少用户的记忆和操作负荷,并且用户可以不拘泥一种姿态,可按照自身意愿移动身体,系统会根据记录的按摩区域点与身体关键点的位置关系实现实时跟踪按摩。

    驾驶员状态确定方法、装置、驾驶员监控系统、车辆

    公开(公告)号:CN113378771B

    公开(公告)日:2022-07-26

    申请号:CN202110720648.6

    申请日:2021-06-28

    Applicant: 济南大学

    Abstract: 本发明属于计算机视觉技术领域,提供了一种驾驶员状态确定方法、装置、驾驶员监控系统、车辆。该方法包括:获取预设时长内的目标图像帧,判断驾驶员连续注视设定区域的时间是否达到预设的时间阈值,若是,则确定所述驾驶员处于视线分心驾驶状态;否则,确定驾驶员视线分布的预设视线集中区域,基于预设视线集中区域的不同计算相应的视线活跃度,判断得到的视线活跃度是否小于预设视线集中区域对应的设定的阈值,若是,则确定所述驾驶员处于认知分心驾驶状态;否则,则确定所述驾驶员处于正常驾驶状态。

    一种基于多模态强化学习的人机协同框架

    公开(公告)号:CN114781652A

    公开(公告)日:2022-07-22

    申请号:CN202210700832.9

    申请日:2022-06-21

    Applicant: 济南大学

    Inventor: 冯志全 蔡泽源

    Abstract: 本发明公开了一种基于多模态强化学习的人机协同框架,涉及人机协同技术领域,包括多模态强化学习意图理解模块和任务分配模块,所述的多模态强化学习意图理解模块中机器人通过收集用户的三种模态的特征通过强化学习在反复的迭代中学习用户的行为习惯,进而消除由于不同用户的行为习惯差异而产生的误差,实现对用户的更加鲁棒的意图理解,所述的任务分配模块根据用户的行为获取用户的意图之后指定机器人的动作序列。本发明消除了用户个体之间习惯的差异性而导致的协作效果偏差的问题,具有用户感知实时性好、适应性强的有益效果。

    一种基于意图理解模型的导航式虚拟显微镜

    公开(公告)号:CN110196642B

    公开(公告)日:2022-05-17

    申请号:CN201910543153.3

    申请日:2019-06-21

    Applicant: 济南大学

    Abstract: 本发明提出了一种基于意图理解模型的导航式虚拟显微镜,包括多模态输入与感知模块、多模态信息整合模块和交互应用模块;多模态输入与感知模块用于通过传声器获得用户的语音信息,以及获得用户的操作行为;多模态信息整合模块用于将语音信息通过视觉通道信息处理和将操作行为通过触觉通道信息处理,然后将处理后的语音信息和操作行为通过多通道信息整合,完成显微镜和用户之间的交互。本发明通过多模态信息获取和整合,利用简单的传感元件,加入了多种模态的信号输入和智能化感应技术,在保证数字显微镜优点的基础上,让广大普通和贫困中学学生也能有条件进行显微镜的学习,增加对微观世界的认知感受,和体验智能显微镜。

    一种基于意图分析的人机协同方法、系统及机器人

    公开(公告)号:CN114093028A

    公开(公告)日:2022-02-25

    申请号:CN202111382546.4

    申请日:2021-11-19

    Applicant: 济南大学

    Abstract: 本发明提供了一种基于意图分析的人机协同方法、系统及机器人,方法包括获取用户的多种输入模态;提取模态各自的意图特征,形成模态对应的子意图集,计算对应的概率值;提取子意图中每一模态的意图,并将多个模态进行组合,基于概率值计算用户意图概率;将用户意图概率排序靠前的N个组合与意图数据库进行匹配,得到用户意图;机器人基于得到的用户意图,与用户互动,进行人机协同操作。本发明通过对用户的多种输入模态,提取出各模态的意图特征,通过意图数据库的意图匹配进行柔性映射,计算出各个行为与各个意图间的映射概率,并最终通过意图间的互补来确定真实意图,基于所述真实意图,调用机器人,准确的进行人机协同操作。

    基于虚实融合实验的搅拌棒套件及其使用方法

    公开(公告)号:CN109999708B

    公开(公告)日:2021-05-04

    申请号:CN201910248740.X

    申请日:2019-03-29

    Applicant: 济南大学

    Inventor: 冯志全 韩睿

    Abstract: 本发明实施例公开了基于虚实融合实验的搅拌棒套件及其使用方法,搅拌棒套件包括搅拌棒和设置在搅拌棒内的搅动传感器,所述搅动传感器用于获取搅拌棒的运动状态,并将运动状态转化为电信号,发送给控制终端。方法包括根据搅动传感器内磁场的方向和实验操作规范,确定感应电动势的正方向;用所述搅拌棒搅拌液体,测量模块获取导体棒产生的感应电动势,并将该感应电动势传输至控制终端;根据感应电动势和确定的正方向,控制终端得到搅拌方向和搅拌速度;判断所述搅拌方向和搅拌速度是否均符合操作规范,并在不符合操作规范时,给出提示。通过本发明实施例的搅拌棒套件,在AR化学实验中,感知搅拌操作过程,实现AR实验中的人机交互。

    一种多模态感知的智能实验方法及装置

    公开(公告)号:CN112099633A

    公开(公告)日:2020-12-18

    申请号:CN202010977728.5

    申请日:2020-09-16

    Applicant: 济南大学

    Inventor: 冯志全 袁杰

    Abstract: 本发明公开一种多模态感知的智能实验方法及装置。根据实验内容构建实验意图集;建立语音意图数据库;获取语音信息,通过计算语音信息与所述语音意图数据库中语音数据的相似度,取相似度最大的语音数据所对应的所述实验意图集中元素作为语音目标意图;获取触觉信息,根据具体的实验过程确定所述触觉信息所反映的触觉目标意图;通过多模态信息融合来融合所述语音目标意图和触觉目标意图获取目标意图;对所述目标意图进行信任度评价,如果信任度评价符合要求,执行所述目标意图对应的实验路径进入下一个实验情节,如果信任度评价不符合要求,请求用户增强或者补充相应信息;对实验情节分析评价。本发明能准确获取用户意图,并根据意图进行实验。

Patent Agency Ranking