数字人眼睛注视方向的跟随调整方法及装置、计算机可读存储介质、终端

    公开(公告)号:CN118227013A

    公开(公告)日:2024-06-21

    申请号:CN202410238937.6

    申请日:2024-03-01

    Abstract: 一种数字人眼睛注视方向的跟随调整方法及装置、计算机可读存储介质、终端,所述方法包括:采集目标用户的面部图像数据;基于所述面部图像数据估计得到第一方向,其中,所述第一方向为所述目标用户的眼睛的注视方向;响应于检测到所述第一方向朝向所述数字人,控制所述数字人的眼睛的注视方向从初始方向调整至第二方向,其中,所述第二方向朝向所述目标用户的眼睛。通过本公开方案能够实现数字人与用户之间的眼神交流,改善交互过程中的亲密感和真实感,有利于提升数字人的逼真度,优化用户体验。

    数字人交互方法及系统、计算机可读存储介质、数字人设备

    公开(公告)号:CN117234369B

    公开(公告)日:2024-06-21

    申请号:CN202311057771.X

    申请日:2023-08-21

    Abstract: 本发明公开一种数字人交互方法及系统、计算机可读存储介质、数字人设备,该方法包括:接收包含语音的用户交互视频;将所述用户交互视频分离为视频帧和语音,将所述语音转换为文本,得到多模态数据;根据所述多模态数据分别获取基于视频、语音、文本的情绪感知结果及感知编码;根据各模态的情绪感知结果或感知编码确定控制标签向量;将所述控制标签向量融合到各模态的感知编码中;根据融合后的各模态的感知编码分别生成基于视频、语音、文本的生成内容;将所述基于视频、语音、文本的生成内容进行合成处理,得到合成视频。利用本发明方案,可以有效提高数字人的情感识别和表达能力,提升用户使用体验和效率。

    粤语拼音的预测方法、系统、设备及介质

    公开(公告)号:CN118151766A

    公开(公告)日:2024-06-07

    申请号:CN202410058013.8

    申请日:2024-01-15

    Inventor: 周邦健 沈伟林

    Abstract: 本发明公开了一种粤语拼音的预测方法、系统、设备及介质,包括:获取待预测粤语的目标文本和任一目标区域;将目标文本和目标区域输入预先构建的粤语拼音预测模型,预测粤语拼音;粤语拼音预测模型包括基底模型和辅助模块,基底模型用于预测目标文本在第一粤语区域的粤语拼音,辅助模块参与基底模型预测目标文本在其他粤语区域的粤语拼音。本发明在不破坏基底模型对第一粤语区域的拼音预测功能的前提下,引入辅助模块共同迁移学习生成粤语拼音预测模型,实现对粤语跨片区的拼音预测;避免根据粤语词典进行粤语文本的拼音预测准确性低的问题;避免部分片区粤语次级方言总使用人数较少,导致获取粤语次级方言拼音成本高的缺陷。

    用户学习状态的评估方法、系统、设备及介质

    公开(公告)号:CN118134333A

    公开(公告)日:2024-06-04

    申请号:CN202410304188.2

    申请日:2024-03-18

    Abstract: 本公开提供了一种用户学习状态的评估方法、系统、设备及介质。评估方法包括:获取用户的注视点落到课程内容中的兴趣区的注视时间;根据用户的注视点落在兴趣区的注视时间、各兴趣区的注视权重以及各兴趣区对应的时间段确定用户的学习状态是否符合学习要求。通过上述方法,不同时间段的兴趣区对应的注视权重,根据用户的注视点落在兴趣区的注视时间、各兴趣区的注视权重以及各兴趣区对应的时间段,可准确确定用户的学习状态是否符合学习要求。

    语音合成系统的评估方法及装置、存储介质、计算设备

    公开(公告)号:CN117275526A

    公开(公告)日:2023-12-22

    申请号:CN202311057123.4

    申请日:2023-08-21

    Inventor: 沈伟林 周邦建

    Abstract: 本申请提供了一种语音合成系统的评估方法及装置、存储介质、计算设备,所述语音合成系统用于生成还原目标音色的合成语音,所述评估方法包括:获取具有目标音色的用户语音以及至少一段合成语音;提取用户语音的第一声纹特征以及至少一段合成语音的第二声纹特征;计算第一声纹特征与第二声纹特征的相似度,以得到评估相似度;根据评估相似度对语音合成系统进行评估。本申请能够自动客观准确地评估合成语音与目标语音的语音相似度。

    图像处理模型训练、处理方法、系统、设备及其介质

    公开(公告)号:CN116580263A

    公开(公告)日:2023-08-11

    申请号:CN202310562166.1

    申请日:2023-05-18

    Abstract: 本发明公开了一种图像处理模型训练、处理方法、系统、设备及其介质。该模型的训练方法包括:获取原始三维面部数据和若干样本音频数据;提取原始三维面部数据的样本面部特征;获取样本音频数据的样本音频特征;基于样本音频特征调整样本面部特征,以得到对应的样本三维面部数据;以每组的样本面部特征与样本音频特征作为输入,对应的样本三维面部数据作为输出,对预设网络进行训练,以得到图像处理模型。通过图卷积神经网络获取面部特征和多层次处理得到音频特征,通过卷积神经网络的训练,得到的图像处理模型具有更高的精度、泛用性和鲁棒性。计算融合特征的融合损失和样本三维面部数据的生成损失,提高模型训练的效率和准确性。

    一种声音信号转换方法、系统、装置和程序产品

    公开(公告)号:CN120018042A

    公开(公告)日:2025-05-16

    申请号:CN202510145075.7

    申请日:2025-02-10

    Abstract: 本发明提供一种声音信号转换方法、系统、装置和程序产品,涉及辅助听力技术领域。其中,声音信号转换方法包括:采用声音采集模块监听周围环境;使用声音识别与分类模块进行声音事件识别;使用信号转换模块将识别到的声音事件转换为感官信号指令;使用信号反馈模块执行感官信号指令,产生感官信号,并传递给用户。本发明提出了一种基于感官反馈的辅助听力解决方案,尤其是利用触觉这一更为直接的感官通道,采用便携装置,配合高灵敏度的声音采集模块和快速的声音识别算法,使聋人在不同的场景下都能迅速感知外接的声音信息,提高了信息反馈的实时性、准确性和可辨识度,可适用于各种场景。

Patent Agency Ranking