基于Transformer网络模型的隐私推理方法、系统、介质及电子设备

    公开(公告)号:CN117077162B

    公开(公告)日:2024-04-19

    申请号:CN202310954715.X

    申请日:2023-07-31

    Abstract: 本发明提供一种基于Transformer网络模型的隐私推理方法、系统、介质及电子设备,其中,所述方法包括:获取用户端的输入数据,所述输入数据包括图片数据和/或文本数据;基于所述输入数据进行初始数据加密后输入到Transformer网络模型进行隐私推理,其中,基于所述Transformer网络模型进行隐私推理时,除了常用的算子密态计算之外,在计算非线性算子时,本发明会将数据揭露给用户,并基于乱序矩阵进行位置加密;获取模型输出,基于所述模型输出进行最终数据解密后反馈给所述用户端。本发明从根本上解决密码学协议在非线性计算上的矛盾,可以在保证安全性不变的前提下,将网络的主要非线性计算转化为明文计算,从而极大地加速隐私推理的推理速度,大大提升效率。

    面向行车安全的分布式时分复用介质访问控制系统及方法

    公开(公告)号:CN117395764A

    公开(公告)日:2024-01-12

    申请号:CN202311378473.0

    申请日:2023-10-24

    Abstract: 一种面向行车安全的分布式时分复用控制系统及方法,包括:行车安全感知的功率控制模块、轻量级链式结构维护模块和无冲突时槽分配模块,本发明考虑到网络中的每个车辆节点具有不同的安全需求,本发明的核心思想是将V2V通信范围与车辆的驾驶安全需求相匹配,仅在相互关注安全的车辆之间交换安全消息,从而极大地提高信道资源的利用率。同车道上具有相互安全关注的车辆形成一种灵活动态的广播链式结构结构。本发明结合行车安全感知的功率控制和轻量级动态的链内角色切换,可以避免高度动态的车联网中的接入冲突和合并冲突。

    基于跨地域的微服务过量负载调度系统、方法及设备

    公开(公告)号:CN115190121B

    公开(公告)日:2023-11-17

    申请号:CN202210583583.X

    申请日:2022-05-25

    Abstract: 本发明提供一种基于跨地域的微服务过量负载调度系统、方法及设备,所述基于跨地域的微服务过量负载调度系统包括:竞争感知的资源管理器,于本地数据中心为每个微服务分配资源量;基于奖励的微服务迁移器,当本地数据中心微服务负载过量时,选择并迁移多个微服务到远程数据中心。本发明在无需对于微服务应用进行代码修改的情况下,既可以保证微服务应用服务质量(Quality of Service,QoS),又可以最小化应用总资源和远程数据中心计算资源使用量。

    基于资源匹配度的Mesos资源调度方法

    公开(公告)号:CN116360964A

    公开(公告)日:2023-06-30

    申请号:CN202111612175.4

    申请日:2021-12-27

    Abstract: 一种基于资源匹配度的Mesos资源调度方法,通过计算物理机资源占用与应用框架资源需求的匹配度,并根据匹配度进行应用框架资源需求响应以及资源分配,最后根据分配发送资源需求信息和资源接收逻辑。本发明在资源平均利用率方面最高能取得约4%的提升;能使分配失败次数减少最高19%;在资源利用率差距方面,取得至多约6%的减少;在闲置能耗方面,能将闲置能耗降低约23%。本发明所提出的基于资源匹配度的资源调度方式,通过合理的资源调度,能有效减少资源碎片,提升集群的资源利用率。所提出的中心化调度策略,能通过减少闲置能耗,进一步地提升集群的能耗效率。

    基于神经网络中动态计算图的内存优化方法及电子设备

    公开(公告)号:CN116166425A

    公开(公告)日:2023-05-26

    申请号:CN202211692183.9

    申请日:2022-12-28

    Abstract: 本发明提供一种基于神经网络中动态计算图的内存优化方法及电子设备,所述方法包括:识别神经网络动态计算图中前向兼容算子,并计算前向算子的前向计算结果;根据张量‑算子对标记状态和前向算子类型确定当前的执行模态;在执行模态的输入张量为前向兼容类型时,对当前前向节点执行前向自动微分的求导过程,输出求导结果;在执行模态的后续算子为非前向兼容算子时,保存前一个前向节点执行前向自动微分的求导结果,更新前一个前向节点后向参数,输出后向处理结果;基于前向计算结果,求导结果和后向处理结果更新动态计算图的参数。本发明通过在动态计算图运行过程中动态切换使用前向自动微分来有效降低大部分神经网络中激活函数的内存占用。

    基于弹性批处理的推理引擎系统、方法及电子设备

    公开(公告)号:CN110837419B

    公开(公告)日:2023-05-19

    申请号:CN201911088741.9

    申请日:2019-11-08

    Abstract: 本发明提供一种基于弹性批处理的推理引擎系统、方法及电子设备,所述基于弹性批处理的推理引擎方法包括:获取用户输入的待推理请求数据;获取最大并行批处理数量和待推理请求的数量;根据所述最大并行批处理数量和所述待推理请求的数量将所述待处理推理请求数据按需组织成为合适批处理大小的批处理数据,并唤醒深度神经网络推理引擎模块中与所述批处理数据的大小对应的子引擎,由所述子引擎处理所述待处理推理请求。本发明在无需增加硬件设备包括图形处理器等的前提下,极大化引擎系统的响应延迟速度和吞吐量。

    服务器无感知计算平台能效优化方法和系统

    公开(公告)号:CN115129475A

    公开(公告)日:2022-09-30

    申请号:CN202210813618.4

    申请日:2022-07-12

    Abstract: 一种服务器无感知计算平台能效优化方法和系统,通过采集服务器无感知平台上函数在初始化阶段和运行阶段的特征信息,联合其中特征相同的函数并构成若干同步化函数集合后,对应分发到具有空闲计算资源的函数处理节点并部署至对应处理核上,再更新特征信息用于实现循环能效管理。本发明通过识别服务器无感知计算函数的最佳运行频率的差异,以及函数最佳运行频率的时序差异,提出功率同步机制同步函数的最佳运行频率,保证函数可以在整个生命周期都按照最佳运行频率运行。

    融合时序特征的在线密集点云语义分割系统及方法

    公开(公告)号:CN115116013A

    公开(公告)日:2022-09-27

    申请号:CN202110305389.0

    申请日:2021-03-19

    Abstract: 一种融合时序特征的在线密集点云语义分割系统及方法,包括:自适应帧调度器、静态分割模块、时序特征聚合网络和部分特征更新网络,自适应帧调度器对来自部分特征更新网络的信息,以更新部分与未更新部分的比率决定下一帧被视为关键帧还是非关键帧;静态分割模块通过其骨干网络对关键帧原始点云通过静态点云分割实现特征提取,得到单帧的语义分割结果;时序特征聚合网络利用相邻两帧的时序相关性,通过聚合关键帧上的特征对语义分割结果进行精确优化;部分特征更新网络根据相邻两帧中非关键帧的局部重要关键点,通过选择性地更新继承特征,对语义分割结果进行快速更新。本发明在同时考虑了特征一致性和计算成本的基础上,利用连续点云帧之间的时间相关性聚合特征,聚合后每一帧的特征得到增强,使分割更准确且帧间的特征一致,消除处理点云系列时的闪烁。

    TensorFlow的分布式矩阵计算实现方法与系统

    公开(公告)号:CN112506677B

    公开(公告)日:2022-09-23

    申请号:CN202011428775.0

    申请日:2020-12-09

    Abstract: 一种TensorFlow的分布式矩阵计算实现方法与系统,在TensorFlow运行时通过对底层矩阵乘法计算操作进行拦截,将计算参数传递至计算代理程序并进行分布处理,再通过使用共享内存实现不同进程之间数据的传输,实现分布式矩阵计算。本发明不依赖于高性能GPU等特定的计算机硬件,不需要对运行程序进行修改适配,利用多个ARM服务器,通过直接对底层的计算进行分布式处理,可使TensorFlow代码进行多节点并行化运行。

Patent Agency Ranking