一种用于分布式推理系统的空中计算方法

    公开(公告)号:CN118194938A

    公开(公告)日:2024-06-14

    申请号:CN202410421331.6

    申请日:2024-04-09

    Abstract: 本发明公开了一种用于分布式推理系统的空中计算方法,包括:将神经网络分布式推理系统的聚合层替换为两个子层,分别为每个智能体侧的LC层和服务器侧的LP层;将权重乘法的计算任务均匀划分并分发给智能体执行,以实现细粒度的模型并行性;使用AirComp技术在空中聚合权重和输入元素的乘积,以产生原始聚合层的输出。本发明利用LC层和LP层分别执行权重乘法部分和偏置加法、激活函数部分,最后细粒度划分权重乘法任务并分发给智能体执行,再利用AirComp技术以确保在每个子载波上由不同智能体传输的模拟信号的空中聚合,从而在有限带宽下进行远程推理的智能体数量能够保持恒定的通信成本,并且仅取决于聚合层的神经元数量,通信效率明显优于数字通信方法。

    一种用于物联网空中计算的载波同步方法

    公开(公告)号:CN117979411A

    公开(公告)日:2024-05-03

    申请号:CN202410187629.5

    申请日:2024-02-20

    Abstract: 本发明公开了一种用于物联网空中计算的载波同步方法,包括以下步骤:S1:基于距离确定进行分布式推理的物联网设备;S2:根据物联网设备间的距离差,确定延迟发送时间,减少同步误差;S3:根据匹配滤波输出,确定估计方案,实现计算同步。本发明根据物联网设备的距离差确定参与分布式推理的物联网设备,物联网设备在收到核心物联网设备的广播信号后,根据延迟发送时间确定其传输时间。最后,核心物联网设备对空中叠加的接收信号进行匹配滤波和符号估计,从而减小同步误差,使无论物联网设备的位置如何,其计算值总是可以同时在核心物联网设备重叠,达到有效同步。且在推理过程中开销较小,适用于物联网环境。

Patent Agency Ranking