一种针对激活函数分段线性逼近的高精度通用算法

    公开(公告)号:CN117764137A

    公开(公告)日:2024-03-26

    申请号:CN202311659520.9

    申请日:2023-12-05

    Abstract: 本发明提出了一种针对激活函数分段线性逼近的高精度通用算法,解决了现有技术中其他分段线性逼近算法中存在的部分区间精度过剩的问题。一种针对激活函数分段线性逼近的高精度通用算法,包括如下步骤:步骤1:定义要逼近的激活函数f(x)、逼近的输入范围[ENDleft,ENDright]、逼近的区间数目seg_num;步骤2:在输入范围[ENDleft,ENDright]中使用二分法来递归寻找区间断点;步骤3:迭代优化相邻的断点,使各个区间内的误差相同。本发明提出了等误差分割算法,该算法通过平衡各分段之间的误差,解决了其他分段线性逼近算法中存在的部分区间精度过剩问题。除此之外,这种方法不仅提高了逼近精度,而且避免了引入额外的硬件开销,且具有通用性,适用于所有常见的激活函数。

Patent Agency Ranking