-
公开(公告)号:CN119213772A
公开(公告)日:2024-12-27
申请号:CN202280096167.5
申请日:2022-05-19
Applicant: 华为技术有限公司
Inventor: 亚历山大·尼古拉耶维奇·菲利波夫 , 基里尔·伊戈列维奇·索洛德斯基赫 , 弗拉基米尔·马克西莫维奇·奇金 , 宋德华 , 斯坦尼斯拉夫·尤里耶维奇·卡梅涅夫 , 伊琳娜·热拉夫斯卡娅
Abstract: 本申请实施例提供了一种数据变换方法及相关设备。所述方法包括:获取输入图像,其中,所述输入图像包括N个像素点,N为正整数;对所述N个像素的值进行非线性变换,获取N个第一像素值;根据量化模型和所述N个第一像素值,获取M个第二像素值,M为正整数;对所述M个第二像素值进行与所述非线性变换对应的逆变换,获取M个第三像素值;根据所述M个第三像素值,确定输出图像。所提出的技术可以提高数据不均匀分布的量化模型的质量,同时量化模型的推理时间实际上不会改变。
-
公开(公告)号:CN118871926A
公开(公告)日:2024-10-29
申请号:CN202280093756.8
申请日:2022-03-14
Applicant: 华为技术有限公司
Inventor: 蒂莫菲·米哈伊洛维奇·索洛维耶夫 , 谢尔盖·尤里耶维奇·伊科宁 , 伊蕾娜·亚历山德罗夫娜·阿尔希娜 , 约翰内斯·绍尔 , 艾辛·科云朱 , 马克西姆·鲍里索维奇·西切夫 , 亚历山大·亚历山德罗维奇·卡拉布托夫 , 米哈伊尔·维亚切斯拉沃维奇·索苏尔尼科夫 , 基里尔·伊戈列维奇·索洛德斯基赫 , 弗拉基米尔·米哈伊洛维奇·克里扎诺夫斯基 , 亚历山大·尼古拉耶维奇·菲利波夫
IPC: G06N3/0495 , G06N3/0455 , G06N3/0464 , G06F7/00 , H04N19/124 , H04N19/85 , G06N3/047 , H04N19/517 , H04N19/91
Abstract: 本发明涉及一种使用限幅输入数据操作神经网络的方法。所述方法包括操作神经网络,包括为所述至少一个神经网络层的输入数据的数据实体中包括的整数值定义整数下阈值和整数上阈值,如果所述输入数据的数据实体中包括的整数的值小于所述定义的整数下阈值,则将所述输入数据的所述数据实体中包括的所述整数的所述值限幅至所述定义的整数下阈值,如果所述输入数据的数据实体中包括的整数的值大于所述定义的整数上阈值,则将所述输入数据的所述数据实体中包括的所述整数的所述值限幅至所述定义的整数上阈值,从而避免所述累加寄存器的整数溢出。
-