公开(公告)号：CN115511045A

公开(公告)日：2022-12-23

申请号：CN202210712346.9

申请日：2022-06-22

Applicant: 三星电子株式会社

Inventor： 李玲 ,  A.沙菲阿德斯塔尼

IPC: G06N3/04 ,  G06N3/063 ,  G06N3/08

Abstract: 一种用于执行神经网络操作的方法。在一些实施例中，该方法包括：计算第一多个乘积，第一多个乘积中的每一个是权重和激活的乘积；计算第一部分和，第一部分和是乘积的和；以及压缩第一部分和以形成第一压缩的部分和。

公开(公告)号：CN116339681A

公开(公告)日：2023-06-27

申请号：CN202211642830.5

申请日：2022-12-20

Applicant: 三星电子株式会社

Inventor： 李玲 ,  阿里·沙菲·阿得斯塔尼 ,  哈姆扎·阿卜杜拉齐兹 ,  约瑟夫·H·哈松

IPC: G06F7/544 ,  G06F7/556 ,  G06N3/063

Abstract: 公开了用于计算的系统和方法。在一些实施例中，所述系统包括：电路，被配置为将第一数与第二数相乘，第一数被表示为：符号位、五个指数位以及七个尾数位，所述七个尾数位表示八位全尾数。

公开(公告)号：CN117035016A

公开(公告)日：2023-11-10

申请号：CN202310356845.3

申请日：2023-04-04

Applicant: 三星电子株式会社

Inventor： 李玲 ,  阿里·沙菲·阿得斯塔尼

IPC: G06N3/0455 ,  G06N3/096 ,  G06V10/82 ,  G06V10/764 ,  G06V10/40

Abstract: 公开视觉转换器和用于训练视觉转换器的方法。基于教师网络类标记和学生网络(训练期间的视觉转换器)的图单元重要性分数的输入图像的图单元蒸馏损失在视觉转换器的修剪层处被确定。在当前回合数为奇数时，输入图像的图单元的稀疏化被跳过，并且密集输入图像由修剪层之后的层处理。在当前回合数为偶数时，输入图像的图单元在修剪层处被修剪并且由修剪层之后的层处理。输入图像的标签损失和总损失由后续层确定，并且学生网络被更新。