公开(公告)号：CN118052895A

公开(公告)日：2024-05-17

申请号：CN202410169382.4

申请日：2024-02-06

Applicant: 南京邮电大学

Inventor： 鲍秉坤 ,  王婕 ,  徐梦玲

IPC: G06T11/00 ,  G06V10/80 ,  G06V10/77 ,  G06V10/82 ,  G06V20/68 ,  G06V20/70 ,  G06N3/0475 ,  G06N3/045 ,  G06N3/094

Abstract: 本发明公开了图像生成技术领域的一种基于预训练图文匹配模型的食谱到食物可控生成方法和装置，方法包括：获取经过筛选的菜谱数据集；通过预训练图文匹配模型CLIP对所述菜谱数据集进行编码，通过融合模块将所述菜谱数据集编码后的菜名特征、食材特征及烹饪步骤特征的文本信息融合，获得融合特征；将所述菜谱数据集中的食材特征通过线性映射方法初始化为提示标签；将从所述经过筛选的菜谱数据集中随机采样的高斯噪声、提示标签、融合特征输入生成对抗网络模型，生成和所述融合特征内容相符的食物图像；将所述食物图像输入所述生成对抗网络模型中的图像判别器以区分真实图像和合成图像，基于所述真实图像和合成图像保证食物图像真实性和语义一致性。本发明能够解决由于烹饪指令之间顺序关系的影响以至于最终食谱和生成的食物图像之间语义不一致的技术问题。