公开(公告)号：CN119094599A

公开(公告)日：2024-12-06

申请号：CN202411190113.2

申请日：2024-08-27

Applicant: 中电金信数字科技集团股份有限公司

Inventor： 郑嘉伟 ,  曾文迪 ,  陈宏杰 ,  沈阳超

IPC: H04L67/54 ,  H04L67/51 ,  H04L43/08 ,  H04L43/04 ,  H04L41/22 ,  H04L9/40

Abstract: 本公开提出一种大模型应用服务运行追踪方法和装置，方法包括：获取与大模型应用端关联的追踪服务；向服务端发送服务注册请求；其中，服务注册请求中携带追踪服务，用于服务端对大模型应用端进行认证，并在认证通过的情况下，注册追踪服务；接收服务端发送的服务注册响应；在服务注册响应指示追踪服务注册成功的情况下，将追踪服务集成至大模型应用端的待追踪的大模型应用服务中；采用与追踪服务关联的链路追踪回调函数，对大模型应用服务的运行链路中各链路节点进行追踪，由此，实现了在不侵入大模型应用服务的业务逻辑的情况下，对大模型应用服务的运行链路中各链路节点的运行信息进行实时监控和追踪，提高了运行追踪的可观测性和高效性。