OpenAI 客户端操作的语义约定

状态: 开发中

警告

当前正在使用 此文档 v1.36.0(或之前版本)的 GenAI 应用程序正在使用此文档。

  • 默认情况下,不应更改他们发出的 GenAI约定的版本。约定包括但不限于属性、指标、跨度和事件名称、跨度种类和度量单位。
  • 应引入一个名为 OTEL_SEMCONV_STABILITY_OPT_IN 的环境变量,该变量包含一个逗号分隔的类别特定值列表。该列表包括:
    • gen_ai_latest_experimental - 发出最新的实验性 GenAI 约定版本(由仪器支持)并停止发出旧版本(v1.36.0 或更早版本)。
    • 默认行为是继续发出当前指示所使用的任何版本的 GenAI 约定(1.36.0 或更早版本)。

此过渡计划将在 GenAI 约定被标记为稳定版本之前进行更新,以包含稳定版本。

OpenAI 的语义约定扩展并覆盖了 Gen AI 的语义约定。

Span

gen_ai.provider.name 必须设置为 "openai"

推理

状态: 开发中

OpenAI 客户端 span 的语义约定扩展并覆盖了 Gen AI Span 的语义约定。

gen_ai.provider.name 必须设置为 "openai",并且应在 **span 创建时** 提供。

**Span 名称** 应为 {gen_ai.operation.name} {gen_ai.request.model}

**Span 类型**应为 CLIENT

**Span 状态**应遵循 记录错误文档。

Attributes

Stability需求级别Value Type描述Example Values
gen_ai.operation.nameDevelopment必需字符串正在执行的操作的名称。[1]chatgenerate_contenttext_completion
gen_ai.request.modelDevelopment必需字符串请求的 GenAI 模型名称。[2]gpt-4
error.typeStable如果操作以错误结束,则条件必需字符串描述操作结束的错误类别。[3]timeoutjava.net.UnknownHostExceptionserver_certificate_invalid500
gen_ai.conversation.idDevelopment如果可用,则条件必需字符串对话(会话、线程)的唯一标识符,用于在此对话中存储和关联消息。[4]conv_5j66UpCpwteGg4YSxUnt7lPY
gen_ai.output.typeDevelopment有条件地必需 [5]字符串表示客户端请求的内容类型。[6]textjsonimage
gen_ai.request.choice.countDevelopment如果在请求中可用且不等于 1,则条件必需int目标候选补全数量。3
gen_ai.request.seedDevelopment如果适用且请求包含种子,则条件必需int具有相同种子值的请求更有可能返回相同的结果。100
openai.request.service_tierDevelopment有条件地必需 [7]字符串请求的服务层级。可以是具体层级、默认值或自动。auto; default
openai.response.service_tierDevelopment有条件地必需 [8]字符串响应使用的服务层级。scale; default
server.portStable如果设置了 server.address,则条件必需intGenAI 服务器端口。[9]80; 8080; 443
gen_ai.request.frequency_penaltyDevelopment推荐doubleGenAI 请求的频率惩罚设置。0.1
gen_ai.request.max_tokensDevelopment推荐int模型为请求生成的最大令牌数。100
gen_ai.request.presence_penaltyDevelopment推荐doubleGenAI 请求的存在惩罚设置。0.1
gen_ai.request.stop_sequencesDevelopment推荐string[]模型将用于停止生成更多令牌的序列列表。["forest", "lived"]
gen_ai.request.temperatureDevelopment推荐doubleGenAI 请求的温度设置。0.0
gen_ai.request.top_pDevelopment推荐doubleGenAI 请求的 top_p 采样设置。1.0
gen_ai.response.finish_reasonsDevelopment推荐string[]模型停止生成令牌的原因数组,对应于收到的每个生成。["stop"]["stop", "length"]
gen_ai.response.idDevelopment推荐字符串补全的唯一标识符。chatcmpl-123
gen_ai.response.modelDevelopment推荐字符串生成响应的模型名称。[10]gpt-4-0613
gen_ai.usage.input_tokensDevelopment推荐intGenAI 输入(提示)使用的令牌数。100
gen_ai.usage.output_tokensDevelopment推荐intGenAI 响应(补全)使用的令牌数。180
openai.response.system_fingerprintDevelopment推荐字符串用于跟踪生成式 AI 环境中任何最终更改的指纹。fp_44709d6fcb
server.addressStable推荐字符串GenAI 服务器地址。[11]example.com10.1.2.80/tmp/my.sock
gen_ai.input.messagesDevelopment选择加入any作为输入提供给模型的聊天记录。[12][
  {
    “role”: “user”,
    “parts”: [
      {
        “type”: “text”,
        “content”: “Weather in Paris?"
      }
    ]
  },
  {
    “role”: “assistant”,
    “parts”: [
      {
        “type”: “tool_call”,
        “id”: “call_VSPygqKTWdrhaFErNvMV18Yl”,
        “name”: “get_weather”,
        “arguments”: {
          “location”: “Paris”
        }
      }
    ]
  },
  {
    “role”: “tool”,
    “parts”: [
      {
        “type”: “tool_call_response”,
        “id”: " call_VSPygqKTWdrhaFErNvMV18Yl”,
        “result”: “rainy, 57°F”
      }
    ]
  }
]
gen_ai.output.messagesDevelopment选择加入any模型返回的消息,每条消息代表一个特定的模型响应(选择、候选)。[13][
  {
    “role”: “assistant”,
    “parts”: [
      {
        “type”: “text”,
        “content”: “The weather in Paris is currently rainy with a temperature of 57°F."
      }
    ],
    “finish_reason”: “stop”
  }
]
gen_ai.system_instructionsDevelopment选择加入any与聊天记录分开提供给 GenAI 代理或模型的系统消息或指令。[14][
  {
    “type”: “text”,
    “content”: “You are an Agent that greet users, always use greetings tool to respond”
  }
]; [
  {
    “type”: “text”,
    “content”: “You are a language translator."
  },
  {
    “type”: “text”,
    “content”: “Your mission is to translate text in English to French."
  }
]
gen_ai.tool.definitionsDevelopment选择加入any可供 GenAI 代理或模型使用的源系统工具定义列表。[15][
  {
    “type”: “function”,
    “name”: “get_current_weather”,
    “description”: “Get the current weather in a given location”,
    “parameters”: {
      “type”: “object”,
      “properties”: {
        “location”: {
          “type”: “string”,
          “description”: “The city and state, e.g. San Francisco, CA”
        },
        “unit”: {
          “type”: “string”,
          “enum”: [
            “celsius”,
            “fahrenheit”
          ]
        }
      },
      “required”: [
        “location”,
        “unit”
      ]
    }
  }
]

[1] gen_ai.operation.name: 如果预定义值之一适用,但特定系统使用不同名称,则建议在特定 GenAI 系统的语义约定中记录它,并在仪器中使用系统特定的名称。如果未记录不同名称,仪器库应使用适用的预定义值。

[2] gen_ai.request.model 请求的 GenAI 模型名称。如果模型由供应商提供,则值必须是请求模型的确切名称。如果模型是经过微调的自定义模型,则该值应比经过微调的基础模型具有更具体的名称。

[3] error.type: error.type 应匹配生成式 AI 提供商或客户端库返回的错误代码、发生的异常的规范名称或另一个低基数错误标识符。仪器应记录它们报告的错误列表。

[4] gen_ai.conversation.id: 仪器应在可轻松获得给定操作的对话 ID 时填充它,例如

管理对话历史的应用程序开发人员可以添加对话 ID 到 GenAI 和其他跨度或日志,使用仪器库提供的自定义跨度或日志记录处理器或钩子。

[5] gen_ai.output.type: 适用时,如果请求包含输出格式。

[6] gen_ai.output.type 此属性应设置为客户端请求的输出类型

  • json,用于具有已定义或未定义架构的结构化输出
  • image,用于图像输出
  • speech,用于语音输出
  • text,用于纯文本输出

该属性指定输出模式,而不是实际输出格式。例如,如果请求的是图像,则实际输出可能是指向图像文件的 URL。

其他输出格式细节可能在将来记录在 gen_ai.output.{type}.* 属性中。

[7] openai.request.service_tier 如果请求包含 service_tier 且值为非 'auto'

[8] openai.response.service_tier 如果收到了响应并且包含 service_tier

[9] server.port: 从客户端观察并与中介通信时,server.port 应表示任何中介(例如代理)之后的服务器端口,如果可用。

[10] gen_ai.response.model 如果可用。提供响应的 GenAI 模型名称。如果模型由供应商提供,则值必须是实际使用的模型的确切名称。如果模型是经过微调的自定义模型,则该值应比经过微调的基础模型具有更具体的名称。

[11] server.address 从客户端观察到,并且在通过中介进行通信时,server.address 应代表任何中介(例如代理)之后的服务器地址,如果可用。

[12] gen_ai.input.messages 仪器必须遵循 输入消息 JSON schema。当属性在事件上记录时,必须以结构化形式记录。当在 span 上记录时,如果不支持结构化格式,则可以作为 JSON 字符串记录,否则应以结构化形式记录。

消息必须按发送给模型的顺序提供。仪器可以提供一种方法供用户过滤或截断输入消息。

警告

此属性很可能包含敏感信息,包括用户/PII 数据。

有关更多详细信息,请参阅 在属性上记录内容 部分。

[13] gen_ai.output.messages 仪器必须遵循 输出消息 JSON schema

每条消息代表模型生成的单个输出选择/候选。每条消息恰好对应一个生成(选择/候选),反之亦然 - 一个选择不能跨越多条消息,或者一条消息不能包含来自多个选择的部分。

当属性记录在事件上时,它必须以结构化形式记录。当记录在跨度上时,如果不支持结构化格式,它可以被记录为 JSON 字符串,否则应以结构化形式记录。

仪器可以提供一种方法供用户过滤或截断输出消息。

警告

此属性很可能包含敏感信息,包括用户/PII 数据。

有关更多详细信息,请参阅 在属性上记录内容 部分。

[14] gen_ai.system_instructions 当相应的供应商或 API 允许将系统指令或消息与聊天记录分开提供时,应使用此属性。

作为聊天记录一部分的指令应记录在 gen_ai.input.messages 属性中,而不是此处。

仪器必须遵循 System instructions JSON schema

当记录在跨度上时,如果不支持结构化格式,它可以被记录为 JSON 字符串,否则应以结构化形式记录。

仪器可以提供一种方法供用户过滤或截断系统指令。

警告

此属性可能包含敏感信息。

有关更多详细信息,请参阅 在属性上记录内容 部分。

[15] gen_ai.tool.definitions 此属性的值匹配源系统工具定义格式。

预计它是一个对象数组,其中每个对象代表一个工具定义。如果仪器可用序列化字符串,仪器应尽最大努力将其反序列化为数组。当记录在跨度上时,如果不支持结构化格式,它可以被记录为 JSON 字符串,否则应以结构化形式记录。

由于此属性可能很大,因此不建议默认填充它。仪器可以提供一种启用填充此属性的方法。


error.type 具有以下已知值列表。如果其中一个适用,则必须使用相应的值;否则,可以使用自定义值。

描述Stability
_OTHER当检测不到自定义值时使用的回退错误值。Stable

gen_ai.operation.name 具有以下知名值列表。如果其中之一适用,则必须使用相应的值;否则,可以使用自定义值。

描述Stability
chat聊天完成操作,例如 OpenAI Chat APIDevelopment
create_agent创建 GenAI 代理Development
embeddings嵌入操作,例如 OpenAI 创建嵌入 APIDevelopment
execute_tool执行工具Development
generate_content多模态内容生成操作,例如 Gemini 生成内容Development
invoke_agent调用 GenAI 代理Development
text_completion文本补全操作,例如 OpenAI Completions API (Legacy)Development

gen_ai.output.type 具有以下知名值列表。如果其中之一适用,则必须使用相应的值;否则,可以使用自定义值。

描述Stability
imageImageDevelopment
json具有已知或未知架构的 JSON 对象Development
speechSpeechDevelopment
text纯文本Development

openai.request.service_tier 具有以下一系列知名值。如果其中一个适用,则必须使用相应的取值;否则,可以使用自定义取值。

描述Stability
auto系统将使用缩放层信用额度,直到耗尽为止。Development
default系统将使用默认缩放层。Development

嵌入

请参阅 通用嵌入 Span 定义

指标

OpenAI 指标遵循 生成式 AI 指标,并附带注意到的其他属性。各个系统可能包含额外的系统特定属性。建议在可用时查看系统特定文档。

指标: gen_ai.client.token.usage

报告 token 使用情况,遵循 gen_ai.client.token.usage 的通用定义。

附加属性

Attributes

Stability需求级别Value Type描述Example Values
openai.response.service_tierDevelopment推荐字符串响应使用的服务层级。scale; default
openai.response.system_fingerprintDevelopment推荐字符串用于跟踪生成式 AI 环境中任何最终更改的指纹。fp_44709d6fcb

指标: gen_ai.client.operation.duration

衡量完成操作所需时间,遵循 gen_ai.client.operation.duration 的通用定义。

附加属性

Attributes

Stability需求级别Value Type描述Example Values
openai.response.service_tierDevelopment推荐字符串响应使用的服务层级。scale; default
openai.response.system_fingerprintDevelopment推荐字符串用于跟踪生成式 AI 环境中任何最终更改的指纹。fp_44709d6fcb