是的,这是 OpenAI/Azure OpenAI API 的规范要求。根据 OpenAI 的文档,当使用工具调用时,对话历史中需要保持以下顺序:
- Assistant 消息(包含 tool_calls)
- 对应的 Tool 响应消息
这种结构设计有几个重要原因:
-
完整性追踪
- Assistant 的消息记录了它想要调用哪些工具
- 每个 tool_call 都有唯一的 ID
- 后续的工具响应通过
tool_call_id
与这些调用建立关联
-
对话上下文
- AI 需要知道它为什么调用了这些工具
- 工具调用是 AI 决策过程的一部分
- 这些信息对于生成最终响应很重要
例如,一个标准的对话流程是这样的:
messages = [
{"role": "user", "content": "北京和上海的天气如何?"},
# AI 决定调用工具
{"role": "assistant",
"content": None,
"tool_calls": [
{"id": "call_1", "function": {"name": "get_weather", "arguments": {"location": "北京"}}},
{"id": "call_2", "function": {"name": "get_weather", "arguments": {"location": "上海"}}}
]},
# 工具响应
{"role": "tool", "tool_call_id": "call_1", "name": "get_weather", "content": "北京的天气数据..."},
{"role": "tool", "tool_call_id": "call_2", "name": "get_weather", "content": "上海的天气数据..."}
]
如果不按这个格式提供对话历史,API 可能会返回错误或无法正确理解上下文。这是 OpenAI 设计的一个重要约定,确保 AI 能够正确追踪和使用工具调用的结果。