工程 · 深度词条
Function Calling(函数调用)
模型按照预先定义的名称和参数格式提出调用请求,应用程序验证后执行真实函数。
四层解释
通俗
模型按照预先定义的名称和参数格式提出调用请求,应用程序验证后执行真实函数。
专业
Function Calling 通过工具 Schema 约束模型产生结构化调用意图;执行、授权和结果处理仍由宿主应用负责。
机制
开发者声明函数名、用途和 JSON 参数;模型选择函数并生成参数,应用校验、执行,再将结果作为后续上下文。
工程
采用严格 Schema、服务端校验、Allowlist、幂等键和确认机制;涉及资金、删除或外发信息时不能直接自动执行。
全链路位置
INPUT用户目标与工具 Schema
→PROCESS模型选择调用,应用校验并执行
→OUTPUT工具结果和后续模型响应
常见用途
- 查询业务系统
- 发送受控请求
- 结构化工作流编排
专业边界
- 模型输出只是调用建议,不是可信命令
- Schema 正确不代表业务参数安全
常见误解
- 函数由模型内部直接执行
- Prompt 中写禁止即可替代权限检查
模型提出调用,程序负责执行
机制解释
Function Calling 让模型按定义好的工具名称和参数格式提出请求。应用解析后再验证参数、用户身份和权限,实际调用外部系统,并把结果返回模型。结构化输出可以改善接口衔接,但不是权限系统。
安全边界
即使参数满足 JSON Schema,也可能是越权订单号、过大的转账金额或误解后的删除请求。服务端必须做业务校验与幂等控制,不能执行所有模型建议。
怎样测试工具调用
测试方法
覆盖正常输入、缺参、无效值、超时、重复调用、恶意文档和无权限对象。分别记录模型选择工具是否正确、参数是否正确,以及服务端是否正确拦截。
来源与核对记录
S1Function Calling GuideOpenAI · 官方技术文档 · 查阅 2026-09-07
↗S2Building Effective AgentsAnthropic · 官方工程文章 · 查阅 2026-09-07
↗S3OWASP Top 10 for LLM Applications 2025OWASP · 行业安全指南 · 查阅 2026-10-03
↗S4NIST AI Risk Management Framework 1.0NIST · 标准与框架 · 查阅 2026-09-07
↗S5Evaluation Best PracticesOpenAI · 官方技术文档 · 查阅 2026-09-07
↗S6NIST AI RMF PlaybookNIST · 官方治理框架 · 查阅 2026-10-03
↗基础释义核对:2026-09-07。专题核对:2026-10-03。局部修订不代表旧正文全部复核,尚未完成外部专家审稿。