Chapter 06
行业应用与变革
分析金融、医疗、法律、教育、制造、零售等场景的价值条件与风险边界。
本章核心判断
行业落地的最小单位不是一个聊天框,而是一段可测量、可授权、可恢复的业务流程。
抄单快了,货车为什么还在等?
仓管员原先要把模糊的运单抄进系统。换上识别助手后,大多数单子一眼就能核对,货车却仍在门口排队。沿着一张单子走了一遍,她才看到:少数地址读不清的单子全部堆在主管桌上,没人知道该先处理哪张。
识别耗时是一个步骤的指标,从司机到场到放行才是这条流程的指标。两者可以同时出现不同变化。先记录正常件和异常件各等在哪里,再决定该换模型,还是改交接和复核。
行业落地从任务和流程开始
同一行业的工作可以拆成查找、分类、草拟、预测、审核和执行。每段所需数据、错误成本和授权不同。把整段流程都叫‘AI 医疗’或‘AI 金融’,会掩盖真正需要验证的任务。
可先做任务清单:输入是否有授权,正确答案能否核验,失败能否发现和恢复,人工是否仍掌握高后果决策。只有这些条件明确后,才比较 RAG、传统模型、生成模型或非 AI 自动化。
医疗与教育:基准能力不等于现场成效
Stanford AI Index 2026 记录医疗 AI 的科研和应用进展,也指出临床证据仍不均衡。WHO 指南要求把患者、医护、治理者等纳入设计和监督;病例题得分不能替代真实世界验证或专业人员责任。
教育场景可用 AI 辅助备课、反馈与个性化练习,但应保护学生数据、保留教师判断,并评估学生是否真正学会而非只产出更漂亮的答案。UNESCO 特别强调以人为本、年龄适配和隐私。
知识工作、研发和客服如何测量收益
企业知识问答测的是授权范围内的命中和有据回答;软件开发助手测的是可合并的正确改动与回归;客服草稿测的是人工采纳后的解决率和投诉率。三者不能共用一张‘满意度’表。
Stanford AI Index 2026 报告称 2025 年受访组织中 88% 在至少一项业务中使用 AI,但 Agent 部署在多数业务功能里仍处早期。采用率不等于净收益,更不证明每个行业都适合全自动化。
高后果任务要有真实的人工控制
招聘、授信、诊疗、司法和公共服务的错误可能影响人的权利与生活。需要可追溯数据、明确决策主体、独立验证、申诉和事故响应;具体义务随地区、角色与用途变化。
‘人工在回路’不是弹出一个确认框。人必须能理解证据和不确定性,有足够时间拒绝模型建议,并且系统记录其决定如何改变结果。否则只是形式化签字。
Worked Example
比较两个看似相同的医疗 AI 场景
以下为虚构教学示例,不是临床建议或真实系统结果。
- 低风险辅助
把医生已确认的会谈记录整理为待审核病历草稿,医生逐项修改和签署。
- 高风险决策
直接向患者给出诊断和处方,会跨越验证、责任和临床证据边界。
- 评测
分别检查遗漏、错误归因、隐私和人工纠错效果,不共用单一正确率。
行业名称相同,任务责任和验证标准可能完全不同。