Chapter 06

行业应用与变革

分析金融、医疗、法律、教育、制造、零售等场景的价值条件与风险边界。

专题长文基础正文核对 2026-10-03增补 2026-11-194 个关联深度词条
本页目录 7 节

本章核心判断

行业落地的最小单位不是一个聊天框,而是一段可测量、可授权、可恢复的业务流程。

抄单快了,货车为什么还在等?

虚构示例

仓管员原先要把模糊的运单抄进系统。换上识别助手后,大多数单子一眼就能核对,货车却仍在门口排队。沿着一张单子走了一遍,她才看到:少数地址读不清的单子全部堆在主管桌上,没人知道该先处理哪张。

自拟教学说明

识别耗时是一个步骤的指标,从司机到场到放行才是这条流程的指标。两者可以同时出现不同变化。先记录正常件和异常件各等在哪里,再决定该换模型,还是改交接和复核。

行业落地从任务和流程开始

分析框架

同一行业的工作可以拆成查找、分类、草拟、预测、审核和执行。每段所需数据、错误成本和授权不同。把整段流程都叫‘AI 医疗’或‘AI 金融’,会掩盖真正需要验证的任务。

依据NIST AI Risk Management Framework 1.0Ethics and Governance of Artificial Intelligence for Health: Large Multi-modal Models
选型方法

可先做任务清单:输入是否有授权,正确答案能否核验,失败能否发现和恢复,人工是否仍掌握高后果决策。只有这些条件明确后,才比较 RAG、传统模型、生成模型或非 AI 自动化。

依据NIST AI RMF PlaybookEvaluation Best Practices

医疗与教育:基准能力不等于现场成效

研究与治理

Stanford AI Index 2026 记录医疗 AI 的科研和应用进展,也指出临床证据仍不均衡。WHO 指南要求把患者、医护、治理者等纳入设计和监督;病例题得分不能替代真实世界验证或专业人员责任。

依据AI Index 2026: MedicineEthics and Governance of Artificial Intelligence for Health: Large Multi-modal Models
行业边界

教育场景可用 AI 辅助备课、反馈与个性化练习,但应保护学生数据、保留教师判断,并评估学生是否真正学会而非只产出更漂亮的答案。UNESCO 特别强调以人为本、年龄适配和隐私。

依据Guidance for Generative AI in Education and Research

知识工作、研发和客服如何测量收益

业务指标

企业知识问答测的是授权范围内的命中和有据回答;软件开发助手测的是可合并的正确改动与回归;客服草稿测的是人工采纳后的解决率和投诉率。三者不能共用一张‘满意度’表。

依据Evaluation Best PracticesAgents in Microsoft Foundry
统计口径

Stanford AI Index 2026 报告称 2025 年受访组织中 88% 在至少一项业务中使用 AI,但 Agent 部署在多数业务功能里仍处早期。采用率不等于净收益,更不证明每个行业都适合全自动化。

依据AI Index 2026: Economy

高后果任务要有真实的人工控制

治理边界

招聘、授信、诊疗、司法和公共服务的错误可能影响人的权利与生活。需要可追溯数据、明确决策主体、独立验证、申诉和事故响应;具体义务随地区、角色与用途变化。

依据AI Act: Risk-based Approach and Application TimelineNIST AI Risk Management Framework 1.0Ethics and Governance of Artificial Intelligence for Health: Large Multi-modal Models
设计判断

‘人工在回路’不是弹出一个确认框。人必须能理解证据和不确定性,有足够时间拒绝模型建议,并且系统记录其决定如何改变结果。否则只是形式化签字。

依据NIST AI RMF PlaybookEthics and Governance of Artificial Intelligence for Health: Large Multi-modal Models

Worked Example

比较两个看似相同的医疗 AI 场景

以下为虚构教学示例,不是临床建议或真实系统结果。

  1. 低风险辅助

    把医生已确认的会谈记录整理为待审核病历草稿,医生逐项修改和签署。

  2. 高风险决策

    直接向患者给出诊断和处方,会跨越验证、责任和临床证据边界。

  3. 评测

    分别检查遗漏、错误归因、隐私和人工纠错效果,不共用单一正确率。

行业名称相同,任务责任和验证标准可能完全不同。