当前位置：首页 > news >正文

tmpr3z5vs82

news 2026/6/4 9:46:44

Agent+检验解读：怎样做成风险提示助手，而不是越界诊断

检验报告解读是医疗健康 Agent 很容易“越界”的场景：用户输入几个指标，模型可能直接生成疾病判断、治疗建议或用药建议。本文只讨论技术架构和工程流程示例，目标是把系统约束为“风险提示助手”，输出可配置的风险提醒、复查建议和就医沟通提示，不提供诊断、治疗、分诊或用药建议。

问题背景：检验解读 Agent 最容易踩的边界

在真实业务中，检验报告 Agent 往往面对三类输入：结构化指标、用户拍照 OCR 后的半结构化文本、用户追加描述。工程风险不在于“能不能解释”，而在于系统是否会把异常指标直接推导成诊断结论。

一个更稳妥的产品定位是：系统只做信息整理、异常标记、风险提示、复查提醒和沟通建议。所有阈值、分层和升级规则都应是示例规则或机构可配置规则，真实项目必须由医疗专业人员和机构规范确认。

可以把边界写成系统级约束：

允许输出： - 指标是否高于/低于给定参考区间 - 示例风险等级：低/中/高，需要机构确认 - 建议复查、携带报告咨询专业人员 - 提醒结合年龄、性别、采样时间、既往记录等上下文 禁止输出： - “你患有某某疾病” - “可以服用某某药” - “不需要就医” - “替代医生判断”

目标架构：规则先行，LLM 只负责可控表达

我更推荐把 Agent 拆成四层，而不是让 LLM 直接读报告并生成结论。

用户输入 ↓ 报告解析层：字段抽取、单位归一、参考区间读取 ↓ 规则引擎层：异常标记、示例风险分层、升级规则 ↓ LLM 表达层：按模板生成非诊断性说明 ↓ 审计层：保存输入、命中规则、Prompt、输出和拦截结果

关键设计点是：风险判断尽量由规则引擎完成，LLM 不直接决定风险等级。LLM 的职责是把结构化结果翻译成用户能看懂的说明，并且必须受输出模板和敏感语句拦截器限制。

实现步骤：用规则对象约束输出范围

下面示例使用 Python 描述核心流程。示例指标、阈值和规则仅用于工程演示，不能视为医学标准；真实项目应由医疗专业人员确认，并支持按机构、设备、年龄、性别等维度配置。

fromdataclassesimportdataclass,asdictfromtypingimportOptional,List,Dictimportreimporttimeimportuuid@dataclassclassLabItem:name:strvalue:floatunit:strref_low:Optional[float]ref_high:Optional[float]@dataclassclassRiskFlag:item_name:strstatus:strexample_level:strreason:straction_hint:strBANNED_PATTERNS=[r"诊断为",r"确诊",r"你患有",r"建议服用",r"不需要就医",r"无需复查"]defevaluate_item(item:LabItem)->RiskFlag:ifitem.ref_highisnotNoneanditem.value>item.ref_high:returnRiskFlag(item_name=item.name,status="高于参考区间",example_level="中",reason=f"{item.name}数值高于本次提供的参考上限",action_hint="建议保留报告并咨询专业人员，是否复查需按机构规则确认")ifitem.ref_lowisnotNoneanditem.value<item.ref_low:returnRiskFlag(item_name=item.name,status="低于参考区间",example_level="中",reason=f"{item.name}数值低于本次提供的参考下限",action_hint="建议结合采样时间、既往记录和专业人员意见判断是否复查")returnRiskFlag(item_name=item.name,status="位于参考区间内",example_level="低",reason=f"{item.name}未触发示例异常规则",action_hint="如有不适或既往异常记录，仍建议咨询专业人员")defbuild_safe_prompt(flags:List[RiskFlag])->str:facts="\n".join(f"-{f.item_name}:{f.status}，示例风险等级={f.example_level}，原因={f.reason}，提示={f.action_hint}"forfinflags)returnf""" 你是检验报告风险提示助手，不是诊断系统。 请只基于以下结构化事实生成说明：{facts}输出要求： 1. 不给出疾病诊断、治疗、分诊或用药建议。 2. 所有风险等级都表述为“示例风险提示”。 3. 明确说明真实判断需由专业人员结合完整信息确认。 4. 用三段输出：异常概览、可沟通问题、复查与记录建议。 """defguard_output(text:str)->Dict:hits=[pforpinBANNED_PATTERNSifre.search(p,text)]return{"passed":len(hits)==0,"hits":hits,"safe_text":textifnothitselse"输出触发安全边界，已拦截。请咨询专业人员获取解释。"}defaudit_log(user_id:str,items:List[LabItem],flags:List[RiskFlag],prompt:str,output:str):event={"trace_id":str(uuid.uuid4()),"user_id":user_id,"ts":int(time.time()),"items":[asdict(i)foriinitems],"risk_flags":[asdict(f)forfinflags],"prompt":prompt,"output":output}print(event)items=[LabItem(name="示例指标A",value=12.5,unit="U/L",ref_low=3.0,ref_high=10.0),LabItem(name="示例指标B",value=4.2,unit="mmol/L",ref_low=3.5,ref_high=5.5)]flags=[evaluate_item(i)foriinitems]prompt=build_safe_prompt(flags)# 实际项目中这里调用 LLM APImock_llm_output="异常概览：示例指标A高于本次参考区间，属于示例风险提示。真实判断需由专业人员结合完整信息确认。"checked=guard_output(mock_llm_output)audit_log("demo_user",items,flags,prompt,checked["safe_text"])print(checked["safe_text"])

这段代码的重点不是医学规则，而是控制链路：先结构化、再规则判断、再模板化生成、最后拦截和审计。只要让 LLM 自由发挥，越界概率就会显著升高。

FastAPI 接口：把审计变成默认能力

线上服务不要只返回文本，建议返回结构化结果，便于前端展示、质检回放和人工复核。

fromfastapiimportFastAPIfrompydanticimportBaseModelfromtypingimportList,Optional app=FastAPI()classLabItemIn(BaseModel):name:strvalue:floatunit:strref_low:Optional[float]=Noneref_high:Optional[float]=NoneclassInterpretReq(BaseModel):user_id:stritems:List[LabItemIn]@app.post("/lab/risk-hint")defrisk_hint(req:InterpretReq):lab_items=[LabItem(**i.model_dump())foriinreq.items]flags=[evaluate_item(i)foriinlab_items]prompt=build_safe_prompt(flags)# 这里替换为真实 LLM API 调用llm_text="异常概览：存在示例异常提示。请结合完整报告咨询专业人员。"checked=guard_output(llm_text)audit_log(req.user_id,lab_items,flags,prompt,checked["safe_text"])return{"traceable":True,"risk_flags":[asdict(f)forfinflags],"message":checked["safe_text"],"safety_passed":checked["passed"],"blocked_patterns":checked["hits"]}