站在 IT 或數(shù)字化負(fù)責(zé)人的角度,智能體項(xiàng)目的難點(diǎn)從來不是"做出來",而是"敢不敢放上線"。
演示會上一切順利,上線后數(shù)據(jù)不全、權(quán)限不對、寫回失敗、沒人敢擔(dān)責(zé)——這類場景太常見了。
問題出在哪?驗(yàn)證的范圍不對。
上線前要驗(yàn)證的不是"能不能跑通",而是三類用例:正常、異常、越權(quán)。
| 差異點(diǎn) | 演示環(huán)境 | 生產(chǎn)環(huán)境 |
|---|---|---|
| 數(shù)據(jù) | 精心準(zhǔn)備的樣例 | 有缺失、有臟數(shù)據(jù)、有歷史格式 |
| 權(quán)限 | 通常用高權(quán)限賬號 | 崗位/組織邊界復(fù)雜 |
| 異常 | 一般不演示 | 超時、重復(fù)提交、審批駁回 |
| 責(zé)任 | 演示者承擔(dān) | 必須事先寫明 |
驗(yàn)證清單的本質(zhì),就是把這四類差異逐一測掉。
關(guān)卡一:準(zhǔn)確性與來源(查詢類必測)
關(guān)卡二:授權(quán)與審批(執(zhí)行類必測)
關(guān)卡三:寫回與異常處理
寫入類步驟單獨(dú)驗(yàn)證四項(xiàng):參數(shù)校驗(yàn)、權(quán)限校驗(yàn)、冪等與重復(fù)提交、異?;謴?fù)。
這里有個必須反復(fù)強(qiáng)調(diào)的認(rèn)知:
不能把"數(shù)據(jù)庫連通"等同于"業(yè)務(wù)集成完成"。
能連上庫只說明網(wǎng)絡(luò)通,字段映射、校驗(yàn)規(guī)則、審批流程、冪等控制這些業(yè)務(wù)語義層面的事一件都沒解決。
關(guān)卡四:權(quán)限邊界(最容易被跳過)
做法很簡單——用不同崗位訪問同一份數(shù)據(jù)做交叉驗(yàn)證:
另外,不要用一個統(tǒng)一的高權(quán)限系統(tǒng)賬號去取數(shù)。工程上省事,合規(guī)上是重大缺陷——權(quán)限校驗(yàn)實(shí)際上被繞過了。
關(guān)卡五:成本與穩(wěn)定性
單次任務(wù)消耗、長流程耗時、高峰期排隊(duì)與超時。
關(guān)卡六:責(zé)任與運(yùn)維
運(yùn)行記錄是否可追溯(身份、輸入及引用來源、模型與配置版本、工具調(diào)用、審批、處理結(jié)果);出錯后找誰、多久響應(yīng)、怎么回滾。
| 類型 | 測什么 | 不測的后果 |
|---|---|---|
| 正常用例 | 標(biāo)準(zhǔn)流程能否跑通 | 基本功能不可用 |
| 數(shù)據(jù)缺失用例 | 缺字段、格式異常時怎么辦 | 生產(chǎn)環(huán)境大面積報錯 |
| 權(quán)限不足用例 | 越權(quán)能否被正確攔截 | 數(shù)據(jù)安全事故 |
這三類樣例要在 POC 開始前就準(zhǔn)備好。
結(jié)束時交付:測試結(jié)果、問題清單、后續(xù)實(shí)施建議。不必每次都覆蓋所有功能。
不要使用"零錯誤"這類絕對承諾。
① 遷移的智能體必須重新驗(yàn)證。 提示詞、知識文檔、工具接口、測試用例可能可復(fù)用,但編排方式、記憶機(jī)制、權(quán)限體系、運(yùn)行機(jī)制往往要調(diào)整,遷移后需重新跑效果驗(yàn)證。
② 投入按任務(wù)拆分估算,別一口價。 一定有效果調(diào)優(yōu)工作量;涉及企業(yè)數(shù)據(jù)、功能、組織權(quán)限、復(fù)雜流程、文檔質(zhì)量整理時還需集成與顧問支持。完整計(jì)劃至少包含:數(shù)據(jù)/知識準(zhǔn)備、接口開發(fā)、RAG 建設(shè)、智能體配置、測試和調(diào)優(yōu)。