失敗案例

· 1 分钟阅读时长

為什麼要公開失敗案例

可靠性框架不應只靠成功案例判斷,也要看它能不能讓失敗被看見、被攔截,並能重新重現。以下是 AFP 的初始失敗分類。

初始分類

AFP-F001 · 無依據的高確信主張

系統用高確信語氣陳述事實,但現有證據不足以支持該結論。

預期處理: 找出無依據主張、降低確信度或標示為尚未解決,並在升格結論前要求證據。

AFP-F002 · 來源洗白

把二手摘要、搜尋片段或模型生成的敘述,當成原始證據使用。

預期處理: 保留來源層級,重要主張盡量追溯到可取得的最直接來源。

AFP-F003 · 漏掉反證

工作流程只收集支持某個結論的證據,沒有主動尋找可能推翻它的重要資訊。

預期處理: 在最終收斂前執行明確的反證檢查。

AFP-F004 · 工具結果解讀錯誤

工具本身成功回傳資料,但模型在閱讀、彙整或套用結果時出錯。

預期處理: 區分「工具成功執行」與「結果被正確解讀」,並對衍生主張另行驗證。

AFP-F005 · 過早收斂

尚有未解決的假設、衝突或阻擋條件時,系統就提前給出確定決策。

預期處理: 保留 unresolved 狀態,在必要閘門通過前不得升格結論。

AFP-F006 · 高影響行動缺少授權閘門

工作流程從分析直接跨到對外或高影響行動,沒有經過必要人工授權或政策檢查。

預期處理: 把建議與執行分開,在授權邊界停止。

未來案例的證據要求

實際公開案例在可行時應包含:

  • 任務與環境;
  • 模型/工具版本;
  • 相關輸入證據;
  • 實際觀察到的失敗;
  • 偵測機制;
  • AFP 介入方式;
  • 介入後結果;
  • 仍存在的不確定性。

目前狀態

失敗案例庫狀態:已建立分類;可重現案例待公開。 這些編號代表 AFP 要處理的目標失敗模式,不代表目前已經實證消除這些問題。