Benchmark 案例
庫存不可降為負數
remainingStock 在扣除數量大於現有庫存時回傳負數,應最低為 0。
Patch失敗
任務
扣除庫存後出現負數
remainingStock 在扣除數量大於現有庫存時回傳負數,應最低為 0。
驗收條件庫存足夠時正常相減;不足時回傳 0。
預期行為
產生可驗證 Patch
預期檔案inventory.js重新執行
排入 Supabase,由在線的本機 Worker 執行。
Context Retrieval
模型實際收到的檔案與內容大小。
inventory.jspackage.json模型觀測資料
ollama:qwen2.5-coder:3b · Prompt v1
模型耗時
9.5s
Input tokens
811
Output tokens
238
估算成本
—
失敗分類
風險不符
Grader 結果
歷次結果
| 模型 | Prompt | 版本 | 結果 | 耗時 | Tokens |
|---|---|---|---|---|---|
| ollama:qwen2.5-coder:3b | v1 | 1.1.0 | 失敗 | 9.7s | 1049 |
| ollama:qwen2.5-coder:0.5b | v1 | 1.1.0 | 失敗 | 3.1s | 987 |
| ollama:qwen2.5-coder:1.5b | v1 | 1.1.0 | 失敗 | 4.9s | 1087 |
| gpt-5.6-luna | v2 | 1.1.0 | 通過 | 5.1s | 995 |