Cùng một điểm rủi ro, can thiệp lúc này hay lúc khác cho kết quả khác nhau

Chubin Zhang et al. · 1 tác giả · Nanyang Technological University, National University of Singapore, A*STAR CFAR and UNC-Chapel Hill · 2026 · arXiv:2606.21399

Cùng một điểm rủi ro, can thiệp lúc này hay lúc khác cho kết quả khác nhau

Mở

Cổng duyệt của bạn bật lên khi điểm rủi ro của agent vượt ngưỡng, và bạn tin hệ thống đang can thiệp đúng chỗ. Lỗ hổng nằm ở chỗ đó: hai trạng thái hoàn toàn có thể cùng một điểm rủi ro thất bại, trong đó một trạng thái cần người nhúng tay ngay, còn trạng thái kia can thiệp chỉ là thời gian người duyệt mất đi. Một con số gộp lại không giữ được thông tin về việc can thiệp có tạo ra giá trị hay không — và đó chính là thứ paper này cố đo.

Paper này làm gì

Tác giả đi từ một câu hỏi định lượng: khi nào bản tóm tắt trạng thái là đủ để ra quyết định can thiệp, và khi nó không đủ thì utility mất bao nhiêu. Cách đo là replay tiền tố của agent rồi thực thi hành động thay thế từ cùng một trạng thái, giữ nguyên đặc trưng, bộ ước lượng và bộ định tuyến, chỉ đổi mục tiêu giám sát. Thử nghiệm chính trên ALFWorld, thêm một bài chạy trực tiếp trên 300 nhiệm vụ chưa từng thấy với một bộ điều khiển đóng băng và luôn bàn giao sang cùng một model mạnh hơn.

Phát hiện chính

  1. Paper định lượng được ngưỡng đủ của bản tóm tắt — tác giả formalize khi nào một summary là đủ cho quyết định can thiệp, và tính được utility mất đi khi nó không đủ.

We formalize when a summary is sufficient for intervention decisions and the utility lost when it is not.

  1. Đổi mục tiêu giám sát là đổi cả kết quả — giữ nguyên đặc trưng, ước lượng và định tuyến, chỉ chuyển giám sát từ rủi ro thất bại sang giá trị can thiệp thì regret trên ALFWorld rơi từ 0.51 xuống 0.09.

changing the supervision target from failure to intervention utility lowers regret from 0.51 to 0.09

  1. Bộ điều khiển huấn luyện theo can thiệp bàn giao ít hơn mà thắng nhiều hơn — trên 300 nhiệm vụ chưa từng thấy, nó handoff 35% số lượt thay vì 48% và thành công 45% thay vì 37% so với đường ray kích hoạt theo thất bại.

a frozen prefix-feature controller improves utility over failure-triggered routing, handing off less often (35% vs 48%) and succeeding more often (45% vs 37%)

  1. Chấm tín hiệu giám sát bằng quyết định nó dẫn tới — một bộ dự báo rủi ro có thể vẫn đẹp trên giấy mà dẫn tới quyết định can thiệp sai; tác giả chốt rằng phải đánh giá cả hai mặt, chất lượng dự đoán và quyết định được hỗ trợ.

Oversight signals should be evaluated by the decisions they support alongside their predictive quality.

Caveat

Abstract không nêu chi phí bằng đô la, không đặt tên baseline nào khác ngoài failure-triggered routing, và lợi ích nhỏ trên hai benchmark reasoning. Ngoài ALFWorld và bộ tiền tố giữa phiên, bài chưa cho thấy bộ điều khiển này giữ được hiệu quả ở môi trường tác vụ khác, nên đây là bằng chứng về mặt cơ chế chứ chưa phải bằng chứng triển khai.

Áp vào 5ac thế nào

Hãy nhìn lại các cổng thật của 5ac: gate duyệt card trên kanban, bước chặn file bí mật trước khi push, và quyết định của route.sh khi chuyển một job sang model mạnh hơn. Câu hỏi cần chấm không phải “bộ guard có dự báo đúng rủi ro không” mà “số lần nó nhúng tay có đổi tỷ lệ job hoàn thành không”. Thực tế là đếm hai con số đó cho từng guard: bao nhiêu lượt handoff, bao nhiêu lượt xong việc. Một guard báo rủi ro suốt ngày mà không đổi được kết quả là tiếng ồn phải dọn, không phải an toàn để khen.

Nguồn