human-in-the-loop-oversight
Khi nào và bằng cách nào con người phải can thiệp: ngưỡng phê duyệt, sức chứa giám sát của người duyệt, escalation, và những cách agent lách qua cổng phê duyệt. Bảy trong mười lăm paper là phản biện — kể cả ba bài cho rằng thêm người duyệt làm mọi thứ tệ hơn.
Cùng một điểm rủi ro, can thiệp lúc này hay lúc khác cho kết quả khác nhau Cùng một điểm rủi ro, can thiệp lúc này hay lúc khác cho kết quả khác nhau Chubin Zhang et al. · 1 tác giả · Nanyang Technological University, National University of Singapore, A*STAR CFAR and UNC-Chapel Hill · 2026 · arXiv:2606.21399 Agent tốt bụng che credential giúp đối phương qua mặt monitor Agent tốt bụng che credential giúp đối phương qua mặt monitor Deema Alnuhait et al. · 1 tác giả · University of Illinois Urbana-Champaign, Genies, and NVIDIA · 2026 · arXiv:2609.39050 Bắt agent nói dối: đọc suy nghĩ, đừng chỉ đọc hành động Bắt agent nói dối: đọc suy nghĩ, đừng chỉ đọc hành động Snehasis Mukhopadhyay · 1 tác giả · Indian Institute of Information Technology Kalyani · 2026 · arXiv:2603.13791 Bấm Approve một lần, agent giữ quyền đó lâu dài Bấm Approve một lần, agent giữ quyền đó lâu dài Xianglin Yang et al. · 1 tác giả · Nanyang Technological University, National University of Singapore, and Ant Group · 2026 · arXiv:2610.22987 Duyệt từng bước vẫn là đoán: cho xem trước hệ quả Duyệt từng bước vẫn là đoán: cho xem trước hệ quả Gaole He, Brian Y. Lim · 2 tác giả · National University of Singapore · 2026 · arXiv:2603.11677 Chặn agent ở năm checkpoint thay vì chờ nó sai rồi xử lý Chặn agent ở năm checkpoint thay vì chờ nó sai rồi xử lý Segev Shlomov et al. · 1 tác giả · IBM Research, Haifa · 2026 · arXiv:2605.20874 Cổng duyệt nằm trong cùng harness với agent thì không phải cổng duyệt Cổng duyệt nằm trong cùng harness với agent thì không phải cổng duyệt Samuel Breckenridge et al. · 1 tác giả · Cornell Tech and Yale University (IC3) · 2026 · arXiv:2610.35835 Reviewer không lười, chỉ không nhớ: oversight gãy vì thiếu thông tin lúc duyệt Reviewer không lười, chỉ không nhớ: oversight gãy vì thiếu thông tin lúc duyệt Xinyu Fu et al. · 1 tác giả · Georgia State University · 2026 · arXiv:2609.01976 Cờ an toàn bật rồi mà lệnh vẫn chạy: khoảng trống thực thi làm giám sát vô nghĩa Cờ an toàn bật rồi mà lệnh vẫn chạy: khoảng trống thực thi làm giám sát vô nghĩa Yuhang Wang · 1 tác giả · Fudan University · 2026 · arXiv:2609.15293 Thêm người duyệt không phải lúc nào cũng an toàn hơn: cổng giám sát có sức chứa Thêm người duyệt không phải lúc nào cũng an toàn hơn: cổng giám sát có sức chứa Emre Turan · 1 tác giả · Independent Researcher · 2026 · arXiv:2606.08919 Chọn thời điểm can thiệp gần như không tin được: cả người lẫn LLM judge đều lệch nhau Chọn thời điểm can thiệp gần như không tin được: cả người lẫn LLM judge đều lệch nhau Manvendra Modgil · 1 tác giả · Independent Researcher · 2026 · arXiv:2606.04296 Agent tự sửa mình, cổng ngoài giữ cửa Agent tự sửa mình, cổng ngoài giữ cửa Sina Tayebati et al. · 1 tác giả · University of Illinois Chicago and Capital Labs (Capital One) · 2026 · arXiv:2609.24130 Duyệt theo hậu quả, không duyệt theo chữ Duyệt theo hậu quả, không duyệt theo chữ Weiheng Wu et al. · 1 tác giả · Singapore Management University · 2026 · arXiv:2610.40753 Tăng quyền cho agent theo từng bậc, có kiểm chứng Tăng quyền cho agent theo từng bậc, có kiểm chứng Edward C. Cheng et al. · 1 tác giả · Stanford University and Inquiryon, Inc. · 2026 · arXiv:2610.30445 Người dùng tự viết quy tắc: ít hỏi hơn nhưng chặn tệ hơn Người dùng tự viết quy tắc: ít hỏi hơn nhưng chặn tệ hơn Ting Yan · 1 tác giả · Independent Researcher · 2026 · arXiv:2608.27443
Không có paper nào khớp bộ lọc này.