Ký ức dài hạn có khiến agent thiên vị thêm theo thời gian không?

Yiming Ma et al. · 1 tác giả · Chongqing Research Institute of Harbin Institute of Technology · 2026 · arXiv:2602.01558

Ký ức dài hạn có khiến agent thiên vị thêm theo thời gian không?

Mở

Một agent cá nhân hóa phục vụ cùng nhóm khách hàng suốt nhiều năm, tích lũy ngày càng nhiều record về họ. Câu hỏi ít người đặt: liệu những thiên vị tinh tế trong cách model ra quyết định có tích lũy theo thời gian và lan sang cả những việc không liên quan không — và nếu có, nên chặn ở đâu? Nghiên cứu này trả lời cả hai vế.

Paper này làm gì

Tác giả định nghĩa implicit bias là thiên vị thống kê tinh tế, rồi theo dõi cách nó tích lũy và lan truyền trong LLM có bộ nhớ dài hạn. Họ đề xuất DIB Benchmark (Decision-based Implicit Bias) với 3.776 tình huống quyết định trên chín lĩnh vực xã hội, dùng khung mô phỏng dài hạn để đánh giá sáu mô hình LLM tích hợp ba kiến trúc bộ nhớ tiêu biểu. Phần cuối phân tích chiến lược giảm thiểu, từ prompt hệ thống tĩnh tới can thiệp thực thi ràng buộc công bằng ngay lúc ghi bộ nhớ.

Phát hiện chính

  1. Bộ nhớ mua được sự liên tục cá nhân hóa, đổi lấy rủi ro công bằng — Cơ chế bộ nhớ dài hạn tạo tính liên tục và cá nhân hóa qua vòng đời tương tác dài, đồng thời mở ra rủi ro liên quan đến công bằng chưa được nghiên cứu kỹ.

they also introduce new and underexplored risks related to fairness

  1. Benchmark riêng để đo thiên vị trong quá trình ra quyết định — DIB gồm 3.776 tình huống quyết định trải trên chín lĩnh vực xã hội, dùng để định lượng thiên vị trong các quá trình quyết định dài hạn.

a large-scale dataset comprising 3,776 decision-making scenarios across nine social domains

  1. Thiên vị không đứng yên: nó tích lũy và lan sang lãnh thổ khác — Trên sáu mô hình LLM với ba kiến trúc bộ nhớ, thiên vị ngầm không giữ nguyên mà mạnh dần theo thời gian và truyền sang cả những lĩnh vực không liên quan.

LLMs’ implicit bias does not remain static but intensifies over time and propagates across unrelated domains

  1. Prompt tĩnh không đủ, can thiệp lúc ghi bộ nhớ mới chặn được — Baseline prompt cấp hệ thống tĩnh chỉ cho hiệu ứng giảm thiên vị hạn chế và ngắn ngủi; tác giả đề xuất Dynamic Memory Tagging (DMT) thực thi ràng buộc công bằng ngay tại thời điểm ghi, và báo cáo DMT giảm mạnh việc tích lũy thiên vị cũng như chặn lan truyền giữa các lĩnh vực.

a static system-level prompting baseline provides limited and short-lived debiasing effects

Caveat

Thiên vị được chấm bằng các quyết định trên bộ tình huống tổng hợp, nên nghiên cứu xác lập chiều tích lũy và lan truyền, không phải quy mô thiệt hại trong một doanh nghiệp cụ thể.

Áp vào 5ac thế nào

Bộ nhớ phục vụ cùng khách hàng nhiều năm có thể âm thầm trở nên thiếu công bằng, và bài này cho thấy prompt cấp hệ thống không giữ được — ràng buộc phải nằm trên đường ghi. Với 5ac, nghĩa là khi ghi record mới vào memory thì gắn tag kiểm tra ngay thay vì chỉ hy vọng system prompt đủ mạnh; kèm theo, định kỳ audit các quyết định lặp lại của agent trên từng nhóm khách để bắt dấu hiệu tích lũy sớm, trước khi nó lan sang việc khác.

Nguồn