Reddit Ra Mắt Hệ Thống Kiểm Duyệt Mới Với AI Tự Động Xóa Nội Dung Vi Phạm

Reddit đã chính thức giới thiệu một tính năng mới mang tên Rules Hub, hệ thống kiểm duyệt sử dụng trí tuệ nhân tạo (AI) để tăng cường khả năng quản lý nội dung trên nền tảng. Điểm nổi bật của hệ thống này là AI không chỉ đơn thuần gắn cờ mà còn có thể tự động xóa các bài viết và bình luận vi phạm nội quy nếu được sự đồng ý từ quản trị viên.

Trước đây, Reddit chủ yếu dựa vào sự đóng góp từ các moderator tình nguyện và công cụ Automoderator. Hệ thống này hoạt động dựa trên các quy tắc được thiết lập bởi moderator và tự động kích hoạt khi phát hiện từ khóa hoặc mẫu nội dung nhất định.

Trong thời gian gần đây, Reddit đã bắt đầu kết hợp AI vào các quy trình kiểm duyệt. Chẳng hạn, tính năng Post Check đã sử dụng mô hình ngôn ngữ lớn để cảnh báo người dùng về các nội dung có khả năng vi phạm quy định nhưng vẫn cho phép họ quyết định có đăng hay không.

Với sự xuất hiện của Rules Hub, AI được trao nhiều quyền hạn hơn. Theo thông tin từ The Verge, hệ thống mới này có khả năng đánh giá mức độ phù hợp của một bài viết hoặc bình luận với các quy định, thay vì chỉ đơn thuần tìm kiếm từ khóa như Automod trước đây.

Reddit khẳng định rằng cách tiếp cận mới này giúp AI hiểu rõ hơn về ngôn ngữ tự nhiên và ngữ cảnh của từng nội dung, đồng thời nhận diện những trường hợp đặc biệt mà không chứa các từ khóa cố định.

Điều thú vị là dù AI có thể tự động thực hiện các hành động, nhưng quyền quyết định cuối cùng vẫn thuộc về moderator. Họ có thể lựa chọn báo cáo nội dung cho người kiểm tra, tự động xóa hoặc không thực hiện bất kỳ hành động nào.

Theo thông tin từ Reddit, Rules Hub đã được thử nghiệm trong hơn 700 cộng đồng trong vài tháng qua, với sự tham gia của cả những moderator mới lẫn những người có nhiều kinh nghiệm từ Mod Council Network.

Công cụ này hiện đã được áp dụng mặc định cho tất cả các subreddit mới và Reddit dự định sẽ mở rộng tính năng này cho toàn bộ nền tảng vào năm 2026, mặc dù chưa công bố thời gian cụ thể.

Phản hồi từ các moderator về hệ thống này vẫn khá đa chiều. Một số người cho rằng hiệu quả của Rules Hub không ổn định, trong khi một số khác cảm thấy chưa đủ tin tưởng để AI thực hiện kiểm duyệt tự động và chỉ sử dụng nó như một công cụ hỗ trợ cho công việc kiểm tra thủ công.

Trong tương lai, Reddit kỳ vọng rằng Rules Hub có thể thay thế nhiều chức năng hiện tại của Automod khi kết hợp với các công cụ Post and Comment Guidance cùng Safety Filters. Tuy nhiên, công ty nhấn mạnh rằng AI sẽ không thay thế vai trò của moderator, mà con người vẫn giữ trách nhiệm quản lý quy định cộng đồng và đưa ra quyết định cuối cùng đối với các hành động của AI.

Động thái này diễn ra sau khi Reddit gặp phản ứng từ cộng đồng moderator vì các thay đổi trong chính sách, hạn chế khả năng của các bot tự động cấm người dùng dựa vào hành vi của họ trên các subreddit khác.