Severian: plugin giúp Hermes nhớ bạn giữa các phiên chat

Tôi biết đến nó qua một video ba mươi mốt giây

Video của kênh jgoldieseo đăng ngày 29 tháng 10, nói rằng Hermes Agent giờ nhớ được người dùng qua từng phiên chat và plugin này miễn phí, chạy hoàn toàn cục bộ, cài bằng một dòng lệnh. Video không hề nói ai là tác giả, nên tôi mở thẳng file catalog của Hermes để kiểm.

Kết quả đầu tiên khá bất ngờ: plugin có thật, tên đúng, nhưng không phải của Nous Research. Trong catalog có 909 plugin, tôi đếm được 879 cái thuộc diện cộng đồng, 20 cái là chính thức của Nous và 9 cái ở mức đã kiểm chứng. Severian nằm trong nhóm cộng đồng, tác giả là một người có tên Sahil-SS9.

Vấn đề nó giải quyết, nhìn một lần là hiểu

Vế trái là chuyện xảy ra hằng ngày: bạn dặn agent dự án dùng Node 24, đóng cửa sổ chat, mở phiên mới thì nó không còn biết điều đó. Vế phải là thứ Severian thêm vào, và cơ chế gồm đúng ba bước như hình dưới.

Ba bước, không có gì thần bí

Nó lưu nguyên văn cuộc trò chuyện vào một kho chỉ ghi thêm, rồi rút ra những ký ức ngắn đủ để tra cứu. Khi bạn hỏi lại, nó tìm trong kho ký ức đó, mang ra đúng phần liên quan và ghi kèm nguồn là câu nào đã sinh ra ký ức ấy. Kho mặc định là SQLite chạy ngay trên máy, muốn mở rộng thì trỏ sang PostgreSQL có pgvector, và phần nhúng ngữ nghĩa là tuỳ chọn nên mặc định nó không gọi ra ngoài mạng.

Chi tiết tôi thấy đáng giá hơn mọi lời giới thiệu là cách nó xử lý mâu thuẫn. Khi bạn nói một điều mới thay cho điều cũ thì lần tra cứu sau điều cũ không quay lại, còn khi hai ký ức đá nhau thì nó ghi chú rõ sự xung đột cho mô hình đọc. Tác giả công bố tỷ lệ dữ kiện lỗi thời trả về là 0,000 và tỷ lệ rò rỉ ký ức giữa các phạm vi cũng 0,000 trên bộ kiểm thử đối kháng họ tự dựng.

Mấy từ khó trong bài, nói lại cho dễ hiểu

Hiểu bốn từ này là đọc được phần còn lại, không cần biết thêm gì về máy học.

Điểm số trên bộ kiểm thử trí nhớ dài hạn

Nói bằng lời: trong 500 câu hỏi đó, Severian trả lời đúng 90,6 phần trăm, cao nhất trong 14 hệ thống đem so, hơn người nhì 1,4 điểm. Một chỗ phải cẩn thận mà chính tác giả cũng ghi rõ: các dòng khác là kết quả do OmniMemEval công bố và được chép nguyên văn, còn dòng Severian là do tác giả tự chạy lại trên cùng bộ khung đánh giá, đánh dấu bằng ký hiệu riêng và không phải mục chính thức trên bảng. Đây là số liệu tự công bố chứ không phải bên thứ ba kiểm chứng độc lập.

Vì sao tôi vẫn thấy nó đáng đọc

Trước khi dựa vào bảng xếp hạng, tác giả chạy lại toàn bộ một hệ thống khác là LCM-X qua đúng đường ống đánh giá đó. Kết quả trả về nằm trong khoảng 0,65 điểm so với con số LCM-X đã công bố, tức là bảng xếp hạng đáng tin ở mức tương đối. Sau đó họ so từng câu hỏi và cho thấy Severian hơn LCM-X 7,9 điểm trên LoCoMo và 4,0 điểm trên LongMemEval, kèm khoảng tin cậy 95 phần trăm.

Họ cũng tự nêu điểm yếu thay vì che đi. Severian đưa cho mô hình trả lời nhiều văn bản hơn phần lớn hệ thống khác và có gọi mô hình trong lúc lưu ký ức, tức là tốn thêm chi phí. Bản tích hợp sẵn cho Hermes giới hạn ngữ cảnh ở 8.000 ký tự, mức này gần như không ảnh hưởng trên LoCoMo nhưng mất khoảng 8 điểm trên BEAM và LongMemEval, nâng lên 16.000 ký tự thì lấy lại được chừng 5 điểm mỗi bảng.

Họ còn chỉ ra lỗi chấm điểm trong bộ BEAM: cách chấm hiện tại thưởng cho cả câu trả lời bịa khi cuộc trò chuyện chưa từng nói tới, đẩy điểm của mọi hệ thống lên, kể cả của chính họ. Một dự án dám nói điểm mình bị thổi phồng thì thường là dự án làm thật.

Chỗ tôi thấy cần cân nhắc trước khi cài

Điều quan trọng nhất là Severian không phải plugin bổ trợ mà là nhà cung cấp bộ nhớ thay thế. Muốn dùng thì phải khai báo nhà cung cấp trong tệp cấu hình của Hermes rồi khởi động lại, và khi đó toàn bộ cơ chế ghi nhớ mặc định sẽ do nó đảm nhiệm chứ không chạy song song với cái cũ.

Bản phát hành hiện tại là 0,3,13 và trên kho gói Python chỉ có đúng một bản duy nhất, đăng ngày 25 tháng 10 năm 2026, tức là mới vài ngày. Repo đã có 291 lần commit nên không phải hàng làm trong một buổi, nhưng một bản phát hành non như vậy thì nên thử ở chỗ xoá được. Thêm nữa, nó ghi mọi lượt hội thoại vào cơ sở dữ liệu dưới thư mục gốc của Hermes, dùng chung cho các hồ sơ và phân tách bằng cột phạm vi, nên dung lượng sẽ tăng dần và cần tính chỗ lưu.

So với thứ Hermes đang có thì sao

Hermes vốn đã có bộ nhớ gốc gồm hai tệp văn bản cho ghi nhớ và hồ sơ người dùng, cộng thêm khả năng tìm lại phiên cũ. Cách này đơn giản nhưng có trần rất cứng về dung lượng: trên máy tôi đang chạy, tệp ghi nhớ đã chạm 4.048 byte, tức là đầy, và mỗi lần thêm ghi chú mới tôi buộc phải xoá bớt một ghi chú cũ. Đó chính là chỗ mà người ta cảm thấy trí nhớ của tác nhân kém đi.

Severian giải quyết đúng chỗ đó bằng cơ sở dữ liệu có tìm kiếm ngữ nghĩa thay vì một tệp văn bản có hạn mức. Nếu bạn đang gặp cảnh tác nhân quên dần theo thời gian thì đây là hướng đáng thử, còn nếu công việc chỉ cần nhớ vài chục dòng quy ước cố định thì cái có sẵn đã đủ. Một chi tiết dễ nhầm: Hermes còn có plugin tên memory-wiki nhưng nó chỉ là bảng điều khiển để xem lại những gì tác nhân đã nhớ, không phải bộ máy ghi nhớ, nên hai thứ này không loại trừ nhau.

Cách cài nếu bạn muốn thử

Theo tài liệu Hermes, Severian được ghim ở một mã băm cụ thể nên rủi ro thấp hơn hàng ngoài chưa kiểm duyệt. Cài xong thì khai báo nhà cung cấp bộ nhớ trong tệp cấu hình.

hermes plugins install severian

Tôi khuyên tạo một hồ sơ riêng để thử trước, chạy vài ngày xem chất lượng tra cứu có hơn cái đang dùng không rồi mới đưa vào hồ sơ chính. Cách này giữ trí nhớ hiện tại nguyên vẹn nếu bản non kia có lỗi. Tôi chưa cài vì muốn theo dõi thêm vài bản phát hành nữa, nhưng tôi đọc kỹ phần benchmark trên repo của tác giả và thấy cách họ công bố số liệu nghiêm túc hơn mặt bằng chung.

Nếu bạn vận hành một tác nhân AI cho công việc thật và thấy nó quên dần qua các phiên, bài về những repo đáng cài cho tác nhân và bài cài gì cho Antigravity trên Windows là hai phần nối tiếp: dựng môi trường làm việc, rồi giữ cho nó nhớ.

Bạn có đang gặp cảnh tác nhân quên mất những quy ước bạn đã dặn không, và bạn xử lý bằng cách viết lại quy ước mỗi phiên hay tìm một bộ nhớ ngoài?

#Hermes #Agent

Quét mã QR để đọc bài viết này để xem tiếp trên điện thoại