[Sổ tay ý tưởng AI 01] SlideOn: mô hình tìm kiếm nhỏ hơn với hai cách kiểm soát chi phí hữu ích

Sổ tay ý tưởng AI khám phá ý tưởng và khả năng ứng dụng của những mô hình, công cụ AI mới xuất hiện.

Bạn nhớ một tài liệu có giải thích cách hủy đơn hàng. Ô tìm kiếm chỉ nhớ từ hủy, nhưng tài liệu lại gọi quy trình ấy là rút đơn. Một bộ tài liệu có thể chứa đúng câu trả lời mà vẫn khó sử dụng.

LightOn giới thiệu SlideOn và mSlideOn ngày 19 tháng 10 năm 2026, hai mô hình truy xuất tài liệu liên quan. SlideOn tập trung vào tiếng Anh; mSlideOn mở rộng sang văn bản đa ngôn ngữ, tài liệu dài và mã nguồn. Điểm hấp dẫn là hai ngân sách có thể điều chỉnh: truy vấn dùng bao nhiêu đặc trưng và mỗi tài liệu lưu lại bao nhiêu đặc trưng. Thông báo của LightOn

Bài giới thiệu này giải thích vị trí của các mô hình, tác động của hai thiết lập ấy và cách thử một phép so sánh nhỏ trước khi xây dựng dịch vụ tìm kiếm. Bạn không cần một ứng dụng trò chuyện mới để hiểu ý tưởng. Hãy bắt đầu bằng một câu hỏi, vài tài liệu và định nghĩa thế nào là kết quả hữu ích.

Ảnh chụp thẻ mô hình công khai ngày 20 tháng 10 năm 2026. Nguồn: LightOn trên Hugging Face. Đây là trang mô hình đã công bố, không phải kết quả suy luận cục bộ; giao diện cũng cho thấy mô hình có thể tải xuống không nhất thiết có nhà cung cấp suy luận được lưu trữ sẵn.

Tìm kiếm cần danh sách nguồn phù hợp trước khi có câu trả lời

Mô hình truy xuất xếp hạng tài liệu theo truy vấn. Nó không nhất thiết phải viết câu trả lời, tóm tắt tệp hay quyết định công ty có nên đổi chính sách. Nhiệm vụ trước mắt hẹp hơn: đưa tư liệu nguồn liên quan nhất lên gần đầu danh sách.

Hãy nghĩ đến cẩm nang nội bộ có ba trang về trả hàng, vận chuyển và nghỉ phép. Câu hỏi về gửi trả đơn hàng bị hỏng nên đưa trang trả hàng lên trước. Nếu kết quả đầu tiên nói về lịch nghỉ phép, mô hình sinh câu trả lời phía sau đã bắt đầu với bằng chứng sai, dù văn phong có trôi chảy.

Sự phân biệt này khiến truy xuất hữu ích ngay cả khi không dùng AI tạo sinh. Nhân viên hỗ trợ có thể mở thẳng tài liệu được xếp hạng. Nhà nghiên cứu có thể gom các đoạn để đối chiếu. Công cụ lập trình có thể tìm phần triển khai có khả năng liên quan trước khi con người kiểm tra.

Trách nhiệm cũng được tách rõ. Truy xuất giúp định vị bằng chứng; tài liệu gốc vẫn là nơi xác minh cách diễn đạt, ngày tháng và ngoại lệ. Kết quả tốt phải giúp tiếp cận nguồn dễ hơn, thay vì thay nguồn bằng một điểm tin cậy.

Tìm kiếm thưa giữ một sổ địa chỉ có chọn lọc

Hãy hình dung chỉ mục tìm kiếm như sổ địa chỉ. Chỉ mục từ khóa thông thường ghi tài liệu nào chứa một từ. Mô hình thưa được học tạo một sổ khác: gán trọng số cho tập đặc trưng đã học tương đối nhỏ, rồi dùng các đặc trưng hoạt động chung để chấm mức khớp giữa truy vấn và tài liệu.

Từ thưa mô tả tính chọn lọc ấy. Biểu diễn có thể có nhiều vị trí khả dĩ nhưng chỉ dùng một phần cho từng văn bản. Chỉ mục đảo nối mỗi đặc trưng hoạt động với các tài liệu dùng nó, giúp máy tìm kiếm tập trung vào những danh sách xuất hiện liên quan.

Thẻ SlideOn nêu 32,768 đặc trưng đã học khả dĩ, cùng thiết lập cắt tỉa truy vấn và tài liệu độc lập. Các vị trí ấy là đặc trưng tiềm ẩn đã học, không phải từ điển tiếng Anh minh bạch. Không nên xem đặc trưng 100 là từ đồng nghĩa chắc chắn của “trả hàng”. Thẻ mô hình SlideOn

Chi tiết cuối rất quan trọng khi giải thích kết quả. Biểu diễn thưa có thể giúp tìm kiếm tiết kiệm mà không biến mọi quyết định nội bộ thành thứ con người đọc hiểu được. Giải thích thực tế cho người dùng vẫn nên là đoạn liên quan trong nguồn, có đủ ngữ cảnh để kiểm tra lý do phù hợp.

Sơ đồ giải thích do tác giả thực hiện. Dấu đặc trưng minh họa quy trình; chúng không phải giá trị kích hoạt đo từ SlideOn.

Chọn mô hình cho bộ tài liệu bạn thực sự có

Hai tên gọi là những điểm khởi đầu liên quan, không phải thiết lập ngôn ngữ thay thế lẫn nhau. LightOn công bố SlideOn có 174 triệu tham số, còn mSlideOn có 339 triệu tham số. Chỉ con số lớn hơn chưa chứng minh mô hình nào phục vụ bộ tài liệu của bạn tốt hơn. Bản phát hành ngày 19 tháng 10

Nhãn đa ngôn ngữ là lý do để khảo sát, không phải đường tắt bỏ qua đánh giá. Danh mục song ngữ có thể chứa bản dịch, chính sách vùng khác nhau và thuật ngữ không có một nghĩa tương đương sát chữ. Đó là những bài toán truy xuất khác nhau dù tài liệu chung thẻ ngôn ngữ.

Chẳng hạn tìm chính sách hoàn tiền bằng tiếng Pháp với câu hỏi tiếng Anh là nhiệm vụ xuyên ngôn ngữ. Tìm tài liệu tiếng Pháp bằng truy vấn tiếng Pháp là nhiệm vụ cùng ngôn ngữ. Hãy ghi riêng: điểm tổng hợp có thể che trải nghiệm yếu của một nhóm độc giả.

Nguyên tắc ấy cũng áp dụng cho mã nguồn. Tìm tệp về “khôi phục phiên” khác với khớp chính xác tên hàm. Giữ cả truy vấn định danh chính xác lẫn câu hỏi mô tả trong phép so sánh, vì hệ thống tìm kiếm hữu ích thường cần cả hai.

Thử nghiệm đầu tiên có thể nằm trong một notebook

Bắt đầu bằng văn bản công khai hoặc tổng hợp và môi trường Python sạch. Ví dụ công bố dùng SparseEncoder của Sentence Transformers; đây là giao diện tải mô hình, chưa phải máy chủ tìm kiếm hoàn chỉnh. Phần sau điều chỉnh công thức chính thức, được kiểm tra ngày 20 tháng 10 năm 2026. Cách dùng được ghi trong tài liệu

1. Mở thẻ mô hình và xem mã suy luận tùy chỉnh cùng các phụ thuộc của kho. Bộ tải dùng trust_remote_code=True, cho phép thực thi phần triển khai Python từ kho ấy; hãy dùng bản sửa đổi đã kiểm tra để thử nghiệm lặp lại được.
2. Tạo môi trường cô lập và cài dải phiên bản thư viện được tài liệu nêu.
3. Mã hóa một truy vấn và vài tài liệu ngắn. Dùng phương thức truy vấn và tài liệu của mô hình, thay vì tự thêm tiền tố.
4. Xem điểm bên cạnh nội dung tài liệu. Kiểm tra ban đầu nói về thứ hạng, không phải một ngưỡng điểm phổ quát.

python -m venv .venv
# Activate .venv using the command for your shell.
python -m pip install "sentence-transformers>=6.1,<6.2" "transformers>=5.3,<6"

from sentence_transformers import SparseEncoder

model = SparseEncoder("lightonai/SlideOn", trust_remote_code=True)
documents = [
    "Customers may return a damaged order within the stated return period.",
    "Standard delivery takes three working days after dispatch.",
    "Staff should record annual leave in the shared calendar.",
]
queries = ["What should I do if my delivery arrives broken?"]

q = model.encode_query(queries, top_k=64)
d = model.encode_document(documents, top_k=512)
scores = model.similarity(q, d)
print(scores)

Các tài liệu trên là ví dụ giảng giải hư cấu. Đoạn mã không đi kèm kết quả được khẳng định hay độ chính xác đã đo. Hãy xem tài liệu trả hàng có đứng đầu không, rồi thử cách diễn đạt khác và những lựa chọn cố tình gây khó.

Đừng dừng khi câu dễ nhất hoạt động. Hỏi về hủy đơn trước khi gửi, kiện hàng hỏng sau giao và hoàn tiền sau thời hạn. Nếu bộ tài liệu không trả lời được, bài thử nên bộc lộ sự thiếu hụt thay vì thưởng cho kết quả hấp dẫn nhưng không liên quan.

Hai ngân sách trả lời hai câu hỏi chi phí khác nhau

Cắt tỉa truy vấn giới hạn đặc trưng dùng khi đặt câu hỏi. Cắt tỉa tài liệu giới hạn đặc trưng lưu cho mỗi mục đã lập chỉ mục. Trong dịch vụ lớn, ngân sách thứ nhất liên quan công việc lặp lại mỗi lần tìm; ngân sách thứ hai còn tác động đến chỉ mục tồn tại giữa các lần tìm.

Thử nghiệm hữu ích thay đổi từng ngân sách. Giữ biểu diễn tài liệu cố định khi chỉnh cắt tỉa truy vấn, rồi lặp lại với các ngân sách tài liệu khác. Nếu cùng đổi cả hai, kết quả khác đi khó giúp bạn xác định nguyên nhân.

Không có thiết lập “đủ nhỏ” phổ quát. FAQ ngắn, kho đa ngôn ngữ và kho phần mềm có phân bố ngôn ngữ, độ dài và lặp lại khác nhau. Cấu hình tốt cho câu hỏi chung có thể mất chi tiết hiếm giúp phân biệt hai quy trình gần giống nhau.

Kế hoạch thử nghiệm do tác giả thực hiện. Đây là điều kiện đối chiếu, không phải kết quả benchmark hay thiết lập sản xuất được khuyến nghị.

Đặt chất lượng, thời gian và lưu trữ ở các cột riêng. Nếu tìm kiếm nhanh hơn nhưng bài đúng rơi khỏi trang đầu, cải thiện thời gian không miễn phí. Nếu chỉ mục lớn hơn không mang lại lợi ích đáng kể cho câu hỏi thực tế, dung lượng tăng thêm có thể không đáng.

Điểm benchmark không phải thời gian phản hồi

Thẻ mô hình báo cáo 56.68 nDCG@10 trên BEIR-15 cho SlideOn chưa cắt tỉa. Đây là kết quả chất lượng xếp hạng do bên công bố ghi nhận trên các tập benchmark, không phải xác suất câu trả lời cụ thể đúng. Nó cũng không phải số mili giây. Đánh giá đã công bố

LightOn phân biệt đại lượng FLOPS xấp xỉ cho truy xuất với độ trễ thực đo, và số phần tử khác không của tài liệu với dung lượng chỉ mục tính bằng byte. Nên giữ khác biệt ấy trong mọi bảng so sánh. Đại lượng toán học giúp hiểu cơ chế; phép đo vận hành cho biết hệ thống của bạn thực sự làm gì.

Với đánh giá nhỏ, chỉ bấm giờ cũng chưa đủ. Tải mô hình ban đầu, mã hóa tài liệu, dựng chỉ mục và truy vấn lặp lại là các giai đoạn khác nhau. Báo cáo khởi động lạnh riêng với tìm kiếm đã làm nóng, đồng thời nêu thời gian có bao gồm mã hóa truy vấn hay không.

Điểm chất lượng cũng cần cẩn trọng như vậy. Bộ truy xuất có thể tìm đúng tài liệu nhưng đặt đoạn sai của tệp dài lên đầu. Ghi rõ đơn vị chấm là tệp, phần hay đoạn, và dùng cùng đơn vị cho mọi ứng viên.

Ba bộ tài liệu thực tế làm rõ sự đánh đổi

Cẩm nang vận hành là ví dụ đầu tốt vì kết quả mong muốn thường rõ. Viết câu hỏi về trả hàng, chậm gửi và truy cập tài khoản, rồi xác định trang có thẩm quyền cho từng câu. Thêm câu hỏi diễn đạt khác tiêu đề để thử nhiều hơn việc khớp tên bài.

Kho dự án đa ngôn ngữ thêm thử thách: cùng chủ đề xuất hiện trong ghi chú họp, thông báo đã dịch và kế hoạch cũ. Dùng siêu dữ liệu phân biệt chính sách hiện hành với thảo luận lịch sử. Độ tương đồng ngữ nghĩa không quyết định tổ chức nên theo phiên bản nào.

Bộ tài liệu lập trình thêm chuỗi chính xác và nội dung gần trùng. Câu hỏi về hết thời gian chờ có thể cần cả hướng dẫn khái niệm lẫn khóa cấu hình. Giữ tìm kiếm từ vựng làm mốc và xem cách kết hợp có đáng với độ phức tạp trên câu hỏi thực của bạn không.

Đây là kịch bản đánh giá gợi ý, không phải ca triển khai. Mục đích là làm cụ thể tiêu chí chấp nhận. Trong từng trường hợp, sản phẩm quan trọng là danh sách câu hỏi, nguồn được chấp nhận và thứ hạng quan sát được để người khác xem lại.

Giữ lần so sánh đầu đủ nhỏ để hoàn tất

Có thể dùng 30 câu hỏi đại diện thay vì tập truy vấn không giới hạn. Chia thành tra cứu thông thường, diễn đạt lại, trường hợp mơ hồ và câu hỏi bộ tài liệu không trả lời được. Đây là thiết kế khởi đầu gợi ý, không phải benchmark đại diện thống kê.

Nhờ chuyên gia lĩnh vực chấm kết quả mong muốn trước khi tinh chỉnh. Nếu không, mỗi thứ hạng bất ngờ lại mời một cách giải thích mới về câu hỏi “thực ra muốn nói gì”. Giữ một tập chưa đụng đến cho lần kiểm tra cuối để thiết lập không chỉ ghi nhớ ví dụ phát triển.

Ghi bản sửa đổi mô hình, quy tắc tiền xử lý, kích thước đoạn, mức cắt tỉa và cấu hình máy. Đổi bất kỳ mục nào đều có thể đổi phép so sánh. Một lần chạy ngắn người khác lặp lại được hữu ích hơn điểm lớn mà đầu vào đã biến mất.

Cuối cùng, xem màn hình kết quả ở kích thước người dùng thực dùng. Kết quả đầu đúng vẫn không giúp nếu tiêu đề bị cắt đến không nhận ra hoặc trích đoạn giấu câu quyết định. Chất lượng truy xuất gặp chất lượng giao diện ở thời điểm một người chọn mở gì.

Tìm kiếm tốt hơn rút ngắn đường đến nguồn

Theo chúng tôi, ý tưởng hữu ích của SlideOn là biến chất lượng và ngân sách tài nguyên thành các thiết lập có thể kiểm tra. Đây là điểm xuất phát thực tế hơn việc cho rằng mọi bài toán tìm kiếm đều cần mô hình trả lời lớn hơn. Nó gợi một thử nghiệm vừa phải: giữ câu hỏi, đổi biểu diễn và xem mọi người thực sự tìm được gì.

Hãy bắt đầu với tài liệu nhóm liên tục không tìm thấy. Nếu bộ truy xuất mới đều đặn đưa nó lên với nhiều cách hỏi, bạn có một cải thiện cụ thể để phát triển. Đích đến vẫn là nguồn đọc được; mô hình có nhiệm vụ rút ngắn con đường.

Nguồn và tư liệu hình ảnh

Kiểm tra ngày 20 tháng 10 năm 2026. Ví dụ thiết lập điều chỉnh từ thẻ mô hình công khai; không khẳng định đã cài đặt, suy luận cục bộ hay chạy benchmark độc lập. Ảnh chụp: trang mô hình công khai của LightOn trên Hugging Face, do tác giả chụp. Hai sơ đồ do tác giả thực hiện. Nguồn tài sản và thông báo giấy phép nằm trong hồ sơ tư liệu.

• Bản phát hành LightOn ngày 19 tháng 10 năm 2026
• Thẻ SlideOn và cách dùng
• Thẻ mSlideOn và thông tin ngôn ngữ
• Kho huấn luyện và đánh giá

Giữ câu hỏi cạnh bằng chứng

Lưu cùng nhau tập truy vấn, liên kết nguồn và ghi chú đánh giá để lần so sánh sau vẫn trả lời cùng câu hỏi. Telli.sh có thể giúp tổ chức hồ sơ nghiên cứu đó. Tạo tài khoản Telli.sh