[Sổ tay ý tưởng AI 04] Từ quyết định kiểu Jev đến hình ảnh: làm quen QEV, mô hình nhỏ dựa trên Qwen

Sổ tay ý tưởng AI khám phá ý tưởng và khả năng ứng dụng của những mô hình, công cụ AI mới xuất hiện.

Một bức ảnh đi vào quy trình phân loại. Ứng dụng cần chọn nhựa, kính hay kim loại, kiểm tra vật thuộc danh mục được cung cấp không và trả giá trị phần mềm dùng được. Đoạn văn mô tả chai trôi chảy có thể thú vị, nhưng vẫn còn bước giữa mô hình và quyết định.

Jev thu hút chú ý đến giao diện khác: đưa tình huống, câu hỏi, câu trả lời được phép, rồi nhận quyết định có cấu trúc cùng xác suất. Câu hỏi tiếp theo tự nhiên là giao diện ấy có làm việc với thứ mô hình nhìn thấy, ngoài thứ nó đọc, hay không?

Hiện đã có nhiều hình thức. TypeSafe giới thiệu hỗ trợ ảnh thử nghiệm cho Jev ngày 14 tháng 10 năm 2026. Các dự án độc lập cũng thích nghi backbone thị giác-ngôn ngữ Qwen cho quyết định kiểu Jev. Trong đó có QEV, mô hình cục bộ dựa Qwen3.5-2B, cung cấp lựa chọn, điểm có thứ tự, quyết định Boolean và khả năng từ chối quyết định. Thông báo Jev, kho QEV

Công bố của tác giả: QEV là dự án được tác giả bài này duy trì độc lập. Bài phân biệt bản phát hành công bố với tính năng chỉ có trong mã nguồn, dùng tài liệu công khai và ví dụ đã ghi; không trình bày một đánh giá mô hình độc lập mới.

Kho QEV công khai, chụp ngày 20 tháng 10 năm 2026. Đây là màn hình tài liệu, không phải trình diễn suy luận cục bộ.

Vì sao mô hình quyết định khác chatbot

Chatbot thường viết câu trả lời từng token. Mô hình quyết định hữu ích khi ứng dụng đã biết hình dạng đáp án: chọn nơi chuyển đến, chấm điều kiện trên thang có thứ tự hoặc quyết định phát biểu có đúng không.

Phương án có thể thay đổi mỗi yêu cầu. Hệ thống hỗ trợ hôm nay có thanh toán và kỹ thuật, ngày mai thêm khôi phục tài khoản. Luồng phân loại ảnh có thể đưa sáu mô tả vật liệu cho câu này và bộ quy tắc xử lý khác cho câu khác. Mô hình phải nối bằng chứng hiện tại với mô tả, thay vì chọn từ danh sách nhãn huấn luyện cố định.

Các kiểu cơ bản quen thuộc của Jev là choice, score và noul. Trong QEV, choice trả phân phối trên ứng viên được đưa vào. Score dùng các mức có thứ tự, trả xác suất và mức kỳ vọng. Noul dùng tiêu chí đúng, sai. Đây là hợp đồng đầu ra khác nhau dù cùng mô hình nền. Tham chiếu API QEV

Xác suất làm ranh giới rõ hơn: hai ứng viên gần ngang nhau có thể được chuyển người xem thay vì tự động hành động. Chúng không khiến quyết định đúng. Ứng dụng vẫn cần chính sách cho không chắc chắn, đầu vào không phù hợp và giá của sai sót.

Jev đã có đường nhận ảnh thử nghiệm

Động lực lịch sử cần cập nhật. Giới thiệu QEV bằng lời Jev hiện không nhận ảnh sẽ gây hiểu sai. Thông báo tháng 10 của TypeSafe bật ảnh thử nghiệm cho Jev 1.13 và 1.14 qua header TypeSafe-Danger-Zone-Images. Jev 1.14 còn thêm kiểu không gian Box. Thông báo gọi tính năng ảnh này là thử nghiệm. Thông báo Jev 1.14

Điều đó đổi phép so. Câu hỏi hữu ích là cách triển khai, hợp đồng đầu vào và hành vi quyết định nào hợp quy trình. Thử nghiệm Jev được lưu trữ, mô hình nghiên cứu và bản thích nghi Qwen cục bộ có thể chung ý tưởng quyết định giới hạn nhưng khác lớn về đóng gói và thao tác hỗ trợ.

QEV chưa có phần tương đương Box được tài liệu mô tả. Nó là triển khai độc lập, không phải trọng số TypeSafe hay bản Jev chính thức. Chung tên kiểu hoặc endpoint kiểu SystemOne là điểm bắt đầu tích hợp, chưa chứng minh mọi yêu cầu chuyển nguyên giữa sản phẩm được.

Vì sao Qwen xuất hiện trong các dự án này

Backbone thị giác-ngôn ngữ đã đưa văn bản và ảnh vào cùng mô hình. Đó là điểm khởi đầu thực tế: giữ khả năng hiểu ảnh, rồi thích nghi cách nối bằng chứng với đáp án ứng dụng cung cấp.

Hai ví dụ công khai cho thấy đây là hướng rộng hơn một kho:

Bài PixelJev giúp hiểu kiến trúc: nối ảnh và ứng viên cung cấp khi chạy với bộ đọc quyết định. Thẻ AutoTrust cho thấy quy mô khác, đồng thời nêu hiệu chuẩn thị giác có hệ thống chưa được xác lập. Đây là ví dụ mô thức thiết kế đang hình thành, không phải bảng xếp hạng hay danh sách tương thích ngang nhau. Bài PixelJev, thẻ AutoTrust

Vị trí của QEV là triển khai cục bộ gọn. “Nhỏ” mô tả lớp backbone so với mô hình thị giác-ngôn ngữ lớn hơn nhiều; không có nghĩa toàn bộ chỉ vài megabyte hoặc chạy ngay trên mọi thiết bị.

QEV biến ảnh thành quyết định thế nào

QEV dùng một backbone văn bản-thị giác Qwen3.5-2B. Kiến trúc công bố thêm thích nghi phía ngôn ngữ và bộ đọc gắn tình huống, câu hỏi với mô tả ứng viên. Nó chấm trực tiếp ứng viên thay vì sinh câu rồi nhờ parser khác trích nhãn. Thẻ mô hình công khai

Sơ đồ do tác giả thực hiện. Mũi tên mô tả đường quyết định trong tài liệu, không phải so tốc độ đã đo.

Trong SDK phát hành, một yêu cầu chứa văn bản, một ảnh hoặc cả hai. Nó hỗ trợ một đến bốn câu hỏi, hai đến mười sáu ứng viên choice và hai đến mười sáu mức score có thứ tự. Nhờ vậy có thể gom quyết định liên quan mà không biến từng câu thành hội thoại riêng. Tham chiếu API

Xét ảnh với chỉ dẫn ngắn “Chọn vật liệu theo các mô tả này”. Câu thứ hai hỏi nhóm chính sách nào áp dụng, câu thứ ba hỏi vật khớp điều kiện Boolean không. Ảnh là bằng chứng chung; tiêu chí định nghĩa ý nghĩa từng quyết định.

Đường suy luận trong tài liệu sinh không token trả lời. Điều này bỏ một nguồn biến thiên định dạng, nhưng không bỏ bộ mã hóa ảnh, tính toán backbone, tiền xử lý ảnh hay chi phí ứng dụng. “Không sinh câu trả lời” và “không tốn tính toán” rất khác nhau.

Đọc ví dụ chai như một ví dụ

Kho QEV có ảnh được cấp phép và đầu ra ghi lại cho chai nhựa. Đây là cách hữu ích xem cấu trúc phản hồi trước khi cài gì.

Đầu vào ví dụ công bố từ bộ mẫu ảnh QEV, gốc từ TrashNet. Copyright 2017 Gary Thung, giấy phép MIT; giữ thông báo giấy phép.

Score cần đặc biệt cẩn thận. Trong mẫu này, nhóm 0 gồm kính và nhựa, nhóm 1 kim loại và rác, nhóm 2 bìa cứng và giấy. Thứ tự là chính sách minh họa. Số 0.4254 không phải mức an toàn, tiêu chuẩn tái chế hay độ tin cậy lựa chọn vật liệu.

Tương tự, xác suất nhựa mô tả yêu cầu và ứng viên này. Nó không chứng minh 93.61% mọi ảnh chai sẽ được phân đúng. Đây là mẫu phát hành đã xem trước, không phải test giữ lại mới; đầu ra được dự án ghi, không tái chạy cho bài viết.

“Tương thích Jev” nên hiểu ra sao ở đây

Tương thích dễ hiểu theo lớp: ý tưởng chung quyết định do yêu cầu định nghĩa, schema JSON chính xác, đầu vào hỗ trợ và hành vi từng kiểu đầu ra. Khớp một lớp không tự khớp các lớp khác.

Bản đồ tương thích do tác giả thực hiện, kiểm tra ngày 20 tháng 10 năm 2026. Mở rộng nguồn tách khỏi hợp đồng SDK đóng gói.

SDK QEV 0.2.1 đóng gói dùng schema yêu cầu gốc QEV và một ảnh tùy chọn. Bản mã nguồn công khai còn ghi xử lý kiểu Jev/SystemOne rộng hơn và tới bốn ảnh có thứ tự. Không nên mặc định các mở rộng ấy nằm trong gói 0.2.1 đã phát hành. API và ghi chú phát hành, bản 0.2.1

Khi tích hợp, bắt đầu bằng một yêu cầu đã biết rồi đối chiếu xác thực, trường đáp án, thứ tự ứng viên và hành vi không chắc chắn. Chỉ route /v1/systemone quen thuộc chưa chứng minh thay thế nguyên trạng mọi trường hợp cho dịch vụ hay SDK TypeSafe.

Cách xem thử thực tế đầu tiên

Với khám phá đầu, playground cục bộ dễ xem hơn tích hợp ứng dụng.

1. Chuẩn bị môi trường Python 3.12 và kích hoạt.
2. Cài bản ghim và mở playground bằng lệnh dưới.
3. Mở http://127.0.0.1:7860, chọn ví dụ và xem xác suất ứng viên, từ chối quyết định.

python -m pip install qev==0.2.1
qev playground

Playground theo tài liệu chạy cục bộ tại http://127.0.0.1:7860, có ảnh mẫu và hiển thị xác suất, từ chối, đầu ra cấu trúc. Giao diện và tài liệu bằng tiếng Anh. Đây là chỉ dẫn cài của bản phát hành, không khẳng định bài đã cài hay đo thời gian mô hình. Hướng dẫn playground

Yêu cầu văn bản nhỏ cho thấy dạng SDK gốc:

from qev import DecisionRequest, load

model = load()
request = DecisionRequest.model_validate({
    "state": {
        "text": "I was charged twice. Please refund the duplicate payment."
    },
    "questions": {
        "department": {
            "type": "choice",
            "instructions": "Which team should handle this request?",
            "criteria": {
                "billing": "Payments and refunds",
                "technical": "Software faults"
            }
        }
    }
})
print(model.predict(request)["answers"])

Bắt đầu với hai hoặc ba ứng viên khác rõ. Sau đó thử trường hợp mơ hồ và trường hợp không thuộc ai. Xem từ chối và chính sách ứng dụng có cho kết quả hữu ích không. Với ảnh, dùng ảnh bạn có quyền xử lý và viết tiêu chí quanh bằng chứng nhìn thấy, thay vì sự thật ảnh không xác lập được.

Tính tài nguyên cho backbone, không chỉ adapter

Với đường SDK 0.2.1 cũ ở trên, checkpoint thích nghi QEV khoảng 32.01 MB, cùng tải backbone Qwen riêng khoảng 4.55 GB. Chi tiết công bố nêu khoảng 2.213 tỷ tham số backbone và 7.992 triệu tham số thích nghi/bộ đọc. Checkpoint QEV-0.8B và QEV-2B tháng 10 bên dưới dùng đường tải phát hành riêng. Phân tích kích thước mô hình SDK

Thiết lập đầu vì vậy cần gigabyte. Lần sau có thể dùng tệp cache, nhưng bộ nhớ chạy còn chứa activation, xử lý ảnh và buffer. Đường GPU, CPU trong tài liệu dùng độ chính xác số khác nhau. Số byte checkpoint giúp tính lưu trữ, không hứa bộ nhớ, thông lượng hay pin trên máy cụ thể.

Nếu 2B quá nặng cho máy, thử QEV-0.8B

Bản tháng 10 có QEV-0.8B, dựa Qwen3.5-0.8B và chưng cất từ cùng mô hình giáo viên như QEV-2B mới hơn. Đây là khởi đầu thực tế khi bộ nhớ GPU hoặc thời gian phản hồi khiến 2B khó dùng. Mô hình nhỏ giữ quyết định do yêu cầu định nghĩa, đổi một phần chất lượng thị giác lấy tài nguyên thấp hơn. Thẻ 0.8B, thẻ 2B

Đây là phép đo của nhà phát triển, kiểm tra ngày 20 tháng 10 năm 2026. Chỉ số được tự chấm trên bộ thị giác công khai phiên bản 0.3.2, chờ lần chạy chính thức; nó không phải tỷ lệ chính xác tổng thể. Khoảng bootstrap ghép cặp cho chênh 8.97 điểm là 7.39–10.48 điểm. Các benchmark riêng cho thấy chênh lệch thay đổi theo nhiệm vụ.

Infographic gốc dựa hai thẻ mô hình ghim. Chỉ số tự chấm; bộ nhớ và thời gian thuộc chế độ accurate trên GPU đo.

Phép đo runtime dùng RTX 4060 Ti 8 GB, batch 1, mô hình đã làm nóng và 47 cấu hình yêu cầu, với ba lần làm nóng, 30 lần đo mỗi cấu hình. Accurate cho tối đa 1.6 MP mỗi ảnh. Bộ nhớ là cấp phát đỉnh PyTorch, không phải dung lượng card tối thiểu: driver, ứng dụng khác và đầu vào khác vẫn cần chỗ. Thời gian không tính tải xuống hay nạp mô hình, không dự đoán hiệu năng CPU.

Fast giới hạn ảnh 0.26 MP và dừng tại lớp 16 trên 24. Với 0.8B, trung vị p50 còn 44.6 ms, p95 cấu hình tệ nhất còn 123.2 ms. Độ đúng DEV nội bộ giảm từ 86.0% ở accurate xuống 82.0%, ảnh hưởng nhất đầu vào tài liệu, biểu đồ và màn hình. Không có Decision Index công khai cho fast; điểm 53.02 thuộc accurate.

Dùng môi trường Python 3.12 riêng cho các checkpoint này. Gói qev==0.2.1 cũ không tải bản 0.8B:

python -m pip install "qev @ git+https://github.com/ken-jo/qev@986a2d6d7b7e1583458b4006c9b88d6269dfa84a" huggingface_hub

from huggingface_hub import snapshot_download
import qev

path = snapshot_download(
    "ken-jo/QEV-0.8B",
    revision="def58ea5c773bb2e5bf53c428c6a1c76c6e55ceb",
)
model = qev.QEV.load(path, device="cuda")
# To reduce image resolution and depth further:
# model = qev.QEV.load(path, device="cuda", mode="fast")

Gửi DecisionRequest qua model.predict(request) như ví dụ trước. Bắt đầu với 0.8B accurate, rồi thử fast nếu tài nguyên vẫn chật. Chuyển 2B khi lỗi trên đầu vào đại diện đáng đổi thêm bộ nhớ, thời gian; giữ cùng đầu vào và mô tả ứng viên để so.

Nên thử ở đâu, bằng chứng dừng ở đâu

Thử nghiệm đầu tốt có bằng chứng nhìn thấy và hậu quả giới hạn: chuyển ảnh tài liệu tới hàng đợi xem, phân loại ảnh vật hoặc chọn mô tả xử lý phù hợp nhất từ các phương án. Giữ đường người duyệt khi đo mô hình có giúp không.

Chọn tập nhỏ đại diện trước chỉnh prompt. Ghi độ đúng trên quyết định được chấp nhận, tỷ lệ từ chối và lỗi vẫn lọt. Lặp theo ánh sáng, chất lượng ảnh, ngôn ngữ. QEV thừa hưởng đầu vào đa ngôn ngữ của backbone, nhưng bằng chứng độ đúng, hiệu chuẩn công bố tập trung tiếng Anh; tương đương tiếng Hàn hay ngôn ngữ khác nên được thử chứ không mặc định. Thẻ mô hình công khai

Đánh giá mô hình SDK cũ cũng giới hạn kỳ vọng. Trong so sánh 2,000 câu quyết định có kiểu, QEV đạt 77.00%, chuyên gia văn bản LAYA 76.95% — khác một câu, với khoảng tin cậy ghép cặp đi qua không. Đó không phải bằng chứng lợi thế chung về độ đúng, cũng không phải so trực tiếp Jev được lưu trữ. Kết quả cũ tách khỏi so checkpoint tháng 10 trên. Chuyên biệt văn bản còn có thể nhanh hơn trong điều kiện riêng. Phương pháp và kết quả so

Suy luận thị giác vẫn không đồng đều. Đánh giá khám phá 2048 của dự án báo không ván thành công trong 72 lần. Mô hình gọn nhận ra vật liệu trong ảnh không tự thành bộ lập kế hoạch không gian đáng tin. Ghi chú đánh giá

QEV đáng khám phá khi vận hành cục bộ, backbone nhỏ và đầu ra quyết định rõ cùng quan trọng. Đường ảnh thử nghiệm Jev và dự án Qwen khác làm rõ xu hướng: thêm ứng dụng có thể hỏi mô hình phán đoán giới hạn về ảnh, rồi dùng phần mềm thông thường quyết định hành động.

Nguồn

Nguồn được kiểm tra ngày 20 tháng 10 năm 2026. Kiến trúc, ví dụ và ranh giới phát hành ở trên dựa nguồn QEV công khai đã ghim và SDK 0.2.1. Bối cảnh rộng từ thông báo Jev của TypeSafe, bài PixelJev và thẻ AutoTrust. Ảnh chính là ảnh biên tập chụp README QEV công khai; nguồn và quyền tư liệu được ghi riêng.

Giữ bằng chứng gốc bên cạnh quyết định để có thể xem lại phân loại sai hoặc chính sách đã đổi. Tạo tài khoản Telli.sh để thu thập nguồn, ghi chú và nghiên cứu tiếp trong một không gian tìm kiếm được.