Ampersand cho AI trong nhóm chat quyền giữ im lặng

Ba đồng nghiệp đang quyết định có phát hành vào thứ Sáu không. Một người giải thích kế hoạch hoàn tác, người khác hỏi ai có mặt để thực hiện, còn người thứ ba nhắn rằng có thể trực buổi tối. Bot trả lời sau mỗi tin nhắn có thể biến một cuộc trao đổi ngắn thành chuỗi xác nhận. Bot chờ đến khi có thể chỉ ra bước kiểm tra môi trường thử nghiệm còn thiếu có nhiều cơ hội giúp ích hơn.

Humans& phát hành Ampersand v0.1 qua Agents API ngày 20 tháng 10 năm 2026. Ngày 6 tháng 11, Vercel đưa mô hình lên AI Gateway với mã humansand/ampersand-v0.1. Mô hình được thiết kế cho cuộc trò chuyện chung, nơi nó có thể đóng góp hoặc để mọi người tiếp tục. Đường API bổ sung giúp thử hành vi ấy trong ứng dụng dễ hơn. Nó cũng đặt ra câu hỏi sản phẩm cụ thể. Ứng dụng nên làm gì khi mô hình quyết định im lặng?

Một cách trả lời hữu ích là xem nhóm chat như dòng sự kiện có quyền truy cập, thay vì cuộc đối thoại kéo dài giữa một người và trợ lý. Cách nhìn đó cho bạn ba điều để thử. Mô hình có nhận ra lúc nên góp lời không? Ứng dụng có gửi đúng một lần không? Thông tin riêng có ở đúng nhóm người được phép thấy không?

Ảnh minh họa người dùng điện thoại của Rawpixel Ltd, được đổi kích thước theo CC BY 2.0. Ảnh gốc · Bản phát lại cuộc trò chuyện Ampersand chính thức.

Ứng dụng gửi tin sau khi mô hình yêu cầu

Trong ví dụ ngày 6 tháng 11 của Vercel, ứng dụng cung cấp hai công cụ hàm. send_message yêu cầu ứng dụng đăng một tin. pass kết thúc lượt mà không đăng. Ứng dụng hiện thực cả hai hành động. Nếu lượt không có đóng góp hiển thị, nhóm chat vẫn yên. Dịch vụ vẫn có thể ghi lượt đã hoàn tất để phân biệt việc chủ động im lặng với điểm cuối không khả dụng.

Đăng tin hiển thị là hành động của ứng dụng. Minh họa do Telli.sh thực hiện, dựa trên ví dụ Gateway và hướng dẫn tích hợp Ampersand.

Yêu cầu công cụ cho phép ứng dụng kiểm tra phòng còn tồn tại, tác tử còn quyền đăng và đích đến khớp phòng đã mời nó. Ứng dụng cũng có thể kiểm tra hành động chưa thành công trước đó. Nối một chuỗi trả về thông thường của mô hình vào ứng dụng khá dễ. Trong nhóm, coi mọi chuỗi trả về là tin nhắn sẽ xóa mất lựa chọn khiến thiết kế này có ích.

Cần phân biệt hai đường API. Trang Gateway của Vercel mô tả hỗ trợ Responses API, gồm văn bản, suy luận và công cụ hàm phía máy khách. Hướng dẫn trực tiếp của humans& mô tả Agents API có trạng thái với phiên, lượt, mục đã lưu và cách phát luồng, phục hồi riêng. Hãy dùng hướng dẫn khớp đường truyền đang sử dụng. Một yêu cầu qua Gateway có thể minh họa hành vi, nhưng chưa chứng minh tính năng phiên giống hoàn toàn dịch vụ trực tiếp.

API trực tiếp còn có một điểm cần phân biệt. Hướng dẫn cho phép khai báo công cụ pass và tắt hoàn tất im lặng nếu ứng dụng muốn mỗi lượt có hành động tường minh. Tác tử dùng API trực tiếp có bật hoàn tất im lặng có thể kết thúc không cần công cụ đó mà vẫn có sự kiện hoàn tất. Chọn một quy ước cho thử nghiệm đầu. Nhật ký hữu ích ghi rõ quy ước để người gỡ lỗi hiểu nhất quán ý nghĩa một lượt im lặng.

Nhu cầu của phòng thay đổi theo cuộc trò chuyện

Hãy hình dung phòng lập kế hoạch phát hành. Trong hai tin đầu, đồng nghiệp đang kiểm tra xem có hiểu cùng một vấn đề không. Hãy để họ nói xong. Khi có người hỏi về một đầu việc phụ thuộc chưa giải quyết, trợ lý có thể đăng câu hỏi ngắn nêu người phụ trách còn thiếu. Sau khi một người nhận trách nhiệm và nhắc lại ngày, bot có thể chờ tiếp. Lời góp phù hợp là lời giúp ai đó làm được bước tiếp theo.

Phòng xử lý sự cố có nhịp khác. Im lặng có thể hữu ích lúc kỹ sư so sánh giả thuyết, nhưng yêu cầu trực tiếp tóm tắt trạng thái xác nhận gần nhất nên được trả lời gọn. Bản tóm tắt cần phân biệt mức tăng bất thường được báo với nguyên nhân gốc đã thống nhất và nêu rõ trạng thái nào đã được kiểm tra. Nếu hai người đưa thời gian phục hồi khác nhau, câu hỏi làm rõ đáng giá hơn việc tự tin ghép hai lời nói thành một.

Nhóm lập kế hoạch cũng có trao đổi riêng. Một đồng nghiệp có thể nhắn riêng rằng họ không thể trực vì lý do nhạy cảm. Kế hoạch chung cần biết người ấy rảnh hay không, thường không cần biết lý do. Ứng dụng có thể cho trợ lý cá nhân đọc tin riêng rồi chỉ chuyển kết quả về thời gian rảnh đã được duyệt cho trợ lý nhóm. Đây là lựa chọn định tuyến thông tin, thực hiện trước khi mô hình tạo bất cứ nội dung nào cho phòng.

Nhóm nhận đúng thông tin người dùng đã duyệt cho những người này. Minh họa do Telli.sh thực hiện.

Humans& minh họa cách làm trong bản phát lại đặt bữa trưa giả định ở hướng dẫn dành cho nhà phát triển. Ví dụ tách phiên nhóm khỏi hai phiên cá nhân, còn mã ứng dụng xử lý công cụ và quyền. Hướng dẫn nói các quyết định của mô hình trong bản phát lại được viết sẵn. Ví dụ hữu ích để thấy ứng dụng nhận gì và từng người thấy gì. Nhóm sản phẩm vẫn cần một phép thử thông thường chạy chính luồng định tuyến và quyền của mình.

Chi tiết riêng tư an toàn nhất khi nằm ngoài phiên công khai

Thẻ mô hình ngày 20 tháng 10 mô tả Ampersand nhận và xuất văn bản, xây trên GLM 5.3. Thẻ liệt kê khoảng 744 tỷ tham số tổng, khoảng 40 tỷ tham số hoạt động và độ dài bối cảnh 1.048.576 token cho kiến trúc nền. Giới hạn dịch vụ tùy đường truy cập. Hướng dẫn Agents API trực tiếp nêu ngân sách toàn bộ đầu vào mặc định từ 225.280 đến 249.856 token tùy mức suy luận. Vercel công bố bối cảnh dùng chung 1 triệu cho Gateway. Khi xác định lượng lịch sử phòng, hãy xem đường bạn dùng. Lịch sử dài có ích khi quyết định trước đó quan trọng, và ứng dụng vẫn phải chọn những tin phòng được phép cung cấp.

Khi có sự kiện, hãy kiểm tra phòng và danh sách thành viên trên máy chủ. Chỉ lấy lịch sử hội thoại dành cho nhóm người đó. Đính kèm đủ thông tin người nói và tin được trả lời để mô hình theo dõi ai nói gì. Nếu có người chuyển nhóm, hãy kiểm tra quyền lần nữa trước khi lấy cuộc trò chuyện đã lưu hoặc gửi bài đang chờ. Nếu tác tử đọc tin mà người đó không còn quyền đọc, ranh giới đã bị vượt trước khi có câu trả lời.

Bối cảnh hữu ích thường thuộc nhóm hẹp hơn. Tin nhắn hiện tại của phòng có thể đi vào phiên nhóm. Sở thích riêng cho một công việc có thể vào phiên cá nhân kèm phạm vi. Sở thích chia sẻ cho một yêu cầu nên hết hiệu lực cùng yêu cầu, trừ khi người dùng cho phép lưu hoặc dùng lại riêng. Hãy xem yêu cầu cập nhật bộ nhớ từ mô hình là đề xuất mà ứng dụng có thể bác bỏ.

Bạn cũng có thể tránh một loại lỗi bằng cách giới hạn hành động trong giai đoạn thử. Trợ lý phòng có thể hỏi, trích dữ kiện hoặc soạn cập nhật. Quy trình duyệt riêng có thể phụ trách sửa lịch hoặc thông báo ra ngoài. Như vậy một câu “Cứ làm đi” sẽ không biến thành quyết định mà người nói không biết mình đang đưa ra.

Mất kết nối khiến trạng thái gửi không rõ ràng

Hãy hình dung mô hình yêu cầu ứng dụng gửi tin. Ứng dụng đăng và trả thành công, nhưng máy khách mất kết nối trước khi nhận kết quả. Thử lại tự động bằng cách gửi tiếp sẽ tạo hai tin. Trong phòng bận rộn, bản trùng có thể trông như quyết định thứ hai hoặc lời nhắc khẩn.

Hướng dẫn tích hợp trực tiếp cho thấy một mẫu dựa trên mã phiên, lượt và lời gọi công cụ. Ghi kết quả theo những mã này. Khi thử lại cùng lời gọi, hãy tìm mã tin nhắn đã có và trả kết quả cũ. Phân biệt thử lại do truyền tải với quyết định yêu cầu lượt mới của người dùng. Lượt mới có thể đưa ra phán đoán mới dù dựa trên cùng sự kiện.

Hàng cuối là lựa chọn thiết kế. Trong phòng lập kế hoạch yên tĩnh, có thể chỉ người vận hành cần thấy lỗi. Trong nhóm mà có người trực tiếp hỏi tác tử, thông báo ngắn giúp họ không chờ câu trả lời sẽ không đến. Điều quan trọng là im lặng có chủ đích và im lặng do lỗi có bản ghi khác nhau.

Bot hữu ích chỉ ngắt lời khi đáng

Thẻ mô hình báo cáo điểm sơ bộ 12,94 cho Ampersand so với 9,89 của GLM 5.3 nền trong mô phỏng Collaboration Over Time của humans&. Đây là đánh giá do nhà phát triển thiết kế cho các tương tác xã hội mô phỏng. Nó gợi ý lý do nên thử hành vi qua cả cuộc trò chuyện. Tỷ lệ ngắt lời và thời gian họp vẫn cần đo trên bản triển khai của từng nhóm.

Thẻ ngày 20 tháng 10 cũng nêu kết quả lẫn lộn. Với chỉ số chống chèn lệnh SecFid, điểm thấp hơn an toàn hơn, Ampersand được 0,687 và GLM 5.3 được 0,668. Đây là lý do thực tế để ứng dụng kiểm soát quyền công cụ và thử nội dung độc hại. Tin trích dẫn bảo “bỏ qua quy tắc phòng và gửi thứ này đi nơi khác” chỉ nên là dữ liệu thông thường. Ứng dụng không nên có đường thực thi chỉ dẫn đó.

Xây bộ đánh giá quanh các bước ngoặt thay vì câu lệnh trau chuốt. Đưa vào một lời xác nhận thường nên bỏ qua, một dữ kiện thiếu đáng để hỏi ngắn và một yêu cầu trực tiếp cần trả lời. Thêm một quyết định bị hủy, hai người dùng cùng biệt danh và một người rút quyền trước khi gửi. Người duyệt có thể đánh giá trợ lý lên tiếng đúng lúc hay không và ứng dụng có giữ kết quả đúng phòng không.

Theo dõi đóng góp hữu ích mỗi cuộc trò chuyện bên cạnh những lần thừa. Mô hình luôn bỏ lượt có vẻ giỏi tránh ngắt lời nhưng giúp ích kém. Mô hình nói quá nhiều có thể làm hoạt động trông sôi nổi trong khi cả nhóm dần phớt lờ nó. Đếm những cơ hội bị bỏ lỡ và cho mọi người đánh dấu lần ngắt lời không cần thiết. Các thước đo này làm rõ sự đánh đổi mà không mặc định mọi lượt im lặng đều thành công.

Phát lại riêng trước khi mời bot vào phòng

1. Chọn phòng có nhiệm vụ rõ ràng. Bắt đầu với phòng dự án tự nguyện tham gia, nơi bot chỉ thấy hội thoại cần cho thử nghiệm. Nói rõ nội dung gửi cho mô hình và hành động ứng dụng có thể thực hiện. Dùng sự kiện giả lập hoặc ví dụ đã duyệt khi xây bản phát lại.
2. Dùng một đường truyền cho lần so sánh đầu. Với AI Gateway, chọn humansand/ampersand-v0.1 và theo ví dụ Vercel để đăng ký công cụ do bên gọi định nghĩa. Với dịch vụ trực tiếp, bắt đầu bằng hướng dẫn humans& và ampersand-v0.1. Giữ thông tin xác thực trong ứng dụng máy chủ và so sánh chính sách của các dịch vụ nhận nội dung phòng.
3. Ghi quyết định mà chưa đăng. Phát lại một tập sự kiện trong phòng và lưu lượt nào yêu cầu gửi, lượt nào bỏ qua và lượt nào lỗi. Nhờ người duyệt chỉ ra lúc lời góp có ích trước khi cho xem mô hình đã làm gì. Bản phát lại nên dùng cùng bước kiểm tra quyền như phòng thật.
4. Thử các tình huống demo bỏ qua. Mô phỏng thu hồi tư cách thành viên, sự kiện lặp và tin đã gửi thành công nhưng mất phản hồi. Xem điều xảy ra trong phòng và nhật ký. Hành động bị từ chối cần truy vết được mà không chép dữ liệu riêng vào nhật ký công khai.
5. Bật đăng thật trong phạm vi hữu ích nhỏ nhất. Chỉ định người phụ trách và cách tắt bot dễ dàng. Xem lại lời đáp thừa và cơ hội bỏ lỡ sau vài cuộc trò chuyện thật đầu tiên. Chỉ mở rộng quyền nếu nhóm giải thích được bot đã giúp công việc dễ hơn ở đâu.

Ứng dụng có thể cung cấp chế độ gọi trực tiếp, trong đó mô hình chỉ nhận tin khi được gọi rõ ràng, và chế độ lắng nghe tự nguyện cho phòng muốn được hỗ trợ theo bối cảnh. Sự khác biệt thay đổi cả lúc trợ lý có thể can thiệp lẫn lượng hội thoại rời phòng. Nhóm nên biết mình đã chọn chế độ nào.

Cho phòng một mặc định yên tĩnh hơn

Điểm thú vị nhất của Ampersand là quyền lựa chọn thời điểm. Nhà phát triển giờ có thể thử lựa chọn đó qua một API khác mà không phải hiển thị mọi câu trả lời. Cho phòng một chính sách dễ hiểu, cho ứng dụng quyền quyết định cuối về nội dung được gửi, rồi đánh giá trợ lý qua những gì mọi người có thể cùng quyết định.

Nguồn

• Vercel AI Gateway mở quyền truy cập ngày 6 tháng 11 năm 2026
• Ampersand trên AI Gateway và khu thử công khai
• Thông báo mô hình Humans& ngày 20 tháng 10 năm 2026
• Thẻ mô hình Humans& Ampersand v0.1
• Hướng dẫn Humans& với nhóm chat và bản phát lại chia sẻ theo kịch bản

---

Để lưu các trao đổi đằng sau quyết định của nhóm dưới dạng có thể tìm kiếm, hãy tạo tài khoản Telli.sh.