Baseten joey-1 ถามว่าทุกการตัดสินใจ AI จำเป็นต้องใช้โมเดลใหญ่หรือไม่

“ทีมใดควรรับตั๋วนี้” แทบไม่ต้องการคำตอบห้าย่อหน้า แต่ต้องการปลายทางที่ถูกต้องหนึ่งจากไม่กี่แห่ง ความเชื่อมั่นพอจะเลือกอย่างรับผิดชอบ และทางขอความช่วยเหลือเมื่อคำขอไม่เข้ากลุ่ม

Baseten เปิดตัว joey-1 เมื่อ 29 ตุลาคม 2026 สำหรับงานแบบนี้ โมเดลจากกลุ่มวิจัย Base Labs อยู่ฝั่งเล็กของตระกูลโมเดลตัดสินใจ ร่วมกับ elephant-1 และ mammoth-1 จุดน่าสนใจคือสัญญาผลลัพธ์ที่แคบกว่า ได้แก่ การตัดสินใจและความน่าจะเป็น แทนคำอธิบายสร้างขึ้นที่แอปต้องตีความ ประกาศ Baseten นำเสนอการเปิดตัว

โอกาสเชิงปฏิบัติคือแบ่งงานต่างออกไป ให้โมเดลเล็กจัดการการตัดสินใจซ้ำที่นิยามดี แล้วจ่ายเพิ่มกับส่วนที่ยังไม่แน่ใจ บทความนี้อธิบายการคำนวณราคา แอปตัวอย่างสามแบบ และการตรวจที่ทำให้กลยุทธ์จัดเส้นทางมีประโยชน์

แบนเนอร์โมเดลการ์ด joey-1 ทางการของ Baseten ภาพ: Base Labs / Baseten จากคลังโมเดลที่ประกาศ MIT; ปรับขนาดพร้อมเพิ่มขอบ แหล่งภาพ · ใบอนุญาตและหมายเหตุภาพ

โมเดลตัดสินใจเริ่มจากตัวเลือกที่แอปยอมรับได้

โมเดลภาษาทั่วไปจัดหมวดคำขอโดยเขียน “ฝ่ายเรียกเก็บเงิน” คืน JSON หรืออธิบายว่าทำไมควรคืนเงินลูกค้าได้ แต่ละส่วนติดต่อมีที่ใช้ โมเดลตัดสินใจเฉพาะเน้นเลือกจากคำตอบที่ให้และรายงานความน่าจะเป็นแบบมีโครงสร้าง

นี่เปลี่ยนงานก่อนประมวลผล คุณต้องมีคำถามแม่นและตัวเลือกที่อธิบายการกระทำมีความหมาย “เราควรทำอะไร” เป็นสัญญาอ่อน “ระหว่างเรียกเก็บเงิน เทคนิค หรือทุจริต ทีมใดควรรับกรณีนี้” แคบกว่า แม้ยังต้องมีนโยบายเมื่อเหมาะหลายทีมหรือไม่เหมาะเลย

หน้าคลังโมเดล joey-1 ของ Baseten ที่ตรวจเมื่อ 2 พฤศจิกายน ระบุอินพุตข้อความและภาพ คำถามแบบเลือก การตัดสินใจใช่หรือไม่ และคะแนนเรียงลำดับผ่าน /v1/systemone ผลตั้งใจให้โปรแกรมใช้ ไม่แทนตัวสร้างคำอธิบายหรือคำตอบแยกเมื่อผู้ใช้ต้องการ

คิดว่าโมเดลเล็กเป็นโต๊ะคัดแยก คุณค่าคือส่งงานปกติไปถูกที่ และส่งกรณีแปลกให้ผู้มีอำนาจหรือบริบทมากกว่า โต๊ะที่ส่งกรณียากผิดอย่างมั่นใจสร้างงานซ่อนปลายทาง แม้แต่ละการประมวลผลถูก

เพราะเหตุนี้ แอปควรรักษาความไม่แน่นอน ระบบจัดเส้นทางบันทึกป้ายชั่วคราว ถามเพิ่ม หรือส่งให้คนได้ ไม่จำเป็นต้องเปลี่ยนทุกการแจกแจงเป็นการกระทำธุรกิจทันที

หนึ่งเซนต์ซื้ออินพุตโทเคน ไม่ใช่จำนวนการตัดสินใจคงที่

ตามการตรวจเมื่อ 2 พฤศจิกายน 2026 รายการราคาทางการ ระบุ 0.01 ดอลลาร์สหรัฐต่ออินพุต 1 ล้านโทเคน โดยอินพุตแคชและเอาต์พุตราคา 0.00 ดอลลาร์ “หนึ่งเซนต์” หมายถึงหน่วยโทเคนนั้น คำขอที่มีประวัติยาวใช้การประมวลผลอินพุตมากกว่าคำขอสั้นที่กำหนดขอบเขตดี

ต่อไปคือการคำนวณตัวอย่างที่อัตราเผยแพร่ ก่อนภาษี บริการอื่น หรือเงื่อนไขพาณิชย์ สมมติอินพุตไม่แคชและราคาคงที่ เป็นตัวอย่างวางแผน ไม่ใช่ประมาณใบแจ้งหนี้

สูตรง่ายคืออินพุตโทเคนรวมหารหนึ่งล้าน คูณ 0.01 ดอลลาร์ แต่การคำนวณปฏิบัติการใหญ่กว่า ต้องรวมการยกระดับ เตรียมข้อมูล ลองใหม่ เฝ้าระวัง และแก้ด้วยคน

สมมติการจัดเส้นทางสองแบบต่างกันไม่กี่ดอลลาร์ในการใช้โมเดล แบบแรกส่งตรวจน้อยกว่าแต่บางครั้งส่งเรื่องด่วนไปคิวช้า แบบที่สองยกระดับมากกว่าและเลี่ยงความผิดนั้น ตัวเลือกที่เหมาะขึ้นกับต้นทุนผิดและกำลังผู้ตรวจ ไม่ใช่เพียงบิลโทเคนถูกที่สุด

เหตุผลยิ่งหนักแน่นเมื่อประมวลผลถูกลง เมื่อค่าโมเดลเป็นส่วนเล็กของต้นทุนรวม การปรับการสอบเทียบหรือนิยามป้ายเล็กน้อยอาจสำคัญกว่าลดราคาโทเคนอีก การประมวลผลถูกเพิ่มงานอัตโนมัติที่เป็นไปได้ แต่ไม่ลบความจำเป็นต้องให้ค่าผลลัพธ์

แผนภาพจัดเส้นทางที่จัดทำขึ้น อิงแนวทางยกระดับใน ประกาศ Baseten 29 ตุลาคม เกณฑ์เป็นหน้าที่แอปที่ติดตั้ง

การจัดเส้นทางตั๋วเหมาะเริ่มเมื่อป้ายมีเจ้าของ

ในเวิร์กโฟลว์สนับสนุนตัวอย่าง joey-1 ส่งข้อความเข้าไปฝ่ายเรียกเก็บเงิน เทคนิค หรือความปลอดภัยบัญชี คำถามใช่หรือไม่แยกตรวจว่าลูกค้าขอเงินคืนหรือไม่ และคะแนนเรียงลำดับระบุความเร่งด่วน

คำถามเกี่ยวข้องกันแต่ไม่ควรรวมเป็นป้ายเดียว คำขอเรียกเก็บเงินอาจเร่งด่วนด้วย คำขอความปลอดภัยบัญชีอาจมีขอคืนเงิน การแยกช่วยนิยามสิ่งที่แต่ละทีมรับและชุดผสมที่ต้องดูแลพิเศษ

เริ่มเขียนป้ายกับเจ้าของคิว รวมกรณีที่เคยเห็นต่าง ตัดสินวิธีจัดข้อความที่พูดถึงชำระเงินล้มเหลวเพราะบั๊กซอฟต์แวร์ โมเดลแก้ความกำกวมขององค์กรที่องค์กรยังไม่กำหนดไม่ได้

ก่อนส่งงานอัตโนมัติ ให้เทียบข้อเสนอกับการตัดสินเดิม ตรวจความเห็นต่างตามหมวด เช่น นโยบายกำกวม บริบทขาด โมเดลผิดชัด หรือป้ายเก่าผิด เปอร์เซ็นต์ความแม่นยำรวมเดียวซ่อนปัญหาต่างกันเหล่านี้

ประกาศ Baseten วันที่ 29 ตุลาคมวาง joey-1 เป็นโมเดลด่านแรก พร้อมรุ่นใหญ่ร่วมตระกูลรับความไม่แน่นอน รายงาน เวลาแฝงตลอดเส้นทาง P50 ที่ 20 มิลลิวินาที สำหรับคำขอเฉลี่ย 2,000 โทเคน ภายใต้สภาพให้บริการจริงของบริษัท นี่คือผู้ขายวัดงานบริการเฉพาะ ไม่ใช่รับประกันเวลาแฝงแอปหรือฮาร์ดแวร์คุณ แหล่งข้อมูล: Baseten

ตัวจัดเอกสารควรรู้เมื่อไม่มีปลายทางที่เหมาะ

ตัวอย่างที่สองคือรับเอกสาร แอปรับไฟล์แล้วต้องตัดสินว่าจะเข้าเวิร์กโฟลว์ใบแจ้งหนี้ ตรวจค่าใช้จ่าย หรือคิวเอกสารทั่วไป อินพุตข้อความและภาพเสริมทำให้โมเดลเหมาะกับเอกสารผสมได้ หากรูปแบบข้อมูลที่ส่งมีรายละเอียดจำเป็นต่องาน

นิยามการตัดสินจริงให้แคบ ตรวจว่าหน้าดูเป็นใบแจ้งหนี้ต่างจากยืนยันว่าแท้ เพียงพอตามกฎหมาย หรือชำระได้ ตัวจำแนกช่วยเลือกเวิร์กโฟลว์โดยไม่ได้รับสิทธิอนุมัติจ่ายเงินได้

กรณีทดสอบมีค่าที่สุดอาจอยู่นอกหมวด เช่น ใบเสร็จแนบสัญญา ภาพเบลออ่านไม่ได้ หรือภาษาไม่รองรับ หากแอปให้ปลายทางถูกต้องแค่สามแห่ง ต้องมีกลไกอื่นสำหรับหลักฐานไม่ครบและเนื้อหาไม่คุ้น ทางตรวจชัดดูแลง่ายกว่าบังคับเดา

ติดตามการเปลี่ยนกลุ่มอินพุตด้วย โมเดลที่ตอนประเมินเห็นใบแจ้งหนี้ในประเทศสั้นเป็นหลัก ภายหลังอาจเจอรายการหลายหน้าและจดหมายสแกน การดูแต่ป้ายสุดท้ายอาจพลาดการเปลี่ยน บันทึกความยาวคำขอ ชนิดอินพุต ความไม่แน่ใจ และผลตรวจในระดับความเป็นส่วนตัวที่เหมาะ

โมเดลการ์ด ที่ตรวจเมื่อ 2 พฤศจิกายน อธิบาย joey-1 เป็นโมเดล พารามิเตอร์ 2B ที่ฝึกต่อจาก Qwen3.5-2B และระบุ ใบอนุญาต MIT ข้อมูลนี้รองรับทางเลือกติดตั้งจากน้ำหนักเปิด แต่ไม่พิสูจน์หน่วยความจำสากล สมรรถนะ CPU หรือสิทธิใช้ทุกภาพจากประกาศซ้ำ

การตรวจภาพมีค่าเมื่อเงื่อนไขสังเกตได้

กรณีที่สาม สมมติตรวจภาพผลิตภัณฑ์ที่ส่งมาก่อนเข้าคิวแค็ตตาล็อกด้วยคน คำถามมีประโยชน์อาจถามว่าเห็นฉลากหรือไม่ มีวัตถุที่ต้องการหรือไม่ หรือถูกบังเกินตัดสินหรือไม่ แต่ละคำถามควรระบุสิ่งสังเกตได้จากภาพที่ให้

เกณฑ์ไม่ดีผสมสิ่งเห็นกับข้อเท็จจริงซ่อน “ผู้ขายนี้น่าเชื่อถือหรือไม่” ตอบจากภาพผลิตภัณฑ์อย่างเดียวไม่ได้ “เห็นบริเวณหมายเลขเครื่องที่ขอหรือไม่” แคบกว่า และให้เหตุผลรูปธรรมแก่งานถัดไปเพื่อขอภาพใหม่

คะแนนเรียงลำดับมีประโยชน์เมื่อผู้ตรวจมีเกณฑ์ร่วมอยู่แล้ว เช่น ใช้ไม่ได้ ต้องตรวจ และใช้ได้ เขียนเกณฑ์ด้วยถ้อยคำที่คนใช้สม่ำเสมอ หากระดับติดกันแม้คนยังแยกไม่ออก การแจกแจงความน่าจะเป็นไม่แก้หมวดให้

ใช้โมเดลจัดลำดับตรวจ ก่อนให้ปฏิเสธอัตโนมัติ การปฏิเสธกระทบลูกค้าโดยตรง และต้นทุนปฏิเสธผิดอาจเกินการประหยัด ขั้นตรวจยังให้ตัวอย่างปรับเกณฑ์และตรวจสมรรถนะข้ามสภาพอินพุต

ทั้งหมดเป็นแบบออกแบบตัวอย่าง ไม่ใช่รายงานการติดตั้ง joey-1 จุดร่วมคือคำถามมีขอบเขตตามด้วยขั้นถัดไปที่ย้อนกลับได้ เป็นจุดสมเหตุสมผลเพื่อเรียนรู้โมเดลบนข้อมูลคุณ

ความน่าจะเป็นต้องมีนโยบายก่อนเป็นการกระทำ

ค่าความเชื่อมั่นไม่ใช่ธงอนุญาต หากแอปเลือกลงมือเหนือ 0.90 เกณฑ์นั้นเป็นการออกแบบที่ต้องวัดผล คะแนนสูงยังผิดได้ โดยเฉพาะคำขอต่างจากข้อมูลที่ใช้ตั้งเกณฑ์

ข้อผิดพลาดต่างกันควรใช้นโยบายต่างกัน ส่งคำถามทั่วไปผิดทีมไม่สะดวก แต่ถือรายงานบัญชีถูกยึดเป็นเรื่องประจำอาจแพงกว่ามาก เกณฑ์ความน่าจะเป็นเดียวไม่ควรควบคุมทั้งสองงานโดยอัตโนมัติ

กรอบประเมินที่จัดทำขึ้น ความครอบคลุม ต้นทุนกระทำผิด และคุณภาพยกระดับเป็นตัวชี้วัดแอป แผนภาพไม่มีผล joey-1 ที่วัดจริง

สร้างชุดกันไว้ที่มีกรณีปกติ ยาก และนอกขอบเขตที่เป็นตัวแทน สำหรับทุกเกณฑ์เสนอ ให้ตรวจสัดส่วนจัดการอัตโนมัติและข้อผิดในสัดส่วนนั้น แล้วดูส่วนที่เหลือ โมเดลที่เลี่ยงผิดด้วยส่งเกือบทั้งหมดให้ตรวจอาจไม่เปลี่ยนเวิร์กโฟลว์

เทียบสายงานทั้งหมดกับใช้โมเดลใหญ่ตัวเดียว แบบเล็กก่อนเพิ่มขั้นจัดเส้นทางที่มีความล้มเหลวและเวลาแฝงเอง จะคุ้มเมื่อคำขอมากพอได้รับการจัดการเหมาะที่ขั้นแรก และเส้นยกระดับช่วยส่วนยากที่เหลือ

เริ่มด้วย API โฮสต์ หรือวางงบโฮสต์เองอย่างชัดเจน

Baseten ให้ Model APIs แบบโฮสต์ การติดตั้งเฉพาะ และน้ำหนักดาวน์โหลด ควรตรวจบริบทและเงื่อนไขให้บริการแยกกัน บทความเปิดตัวระบุบริบท 16k สำหรับ Model APIs และตัวเลือกเฉพาะ 262k ส่วนโมเดลการ์ดระบุ ความยาวลำดับฝึก 16,384 โทเคน และปฏิเสธคำขอเกินขีดฝึก ไม่มีค่าสูงสุดเดียวที่ควรคัดไปใช้ทุกทาง บทความเปิดตัว, โมเดลการ์ด

1. เลือกสัญญาการตัดสินใจเดียว ระบุตัวเลือกถูกต้อง ความหมายแต่ละอย่าง และสิ่งที่แอปทำเมื่อหลักฐานไม่พอ
2. เลือกทางติดตั้ง สำหรับนำร่องโฮสต์ เปิดหน้า API โมเดลและสร้างข้อมูลรับรองในหน้าบัญชีผู้ให้บริการ สำหรับรันเอง ทำตามข้อกำหนดรันไทม์ที่ตรึงรุ่นในโมเดลการ์ด
3. ส่งคำขอขั้นต่ำ ตัวอย่าง API ทางการใช้ https://inference.baseten.co/v1/systemone พร้อม state, questions ที่มีชนิดข้อมูล และชื่อโมเดล decision-models/baseten-joey-2b-latest
4. ตรวจคำตอบมีโครงสร้าง ปฏิเสธผลผิดรูปหรือไม่พร้อม เก็บความน่าจะเป็นที่ต้องใช้ประเมิน และคงนโยบายจัดเส้นทางในแอป
5. ประเมินแบบเฝ้าดู เทียบข้อเสนอกับผลที่ตรวจแล้วก่อนเปิดการกระทำอัตโนมัติ
6. เพิ่มและวัดการยกระดับ ส่งกรณีไม่แน่ใจหรือมีผลกระทบไปโมเดลใหญ่หรือคน แล้วตรวจผลทั้งเส้นทาง

โมเดลการ์ด ระบุการโฮสต์เองต้องใช้ CUDA GPU และสภาพแวดล้อมให้บริการที่ตรึงรุ่น “2B” อธิบายขนาดโมเดล ไม่ใช่คำมั่นว่าแล็ปท็อปใดมีหน่วยความจำพอ รวมภาระรันไทม์ ประมวลผลภาพ งานพร้อมกัน และบริบทเมื่อกำหนดขนาดระบบ

การนำร่อง API ตอบความเหมาะผลิตภัณฑ์ก่อนลงทุนโครงสร้างนั้นได้ การโฮสต์เองเป็นการตัดสินแยกเรื่องควบคุม อัตราใช้ งานปฏิบัติการ และต้นทุนรวม น้ำหนักเปิดให้ตัวเลือกนี้ แต่ไม่ได้ทำให้คุ้มอัตโนมัติ

ชุดเล่นซ้ำปกป้องเวิร์กโฟลว์เมื่อโมเดลหรือพรอมป์ต์เปลี่ยน

เมื่อการนำร่องแรกใช้ได้ ให้เก็บชุดคำขอที่ตรวจแล้วแบบมีเวอร์ชัน รวมกรณีธรรมดา ข้อผิดแพง และตัวอย่างที่ควรขอช่วย เก็บคำถามกับคำอธิบายตัวเลือกข้างผลคาด โดยใช้ข้อมูลที่คุณมีสิทธิเก็บ

เมื่อเปลี่ยนพรอมป์ต์ เกณฑ์ หรือค่าบริการ เล่นชุดนั้นซ้ำก่อนขยายทราฟฟิก การดีขึ้นหมวดหนึ่งอาจซ่อนถดถอยอีกหมวด เช่น จัดเส้นทางเด็ดขาดขึ้นลดคิวตรวจ แต่เพิ่มผิดในข้อความสั้นกำกวม ค่าเฉลี่ยรวมอย่างเดียวอธิบายข้อแลกเปลี่ยนไม่ได้

บันทึกชื่อโมเดลจริงและเส้นให้บริการทุกการประเมิน หากตามชื่อ latest ที่เคลื่อนไหว ให้กำหนดวิธีสังเกตพฤติกรรมเปลี่ยนและทบทวนการยอมรับ สคีมาแอปคงที่ไม่รับประกันการตัดสินเหมือนเดิมตลอด

ทดสอบบริการล้มเหลวด้วย หมดเวลา โมเดลไม่พร้อม หรือคำตอบผิดควรเข้าสู่ทางกู้ที่นิยาม แทนแอบเลือกทีมเริ่มต้น ค่าเริ่มต้นเองเป็นการตัดสินธุรกิจและอาจไม่เหมาะคำขอละเอียดอ่อน ระบบโมเดลเล็กเชื่อถือได้จัดการคำตอบที่ไม่มีอย่างตั้งใจพอกับคำตอบมั่นใจ วินัยนี้สำคัญแม้คำขอปกติราคาน้อยกว่าเซนต์มาก

โมเดลเล็กทำให้เห็นคุณภาพของเส้นแบ่งการตัดสินใจชัดขึ้น

มุมมองของเรา: joey-1 น่าสนใจที่สุดเมื่อแอปนิยามตัวเลือกชัดแล้ว การตัดสินใจถูกและเร็วเคลื่อนงานมากได้ แต่หมวดที่ไม่ดีเพียงเคลื่อนความผิดเร็วขึ้น

คำถามมีค่าคือระบบจัดการงานถูกต้องในขอบเขตที่รู้ได้เท่าไร และจัดส่วนเหลือดีแค่ไหน โมเดลเล็กมีที่ยืนเมื่อทางยกระดับเป็นส่วนผลิตภัณฑ์ แทนเชิงอรรถหลังราคา

แหล่งข้อมูล

• Baseten: การตัดสินใจราคาเซนต์ แนะนำ joey-1, 29 ตุลาคม 2026
• คลังโมเดล Baseten joey-1 และตัวอย่าง API, ตรวจเมื่อ 2 พฤศจิกายน 2026
• โมเดลการ์ด Base Labs joey-1, ตรวจเมื่อ 2 พฤศจิกายน 2026 ผลเบนช์มาร์กเป็นรายงานผู้เผยแพร่ รายการ Artificial Analysis ระบุว่าเป็นการจำลองภายใน

เชื่อมการตรวจทานกับแหล่งต้นทาง

Telli.sh เป็นทางเลือกหนึ่งสำหรับเก็บข้อมูลต้นทางที่ได้รับอนุญาตและบันทึกเบื้องหลังการตัดสินใจเทคนิค สร้างพื้นที่บันทึก