Granite Switch 4.1: biến lời nói tiếng Anh thành quyết định tiếp theo hữu ích

Một yêu cầu nói thường cần ba loại xử lý khác nhau: nghe từ ngữ, giải thích ý nghĩa và quyết định việc nên làm tiếp theo. Granite Switch 4.1 đặt các khả năng đó sau một endpoint duy nhất, thay vì yêu cầu bạn ghép ba máy chủ mô hình độc lập.

Thông báo ngày 15 tháng 10 năm 2026 của IBM giới thiệu các bản phát hành 8B và 30B được cấu hình sẵn, gồm trò chuyện, adapter ra quyết định tổng quát, bộ sàng lọc an toàn Guardian và nhận dạng tiếng nói. Điểm hấp dẫn trong thực tế là con đường ngắn hơn từ ghi chú thoại tiếng Anh đến một hành động có thể rà soát. Bài ra mắt của IBM, ngày 15 tháng 10 năm 2026.

Bài hướng dẫn bắt đầu bằng bài tập nhỏ trên trình duyệt, sau đó trình bày cách thiết lập cục bộ và ba quy trình thực tế. Bạn cũng sẽ thấy những ranh giới quan trọng: âm thanh tiếng Anh không đồng nghĩa với âm thanh đa ngôn ngữ, điểm quyết định không phải bằng chứng, và trọng số mô hình không phải toàn bộ ngân sách bộ nhớ GPU.

Ảnh đầu trang: sơ đồ biên tập nguyên bản minh họa âm thanh tiếng Anh được chuyển thành bản chép lời, rồi tách thành phản hồi trò chuyện, các lựa chọn quyết định và bước sàng lọc an toàn. Hành động cuối cùng đi qua bước con người rà soát; đây không phải ảnh chụp màn hình chính thức hay tuyên bố hiệu năng.

Có kết quả hữu ích đầu tiên trước khi cài đặt bất cứ thứ gì

Bắt đầu tại bản demo Speech to Decisions chính thức. IBM dẫn liên kết này từ thông báo ngày 15 tháng 10; tài liệu riêng của bản demo mô tả đầu vào micro trực tiếp, mô tả chủ đề ngắn, kiểm tra an toàn và phán đoán có/không. Tài liệu demo chính thức, kiểm tra ngày 18 tháng 10 năm 2026.

1. Mở bản demo và chỉ dùng nội dung hư cấu, không nhạy cảm. Đây là dịch vụ lưu trữ, không phải xử lý cục bộ.

2. Nếu ứng dụng khả dụng, cho phép truy cập micro và nói nội dung sau bằng tiếng Anh, ngôn ngữ ASR được hỗ trợ:

   Văn bản thuần

   The replacement keyboard arrived damaged. Please send a new one.
   I can share a photo tomorrow.
   

3. Dừng ghi âm và so sánh bản chép lời hiển thị với điều bạn đã nói. Kiểm tra riêng phần mô tả chủ đề và các cờ phán đoán có sẵn.

4. Xác nhận yêu cầu, món đồ bị hỏng và lời hứa theo dõi sau đó đều được giữ lại. Đừng coi nhãn chủ đề nghe hợp lý là thành công nếu bản chép lời làm mất từ phủ định hoặc đổi tên món đồ.

Đây là mốc kiểm tra ban đầu hữu ích: một đầu vào dễ hiểu và các kết quả bạn có thể kiểm tra. Nó không đảm bảo câu chữ chính xác tuyệt đối, độ trễ hay bản demo luôn sẵn sàng. Nếu Space không khả dụng hoặc tổ chức của bạn cấm tải âm thanh ra ngoài, hãy chuyển sang cách chạy cục bộ bên dưới thay vì gửi tài liệu riêng tư sang nơi khác.

Switch thực sự chuyển đổi điều gì?

Mô hình ngôn ngữ nền xử lý trò chuyện thông thường. Adapter là tập điều chỉnh đã huấn luyện nhỏ hơn, chuyên biệt hóa mô hình cho một tác vụ. Adapter decision chọn giữa các phương án được gắn nhãn; guardian-core sàng lọc văn bản để phát hiện một số rủi ro an toàn. Ứng dụng của bạn chọn adapter qua chat template thay vì nạp toàn bộ mô hình ngôn ngữ thứ hai. Kho Granite Switch, kiểm tra ngày 18 tháng 10 năm 2026.

Tiếng nói đi theo một đường khác. Nhận dạng tiếng nói tự động (ASR) chuyển dạng sóng thành văn bản trước khi mô hình ngôn ngữ đọc. Bộ nhận dạng đi kèm là mô hình Granite Speech TurboCTC tiếng Anh 470M tham số của IBM, kiểm tra ngày 18 tháng 10 năm 2026. Hãy xem bản chép lời như biên nhận bàn giao: mọi bước phía sau phụ thuộc vào những từ được ghi lại ở đó. Giữ nó cùng bản tóm tắt đã biên tập để người đọc có thể lần từ một quyết định đáng ngờ trở về đầu vào.

Thẻ mô hình 8B, phát hành ngày 14 tháng 10 năm 2026 phân biệt các bản có âm thanh với nhóm bản xem trước không có âm thanh. Thẻ 30B và thẻ xem trước 3B, được kiểm tra ngày 18 tháng 10, mô tả cấu hình tương ứng. Bản xem trước nhỏ hơn không phải phương án thay thế có thể dùng ngay cho giọng nói.

Thẻ 8B liệt kê 12 ngôn ngữ trò chuyện: tiếng Anh, Đức, Tây Ban Nha, Pháp, Nhật, Bồ Đào Nha, Ả Rập, Séc, Ý, Hàn, Hà Lan và Trung. Danh sách này không mở rộng bộ nhận dạng tiếng nói mặc định ra ngoài tiếng Anh.

Chọn hệ điều hành trước khi sao chép lệnh

Với cấu hình CUDA/vLLM ở đây, hãy chọn Linux cùng GPU NVIDIA và trình điều khiển tương thích. Trên Windows, dùng môi trường WSL được cấu hình đúng và có quyền truy cập GPU; các lệnh Bash này không phải lệnh PowerShell gốc. Trên macOS, hãy bắt đầu với bài trải nghiệm lưu trữ hoặc máy chủ Linux có GPU, thay vì cho rằng công thức CUDA này áp dụng được cho Apple Silicon. Hướng dẫn cài GPU của vLLM, kiểm tra ngày 18 tháng 10 năm 2026.

vLLM-Metal và các runtime khác có lộ trình tương thích riêng. Runtime hỗ trợ hệ điều hành của bạn không chứng minh chính checkpoint Switch này, các adapter và toàn bộ chuỗi xử lý tiếng nói hoạt động được ở đó. Hãy yêu cầu một ví dụ khớp trước khi chọn con đường ấy.

Bắt đầu cục bộ bằng trò chuyện, rồi thêm âm thanh và quyết định

Tạo thư mục làm việc mới trong terminal Linux hoặc Bash của WSL. Trước tiên cài Git và Python 3.12, rồi xác nhận nvidia-smi nhận diện được GPU. Snapshot kho mã được dùng ở đây yêu cầu Python >=3.11,<3.14, PyTorch >=2.11.0, Transformers >=5.16,<=5.17.0 và vLLM >=0.26.0,<0.31.0. Khai báo gói tại revision 7e72456, kiểm tra ngày 18 tháng 10 năm 2026.

1. Cài gói Switch và các phụ thuộc âm thanh cùng lúc. Cách này cố định công thức theo mã nguồn thay vì phụ thuộc một wheel đã phát hành cũ hơn.

git clone https://github.com/generative-computing/granite-switch.git
cd granite-switch
git checkout 7e724560f9a9449bba2f08e16e8678c4dd6a06e7
python3.12 -m venv .venv
source .venv/bin/activate
python -m pip install --upgrade pip
python -m pip install -e '.[vllm,audio]' openai
python -m pip check

Các extras dành cho từng tác vụ: [hf] thêm hỗ trợ suy luận Hugging Face, [compose] thêm công cụ kết hợp và [audio] cài các phụ thuộc giải mã âm thanh của vLLM. Chỉ cài vllm sẽ không cài plugin Switch. Giữ tổ hợp PyTorch/CUDA đã giải quyết tương thích với trình điều khiển; đừng sửa lỗi resolver bằng cách bỏ kiểm tra phụ thuộc. Lần dùng đầu sẽ tải trọng số mô hình, vì vậy hãy dành thời gian và dung lượng đĩa để chuẩn bị checkpoint trước khi bắt đầu ghi âm.

2. Khởi chạy một máy chủ chỉ lắng nghe trên loopback. Các giới hạn ngữ cảnh và đồng thời dưới đây là cài đặt khởi đầu thận trọng, không phải cam kết vừa với phần cứng.

VLLM_PLUGINS=register_granite_switch \
python -m vllm.entrypoints.openai.api_server \
  --model ibm-granite/granite-switch-4.1-8b \
  --host 127.0.0.1 --port 8000 \
  --max-model-len 4096 --max-num-seqs 1 \
  --gpu-memory-utilization 0.80 --enable-prefix-caching

Gói đăng ký register_granite_switch trong vllm.general_plugins. vLLM tìm các entry point đã cài; biến môi trường chọn rõ plugin này. Công thức không cần script đăng ký sao chép hay cách lách --trust-remote-code. Mã nguồn đăng ký Switch và hệ thống plugin vLLM, kiểm tra ngày 18 tháng 10 năm 2026.

3. Kiểm tra phản hồi trò chuyện thông thường. Trong terminal Bash thứ hai, đợi máy chủ sẵn sàng rồi chạy:

curl --fail http://127.0.0.1:8000/v1/chat/completions \
  -H 'Content-Type: application/json' \
  -d '{"model":"ibm-granite/granite-switch-4.1-8b","messages":[{"role":"user","content":"Rewrite this request clearly without adding facts: The replacement keyboard arrived damaged. Please send a new one."}],"max_tokens":120,"temperature":0}'

Đọc thông điệp của assistant bên trong phản hồi JSON. Thành công nghĩa là giữ nguyên yêu cầu mà không bịa mã đơn hàng, hạn chót hay việc phê duyệt hoàn tiền. Chỉ có phản hồi HTTP không đủ chứng minh câu trả lời hữu ích.

4. Gửi một tệp WAV tiếng Anh ngắn. Đặt bản ghi đã được cho phép, không nhạy cảm tên request.wav trong thư mục kho mã. Kích hoạt cùng môi trường ảo trong terminal thứ hai, lưu đoạn sau thành try_audio.py, rồi chạy python try_audio.py.

import base64
from pathlib import Path
from openai import OpenAI

audio_bytes = Path("request.wav").read_bytes()
message_parts = [
    {"type": "text", "text": "List the requests in this recording. Do not add facts."},
    {"type": "input_audio", "input_audio": {
        "format": "wav",
        "data": base64.b64encode(audio_bytes).decode("ascii"),
    }},
]
local = OpenAI(api_key="unused", base_url="http://127.0.0.1:8000/v1")
reply = local.chat.completions.create(
    model="ibm-granite/granite-switch-4.1-8b",
    messages=[{"role": "user", "content": message_parts}],
    max_tokens=160,
    temperature=0,
)
print(reply.choices[0].message.content)

Đây là phản hồi của mô hình ngôn ngữ dựa trên bản chép lời được chèn nội bộ, không phải bản xuất ASR nguyên trạng. Hướng dẫn âm thanh mô tả chuỗi xử lý và định dạng đầu vào; nếu cần kiểm tra độc lập cả hai giai đoạn, hãy dùng ứng dụng có hiển thị bản chép lời. Tài liệu âm thanh, kiểm tra ngày 18 tháng 10 năm 2026.

5. Thử một quyết định có giới hạn bằng văn bản đã rà soát. Giữ máy chủ chạy rồi gửi:

curl --fail http://127.0.0.1:8000/v1/chat/completions \
  -H 'Content-Type: application/json' \
  -d '{"model":"ibm-granite/granite-switch-4.1-8b","messages":[{"role":"user","content":"State:\nThe replacement keyboard arrived damaged. Please send a new one."},{"role":"user","content":"### DECISION\nQuestion:\nWhich queue should review this request?\n\nOptions:\nA: Damaged-item replacements\nB: Account access\nC: Human triage because neither category fits\n\nReply with exactly one option label."}],"chat_template_kwargs":{"adapter_name":"decision"},"max_tokens":1,"temperature":0}'

Ví dụ này thử chọn adapter và yêu cầu một nhãn, không phải báo cáo xác suất. Muốn có xác suất, hãy làm theo ví dụ quyết định trong thẻ mô hình, kiểm tra ngày 18 tháng 10 năm 2026: xác minh nhãn là token đơn, yêu cầu logprob_token_ids rồi chuẩn hóa trên các nhãn ứng viên. Tài liệu đầu ra của adapter quyết định, kiểm tra ngày 18 tháng 10 giải thích softmax cấp phương án. Đừng thay thế bằng câu do chat tạo ra như “Tôi chắc chắn 95%”.

Xây dựng ba quy trình có thể rà soát, không chỉ tự động hóa

Đây là các trường hợp sử dụng minh họa, không phải kết quả thử nghiệm được báo cáo. Hãy bắt đầu bằng đầu ra giúp con người rà soát công việc; chỉ thêm hành động có hệ quả sau khi đánh giá các trường hợp đại diện.

Chuyển tiếp tin nhắn thoại của khách hàng. Dùng ASR để ghi nhận yêu cầu, chat để soạn tóm tắt trung lập và câu hỏi quyết định để chọn giữa thay hàng, hỗ trợ tài khoản và chuyển người xử lý. Giữ liên kết âm thanh gốc với bản chép lời đã rà soát. Yêu cầu “đừng hủy đơn hàng của tôi” nên là ca kiểm thử có chủ đích, không phải điều nghĩ đến sau khi đã xây dựng tự động hóa hủy đơn.

Tiêu chí nghiệm thu cụ thể: hàng đợi được chọn có phù hợp với lời nói thực tế không, và nhân viên hỗ trợ có thể sửa trước khi bất kỳ nội dung nào được gửi đi không? Cờ an toàn có thể yêu cầu rà soát bổ sung, nhưng không nên âm thầm loại bỏ lời phàn nàn của khách hàng đang bức xúc.

Chuyển cập nhật dự án thành nhiệm vụ nháp. Trong bản ghi tiếng Anh, một đồng nghiệp nói: “I can review the draft Friday, but I cannot approve the budget.” Hãy yêu cầu chat tách cam kết khỏi điều loại trừ, rồi hỏi adapter quyết định liệu việc phê duyệt ngân sách có hiện diện, vắng mặt hay chưa rõ. Giữ lựa chọn “chưa rõ” khi bản ghi hoặc ngữ cảnh không đủ. Một người kiểm tra ngày và trách nhiệm trước khi nhiệm vụ được đưa vào trình theo dõi dùng chung.

Chuẩn bị danh sách câu hỏi theo dõi phỏng vấn. Với sự cho phép của người nói, chép một đoạn phỏng vấn tiếng Anh ngắn và soạn câu hỏi về chi tiết còn thiếu. Dùng quyết định có giới hạn như “Đoạn này có nêu rõ ngày giao hàng không?” thay vì “Người này có đáng tin không?”. Giữ đoạn trích làm căn cứ cho từng cờ. Nhờ vậy có thể giải quyết bất đồng mà không xem cách diễn giải của mô hình là phán xét về người nói.

Sơ đồ quy trình nguyên bản: giữ lại âm thanh và bản chép lời, tạo các đầu ra phái sinh riêng rồi rà soát trước khi hành động. Sơ đồ minh họa các ứng dụng phía trên, không phải giao diện chính thức; chuỗi xử lý nền được mô tả trong hướng dẫn âm thanh, kiểm tra ngày 18 tháng 10 năm 2026.

Vì sao nhiều khả năng có thể dùng chung ngữ cảnh?

Bộ nhớ đệm khóa/giá trị lưu thông tin attention đã tính từ các token trước. LoRA được kích hoạt (aLoRA) cho phép chuyên gia kích hoạt sau ngữ cảnh dùng chung thay vì phải xử lý lại toàn bộ tiền tố theo cách thông thường dành riêng cho adapter. IBM giới thiệu phương pháp nền trong phần giải thích nghiên cứu ngày 17 tháng 4 năm 2025. Nghiên cứu aLoRA của IBM.

Switch dùng trạng thái cache của mô hình nền đã chuẩn hóa để các chuyên gia không dùng lẫn trạng thái đã điều chỉnh riêng của nhau. Ở cấp ứng dụng, hãy giữ nguyên tiền tố bằng chứng và nối thêm câu hỏi riêng cho tác vụ. Viết lại bản chép lời khác nhau cho từng lần kiểm tra sẽ làm giảm khả năng tái sử dụng tiền tố. Tài liệu cơ chế Switch, kiểm tra ngày 18 tháng 10 năm 2026.

Cache dùng chung là cơ chế tăng hiệu suất, không phải suy luận miễn phí. Cache tiền tố tiết kiệm việc xử lý lại câu lệnh; nó không loại bỏ việc tạo phản hồi hay nhận dạng âm thanh. Tài liệu cache tiền tố của vLLM, kiểm tra ngày 18 tháng 10 năm 2026. Nhận định của chúng tôi: hãy so sánh toàn bộ quy trình đã rà soát, không chỉ tốc độ nổi bật riêng lẻ.

Lập ngân sách cho toàn bộ khối lượng công việc, không chỉ trọng số 8B

Theo phép tính lập kế hoạch, 8 tỷ tham số nhân hai byte mỗi tham số chiếm khoảng 16GB, tức 14,9GiB; 30 tỷ chiếm khoảng 60GB, tức 55,9GiB. Đây là ví dụ số học về trọng số nền, không phải kích thước checkpoint hay thông số VRAM tối thiểu. Chúng chưa tính adapter, bộ mã hóa tiếng nói, cache, bộ đệm tạm thời và chi phí runtime.

Ngữ cảnh dài hơn và nhiều chuỗi chạy đồng thời làm tăng áp lực bộ nhớ. Giới hạn ngữ cảnh được quảng bá cho mô hình không phải mức nên dành sẵn cho lần thử đầu. Tài liệu vLLM nêu giảm max_model_len và max_num_seqs là cách kiểm soát bộ nhớ. Hướng dẫn bộ nhớ vLLM, kiểm tra ngày 18 tháng 10 năm 2026.

Danh sách kiểm tra bộ nhớ nguyên bản, không biểu thị tỷ lệ phân bổ: trọng số nền + adapter + trọng số và activation ASR + KV cache + phần dự phòng runtime/màn hình. Hướng dẫn âm thanh cảnh báo việc cấp phát cache trước có thể khiến ASR không còn đủ chỗ; kiểm tra ngày 18 tháng 10 năm 2026.

Hãy thử riêng một đoạn chat ngắn, một đoạn âm thanh ngắn và đầu vào bình thường dài nhất của bạn. Ghi nhận mức bộ nhớ đỉnh, thời gian hoàn thành và lỗi. Giảm cấp phát cache có thể chừa thêm chỗ cho tiếng nói, nhưng không thể làm trọng số quá khổ vừa vào bộ nhớ. Phương án lượng tử hóa cần được kiểm tra tương thích riêng với adapter Switch và âm thanh, chứ không chỉ dựa vào việc tải xuống nhỏ hơn.

Gắn chi phí và quyền riêng tư với lựa chọn triển khai

Giấy phép mô hình Apache-2.0 không khiến việc vận hành miễn phí. Dùng cục bộ tiêu tốn phần cứng, điện, lưu trữ và thời gian bảo trì; endpoint lưu trữ phát sinh hóa đơn nhà cung cấp và điều khoản xử lý dữ liệu. Đừng giả định có mức giá theo phút chung cho Granite Switch. Trong thử nghiệm ban đầu, chia tổng chi phí tính toán và rà soát cho số mục hoàn thành thành công, tính cả yêu cầu thất bại và lần sửa.

Một ngân sách giả định đơn giản giúp hình dung: 10 giờ ở mức 1 USD mỗi giờ là 10 USD tiền tính toán, chưa kể lưu trữ, truyền dữ liệu và rà soát của con người. Đây là số liệu minh họa, không phải giá dịch vụ được báo. Số giờ endpoint chạy không tải cũng đáng kể.

Với công việc nhạy cảm, hãy xác định nơi lưu âm thanh, bản chép lời, cache, log và bản sao lưu trước khi ghi âm. Gắn với loopback hạn chế truy cập mạng nhưng không thiết lập quy tắc lưu giữ hay tắt mọi telemetry của thư viện. Không để máy chủ trên giao diện mạng công khai, rà soát phụ thuộc và log, xin phép người nói và xác định riêng thời hạn xóa âm thanh nguồn cùng các bản ghi phái sinh. Bản demo lưu trữ hữu ích để học, không phải nơi mặc định để gửi cuộc họp mật.

Sửa đúng giai đoạn bị lỗi trước khi thay toàn bộ hệ thống

Chưa rõ kiến trúc. Kiểm tra môi trường ảo có granite-switch, vLLM có dùng đúng môi trường đó và VLLM_PLUGINS có chứa register_granite_switch không. Đọc lỗi nhập plugin đầu tiên trước khi thay gói.

Chat chạy được nhưng âm thanh lỗi. Xác nhận ID bản phát hành có âm thanh, các phụ thuộc [audio] và tệp WAV thật chứ không phải tệp khác được đổi tên. Kiểm tra phiên bản Transformers và bộ nhớ khả dụng. Cài thư viện giải mã không thể biến bản xem trước chỉ có văn bản thành checkpoint âm thanh.

Tên riêng hoặc dấu câu sai. Bộ nhận dạng CTC tiếng Anh mặc định tạo văn bản chữ thường, không dấu câu và không có điều khiển ngôn ngữ lúc giải mã. Giữ văn bản thô đó; việc khôi phục dấu câu là chỉnh sửa phái sinh. Chuỗi xử lý có thể truyền lỗi chép lời sang các quyết định phía sau. Giới hạn âm thanh, kiểm tra ngày 18 tháng 10 năm 2026.

Đoạn âm thanh dài vượt ngữ cảnh. Rút ngắn đầu vào hoặc chia thành các phần có ý nghĩa, giữ lại tham chiếu nguồn. Bản chép lời chiếm ngữ cảnh văn bản; cần chừa đủ chỗ cho câu hỏi và câu trả lời. Tăng giới hạn ngữ cảnh cũng làm thay đổi ngân sách bộ nhớ.

Cần biết gì trước khi dựa vào mô hình?

Mô hình có thể đọc câu trả lời thành tiếng không? Đường xử lý tiếng nói đi kèm là ASR, không phải chuyển văn bản thành giọng nói. Ứng dụng phát giọng nói cần thành phần TTS riêng.

Mô hình chép lời được cả 12 ngôn ngữ trò chuyện không? Không phải với bộ nhận dạng tiếng Anh mặc định. Hướng dẫn âm thanh mô tả việc thay backend ASR để nhận đầu vào đa ngôn ngữ; đó là cấu hình khác cần được đánh giá.

Xác suất 0,95 cho một lựa chọn có nghĩa là đúng 95% trong thực tế không? Không. Nó biểu thị phân phối của mô hình trên các lựa chọn được cung cấp, không phải tỷ lệ thành công đã xác minh cho lĩnh vực của bạn. Thiếu lựa chọn, bản chép lời sai và câu hỏi mơ hồ vẫn có thể tạo ra mức ưu tiên cao. Hãy đánh giá ví dụ đã gắn nhãn và xác định quy tắc từ chối trước khi tự động hóa hành động. Tài liệu adapter quyết định, kiểm tra ngày 18 tháng 10 năm 2026.

Guardian có chứng minh câu trả lời đúng sự thật không? Không. Sàng lọc an toàn khác với xác minh sự thật. Bản phát hành cấu hình sẵn không bao gồm mọi chuyên gia trong bộ sưu tập Granite Libraries rộng hơn; hãy kiểm tra danh sách adapter trước khi thiết kế quy trình đánh giá tính xác thực.

Kết luận: một endpoint vẫn cần dấu vết bằng chứng

Granite Switch 4.1 hữu ích nhất khi chat giải thích, tiếng nói cung cấp từ ngữ có thể rà soát và các quyết định có giới hạn sắp xếp việc cần làm tiếp. Thiết kế phục vụ theo mô-đun giảm trùng lặp hạ tầng; quy trình của bạn vẫn chịu trách nhiệm về sự đồng thuận, bằng chứng và thẩm quyền hành động.

Hãy bắt đầu bằng một bản ghi ngắn và một quyết định có thể đảo ngược. Chỉ mở rộng khi bản chép lời, cách diễn giải và hành động vẫn dễ hiểu với người chịu trách nhiệm về kết quả.

Nguồn

Ngày phát hành: bài ra mắt của IBM đề ngày 15 tháng 10 năm 2026; thẻ mô hình 8B ghi ngày 14 tháng 10 năm 2026. Tài liệu được liên kết đã kiểm tra ngày 18 tháng 10 năm 2026. Hướng dẫn thiết lập được điều chỉnh từ tài liệu nguồn chính, không phải kết quả hiệu năng thực nghiệm. Sơ đồ là hình biên tập nguyên bản; không sao chép hình ảnh của nhà cung cấp.

• Bài ra mắt của IBM, thẻ mô hình 8B, thẻ mô hình 30B và thẻ xem trước 3B: phạm vi phát hành và khác biệt giữa checkpoint.
• Kho Granite Switch, yêu cầu gói được ghim phiên bản và hướng dẫn âm thanh: cài đặt, kiến trúc và giới hạn tiếng nói.
• Bản demo tiếng nói chính thức, tài liệu demo và notebook đua aLoRA chính thức: các bản demo để khám phá, không phải kết quả đo trong hướng dẫn này.
• Giải thích aLoRA của IBM ngày 17 tháng 4 năm 2025 và tài liệu vLLM: cơ chế và yêu cầu vận hành được thảo luận ở trên.

Gợi ý Telli.sh tùy chọn: giữ lại nguồn dẫn đằng sau quyết định

Hãy lưu bản ghi gốc, ghi chú và kết quả đã rà soát cùng nhau để các quyết định sau này có đủ ngữ cảnh. Tạo tài khoản Telli.sh để sắp xếp tài liệu tham chiếu khi quy trình của bạn phát triển.