Granite Switch 4.1: 영어 음성을 다음에 내릴 유용한 결정으로 바꾸는 법
Granite Switch 4.1을 살펴보고, 현실적인 설치·메모리·개인정보·비용 안내와 함께 채팅, 영어 음성 전사, 의사결정 워크플로를 구축합니다.
말로 한 요청을 처리하려면 보통 세 가지 작업이 필요합니다. 말을 알아듣고, 무슨 뜻인지 설명하고, 다음에 무엇을 해야 할지 결정하는 일입니다. Granite Switch 4.1은 서로 다른 모델 서버 세 개를 조립하지 않아도 되도록 이 기능들을 하나의 엔드포인트 뒤에 모았습니다.
IBM은 2026년 10월 15일 발표에서 채팅, 범용 의사결정 어댑터, Guardian 안전성 검사, 음성 인식을 갖춘 구성이 완성된 8B 및 30B 릴리스를 소개했습니다. 실용적인 장점은 영어 음성 메모에서 검토 가능한 조치까지 가는 경로가 짧아진다는 것입니다. IBM 출시 안내, 2026년 10월 15일.
이 가이드에서는 간단한 브라우저 실습을 먼저 해보고, 로컬 설치와 현실적인 워크플로 세 가지를 살펴봅니다. 영어 음성은 다국어 음성이 아니고, 의사결정 점수는 증거가 아니며, 모델 가중치가 GPU 메모리 예산의 전부가 아니라는 중요한 경계도 알아봅니다.
대표 이미지: 영어 음성이 전사문이 된 뒤 채팅 응답, 의사결정 선택지, 안전성 검사로 갈라지는 과정을 보여주는 편집용 자체 도식입니다. 최종 조치는 사람의 검토를 거칩니다. 공식 스크린샷이나 성능 주장이 아닙니다.
설치 전에 첫 유용한 결과를 확인한다
공식 Speech to Decisions 데모부터 시작하세요. IBM은 10월 15일 발표에서 이 데모를 안내합니다. 데모 자체 문서에는 마이크 실시간 입력, 짧은 주제 설명, 안전성 검사, 예·아니요 판정이 설명되어 있습니다. 공식 데모 문서, 2026년 10월 18일 확인.
-
데모를 열고 민감하지 않은 가상의 내용만 사용하세요. 로컬 처리가 아니라 호스팅 서비스입니다.
-
앱을 사용할 수 있다면 마이크 접근을 허용하고, ASR이 지원하는 영어로 다음 문장을 말해 보세요. 교체용 키보드가 파손되어 새 제품을 요청하고 내일 사진을 보낼 수 있다는 뜻입니다.
일반 텍스트The replacement keyboard arrived damaged. Please send a new one. I can share a photo tomorrow. -
녹음을 멈추고 화면에 표시된 전사문을 실제 발화와 비교하세요. 주제 설명과 제공되는 판정 플래그도 각각 따로 살펴보세요.
-
요청 내용, 파손된 물품, 약속한 후속 조치가 모두 보존됐는지 확인하세요. 전사에서 부정 표현이 사라지거나 물품이 바뀌었다면, 그럴듯한 주제 라벨이 나왔더라도 성공으로 보지 마세요.
이것은 이해 가능한 입력 하나와 직접 검사할 수 있는 출력을 확인하는 유용한 첫 점검입니다. 정확한 문구나 지연 시간, 데모가 중단 없이 제공된다는 보장은 아닙니다. Space를 사용할 수 없거나 조직에서 외부 오디오 업로드를 금지한다면, 비공개 자료를 다른 곳에 제출하지 말고 아래 로컬 경로를 이용하세요.
Switch는 무엇을 전환하는가?
기본 언어 모델은 일반적인 채팅을 처리합니다. 어댑터는 특정 작업에 맞춰 모델을 전문화하는 비교적 작은 학습 조정값 묶음입니다. decision 어댑터는 라벨이 붙은 선택지 중 하나를 고르고, guardian-core는 특정 안전 위험이 있는지 텍스트를 검사합니다. 애플리케이션은 완전히 별개의 언어 모델을 하나 더 불러오는 대신 채팅 템플릿을 통해 어댑터를 선택합니다. Granite Switch 저장소, 2026년 10월 18일 확인.
음성은 다른 경로를 거칩니다. 자동 음성 인식(ASR)은 언어 모델이 읽기 전에 파형을 텍스트로 바꿉니다. 함께 제공되는 인식기는 IBM의 4억 7천만 파라미터 영어 Granite Speech TurboCTC 모델, 2026년 10월 18일 확인입니다. 이 전사문을 인계 영수증이라고 생각해 보세요. 이후의 모든 처리는 여기에 기록된 단어에 달려 있습니다. 의심스러운 결정을 독자가 입력까지 거슬러 추적할 수 있도록, 다듬은 요약과 함께 원 전사문도 보관하세요.
| 체크포인트 | 상태와 권장 시작점 | 오디오 관련 기대사항 |
|---|---|---|
granite-switch-4.1-8b | 출시됨. 구성이 완성된 소형 선택지 | 영어 ASR 포함 |
granite-switch-4.1-30b | 출시됨. 동일한 기능 묶음을 갖춘 대형 기본 모델 | 영어 ASR 포함 |
granite-switch-4.1-3b-preview | 다른 어댑터 묶음이 포함된 프리뷰 | 출시된 음성 지원 묶음이 아님 |
8B 모델 카드, 2026년 10월 14일 출시는 오디오 지원 릴리스와 오디오가 없는 프리뷰 제품군을 구분합니다. 30B 카드와 3B 프리뷰 카드는 각각의 구성을 설명하며, 2026년 10월 18일 확인했습니다. 더 작은 프리뷰 모델을 음성 지원 모델 대신 그대로 사용할 수는 없습니다.
8B 카드에는 채팅 언어 12개가 나열되어 있습니다. 영어, 독일어, 스페인어, 프랑스어, 일본어, 포르투갈어, 아랍어, 체코어, 이탈리아어, 한국어, 네덜란드어, 중국어입니다. 이 목록이 기본 음성 인식기의 지원 언어를 영어 이상으로 늘려 주는 것은 아닙니다.
명령을 복사하기 전에 운영체제를 선택한다
여기서 다루는 CUDA/vLLM 구성에는 호환되는 NVIDIA GPU와 드라이버를 갖춘 Linux를 선택하세요. Windows에서는 GPU 접근이 설정된 WSL 환경을 사용해야 합니다. 아래 Bash 명령은 PowerShell에서 그대로 실행하는 명령이 아닙니다. macOS에서는 이 CUDA 절차가 Apple Silicon에서도 통할 것이라고 가정하지 말고, 호스팅 실습이나 Linux GPU 호스트부터 시작하세요. vLLM GPU 설치 안내, 2026년 10월 18일 확인.
vLLM-Metal을 비롯한 런타임은 각각 별도의 호환성 경로를 갖고 있습니다. 런타임이 운영체제를 지원한다는 사실만으로 정확히 이 Switch 체크포인트와 어댑터, 음성 연쇄 처리가 모두 작동한다고 볼 수는 없습니다. 해당 구성을 보여 주는 예제를 확인한 다음 그 경로를 선택하세요.
채팅부터 로컬에서 시작한 뒤 오디오와 의사결정을 추가한다
Linux 또는 WSL의 Bash 터미널에서 새 작업 폴더를 사용하세요. 먼저 Git과 Python 3.12를 설치하고 nvidia-smi에서 GPU가 확인되는지 점검하세요. 여기에서 사용한 저장소 스냅샷에는 Python >=3.11,<3.14, PyTorch >=2.11.0, Transformers >=5.16,<=5.17.0, vLLM >=0.26.0,<0.31.0이 필요합니다. 리비전 7e72456의 패키지 선언, 2026년 10월 18일 확인.
- Switch 패키지와 오디오 의존성을 함께 설치한다. 오래된 배포 휠에 기대지 않고 소스 설치 절차를 고정합니다.
git clone https://github.com/generative-computing/granite-switch.git
cd granite-switch
git checkout 7e724560f9a9449bba2f08e16e8678c4dd6a06e7
python3.12 -m venv .venv
source .venv/bin/activate
python -m pip install --upgrade pip
python -m pip install -e '.[vllm,audio]' openai
python -m pip check
추가 패키지 묶음은 작업별로 다릅니다. [hf]는 Hugging Face 추론 지원을, [compose]는 구성 도구를, [audio]는 vLLM 오디오 디코딩 의존성을 추가합니다. vllm만 설치해서는 Switch 플러그인이 설치되지 않습니다. 해결된 PyTorch/CUDA 조합이 드라이버와 호환되는지 확인하세요. 의존성 해결 오류를 없애려고 검사를 제거하지 마세요. 처음 사용하면 모델 가중치를 내려받으므로, 녹음을 시작하기 전에 체크포인트에 필요한 설치 시간과 디스크 공간을 확보하세요.
- 루프백 전용 서버 하나를 시작한다. 아래 컨텍스트 및 동시성 제한은 보수적인 시작값이지, 하드웨어에 들어간다는 보장은 아닙니다.
VLLM_PLUGINS=register_granite_switch \
python -m vllm.entrypoints.openai.api_server \
--model ibm-granite/granite-switch-4.1-8b \
--host 127.0.0.1 --port 8000 \
--max-model-len 4096 --max-num-seqs 1 \
--gpu-memory-utilization 0.80 --enable-prefix-caching
패키지는 register_granite_switch를 vllm.general_plugins에 등록합니다. vLLM은 설치된 진입점을 찾고, 환경 변수로 이 플러그인을 명시적으로 선택합니다. 이 절차에는 등록 스크립트를 복사하거나 --trust-remote-code 우회책을 사용할 필요가 없습니다. Switch 등록 소스 및 vLLM 플러그인 시스템, 2026년 10월 18일 확인.
- 일반 채팅 응답을 확인한다. 두 번째 Bash 터미널에서 서버 준비가 끝날 때까지 기다린 다음 실행하세요.
curl --fail http://127.0.0.1:8000/v1/chat/completions \
-H 'Content-Type: application/json' \
-d '{"model":"ibm-granite/granite-switch-4.1-8b","messages":[{"role":"user","content":"Rewrite this request clearly without adding facts: The replacement keyboard arrived damaged. Please send a new one."}],"max_tokens":120,"temperature":0}'
JSON 응답에서 assistant 메시지를 읽으세요. 주문 번호나 기한, 환불 승인 사실을 지어내지 않고 요청을 보존해야 성공입니다. HTTP 응답을 받았다는 사실만으로 유용한 답변인지 확인할 수는 없습니다.
- 짧은 영어 WAV 파일을 보낸다. 동의를 받은 민감하지 않은 녹음 파일을 저장소 폴더에
request.wav라는 이름으로 둡니다. 두 번째 터미널에서 같은 가상 환경을 활성화하고, 아래 내용을try_audio.py로 저장한 뒤python try_audio.py를 실행하세요.
import base64
from pathlib import Path
from openai import OpenAI
audio_bytes = Path("request.wav").read_bytes()
message_parts = [
{"type": "text", "text": "List the requests in this recording. Do not add facts."},
{"type": "input_audio", "input_audio": {
"format": "wav",
"data": base64.b64encode(audio_bytes).decode("ascii"),
}},
]
local = OpenAI(api_key="unused", base_url="http://127.0.0.1:8000/v1")
reply = local.chat.completions.create(
model="ibm-granite/granite-switch-4.1-8b",
messages=[{"role": "user", "content": message_parts}],
max_tokens=160,
temperature=0,
)
print(reply.choices[0].message.content)
이 결과는 수정되지 않은 ASR 원본이 아니라, 내부에 삽입된 전사문을 바탕으로 한 언어 모델 응답입니다. 오디오 가이드에 연쇄 처리 방식과 입력 형식이 설명되어 있습니다. 두 단계를 각각 검사해야 한다면 전사문을 노출하는 애플리케이션을 사용하세요. 오디오 문서, 2026년 10월 18일 확인.
- 검토한 텍스트로 범위가 정해진 의사결정 하나를 시험한다. 서버를 계속 실행한 상태에서 다음을 전송합니다.
curl --fail http://127.0.0.1:8000/v1/chat/completions \
-H 'Content-Type: application/json' \
-d '{"model":"ibm-granite/granite-switch-4.1-8b","messages":[{"role":"user","content":"State:\nThe replacement keyboard arrived damaged. Please send a new one."},{"role":"user","content":"### DECISION\nQuestion:\nWhich queue should review this request?\n\nOptions:\nA: Damaged-item replacements\nB: Account access\nC: Human triage because neither category fits\n\nReply with exactly one option label."}],"chat_template_kwargs":{"adapter_name":"decision"},"max_tokens":1,"temperature":0}'
이 예제는 어댑터 선택을 실행하고 확률 보고서 대신 라벨 하나를 요청합니다. 확률을 구하려면 모델 카드의 의사결정 예제, 2026년 10월 18일 확인을 따르세요. 단일 토큰 라벨인지 확인하고 해당 logprob_token_ids를 요청한 뒤 후보 라벨에 대해 정규화합니다. 의사결정 어댑터 판독 문서, 10월 18일 확인는 선택지 단위 소프트맥스를 설명합니다. "95% 확신합니다"라는 채팅 생성 문구로 이를 대신하지 마세요.
세 가지 워크플로를 단순 자동화가 아니라 검토 가능하게 만든다
다음은 실제 시험 결과가 아니라 활용 예시입니다. 대표 사례를 평가한 뒤에만 결과를 검토하는 데 도움이 되는 출력부터 시작해 중요한 조치를 추가하세요.
고객 음성 메시지를 분류합니다. ASR로 요청을 포착하고, 채팅으로 중립적인 요약 초안을 만들고, 의사결정 질문으로 교체 처리, 계정 지원, 사람의 분류 중 하나를 선택합니다. 원본 음성은 검토된 전사문과 연결해 두세요. *"do not cancel my order"*라는 발화(내 주문을 취소하지 말라는 뜻)는 취소 자동화를 도입한 뒤에야 떠올릴 일이 아니라, 처음부터 의도적으로 넣어야 할 시험 사례입니다.
인수 기준은 구체적입니다. 선택한 대기열이 실제 발화에 맞는지, 무엇이든 전송되기 전에 상담원이 결과를 수정할 수 있는지 확인하세요. 안전성 플래그로 추가 검토를 요청할 수는 있지만, 불만을 표한 고객의 민원을 조용히 버려서는 안 됩니다.
프로젝트 진행 상황을 초안 작업으로 바꿉니다. 영어 녹음에서 동료가 *"I can review the draft Friday, but I cannot approve the budget."*라고 말했다고 해 보겠습니다(금요일에 초안을 검토할 수 있지만 예산은 승인할 수 없다는 뜻입니다). 채팅에 약속과 제외 사항을 분리하도록 한 뒤, 예산 승인이 있음·없음·불분명 중 어디에 해당하는지 의사결정 어댑터에 물어보세요. 녹음이나 맥락이 부족할 때 선택할 수 있도록 "불분명"도 남겨 두세요. 공유 추적 도구에 작업을 넣기 전에 사람이 날짜와 담당자를 확인합니다.
인터뷰 후속 질문 목록을 준비합니다. 화자의 허락을 받고 짧은 영어 인터뷰 일부를 전사해 누락된 세부 사항을 묻는 질문 초안을 만드세요. "Does this passage explicitly name a delivery date?"(이 구절에 배송 날짜가 명시되어 있나요?)처럼 범위가 정해진 결정을 사용하고, "Is this person trustworthy?"(이 사람을 믿을 수 있나요?) 같은 질문은 피하세요. 각 플래그의 근거가 되는 구절을 보관하세요. 그러면 모델의 해석을 화자에 대한 평가로 취급하지 않고도 이견을 해결할 수 있습니다.
자체 제작한 워크플로 도식입니다. 음성과 전사문을 보존하고, 파생 출력을 각각 만든 다음, 조치에 앞서 검토합니다. 위 활용 예시를 보여 주는 그림이지 공식 인터페이스가 아닙니다. 기반 연쇄 처리 방식은 오디오 가이드에 설명되어 있으며, 2026년 10월 18일 확인했습니다.
여러 기능은 어떻게 같은 컨텍스트를 공유하는가?
키/값 캐시는 앞선 토큰에서 계산된 어텐션 정보를 저장합니다. 활성화 LoRA(aLoRA)는 일반 어댑터처럼 접두부 전체를 다시 처리할 필요 없이 공유 컨텍스트 뒤에서 전문 모델을 활성화할 수 있게 합니다. IBM은 기반 접근법을 2025년 4월 17일 연구 설명에서 소개했습니다. aLoRA에 관한 IBM Research.
Switch는 정규화된 기본 모델 캐시 상태를 사용해 전문 모델끼리 서로의 비공개 조정 상태를 사용하지 않도록 합니다. 애플리케이션에서는 근거 접두부를 동일하게 유지하고 작업별 질문을 뒤에 추가하면 됩니다. 검사마다 전사문을 다르게 고쳐 쓰면 접두부 재사용 효과가 약해집니다. Switch 작동 방식 문서, 2026년 10월 18일 확인.
캐시 공유는 효율화 방식이지 추론을 무료로 만드는 방법이 아닙니다. 접두부 캐싱은 반복되는 프롬프트 처리를 줄여 주지만, 응답 생성이나 음성 인식을 없애지는 않습니다. vLLM 접두부 캐싱 문서, 2026년 10월 18일 확인. 저희의 관점은 이렇습니다. 눈에 띄는 속도 수치만 따로 볼 것이 아니라 검토까지 포함한 전체 워크플로를 비교하세요.
8B 가중치만이 아니라 전체 작업량을 예산에 넣는다
계획용 계산으로, 8십억 파라미터를 파라미터당 2바이트로 저장하면 약 16GB, 즉 14.9GiB를 차지하며, 300억 파라미터는 약 60GB, 즉 55.9GiB입니다. 이는 기본 가중치에 대한 산술 예시일 뿐 체크포인트 크기나 최소 VRAM 사양이 아닙니다. 어댑터, 음성 인코더, 캐시, 임시 버퍼, 런타임 오버헤드는 포함하지 않습니다.
컨텍스트가 길어지고 동시에 처리하는 시퀀스가 많아질수록 메모리 부담이 커집니다. 모델이 광고하는 컨텍스트 상한은 첫 실험에서 전부 사용하라는 권장값이 아닙니다. vLLM은 max_model_len 및 max_num_seqs를 줄이는 방법을 메모리 제어 수단으로 안내합니다. vLLM 메모리 안내, 2026년 10월 18일 확인.
비례 배분이 아닌 자체 제작 메모리 점검표입니다. 기본 가중치 + 어댑터 + ASR 가중치 및 활성값 + KV 캐시 + 런타임/디스플레이 여유분으로 구성됩니다. 오디오 가이드는 캐시를 미리 할당하면 ASR 공간이 부족해질 수 있다고 경고합니다. 2026년 10월 18일 확인.
짧은 채팅, 짧은 클립, 평소 다루는 가장 긴 입력을 각각 시험하세요. 최대 메모리 사용 관찰값, 완료 시간, 오류를 기록합니다. 캐시 할당을 낮추면 음성 처리 공간이 늘 수 있지만, 지나치게 큰 가중치를 실행할 수 있게 되는 것은 아닙니다. 양자화된 대안은 내려받을 파일만 작아지는지 볼 것이 아니라 Switch 어댑터 및 오디오와 호환되는지도 확인해야 합니다.
배포 선택에 비용과 개인정보 보호를 함께 고려한다
Apache-2.0 모델 라이선스라고 운영 비용이 없어지는 것은 아닙니다. 로컬 사용에는 하드웨어, 전력, 저장 공간, 유지 관리 시간이 들고, 호스팅 엔드포인트에는 제공업체 요금과 데이터 처리 약관이 따릅니다. Granite Switch의 분당 비용이 어디서나 같다고 가정하지 마세요. 시범 운영에서는 실패한 요청과 수정 작업까지 포함해 전체 컴퓨팅 및 검토 비용을 성공적으로 완료된 항목 수로 나누세요.
간단한 가상 예산으로 살펴보겠습니다. 제공업체 요금이 시간당 1달러일 때 10시간 사용하면 저장, 전송, 사람의 검토 비용 전에도 컴퓨팅 비용이 10달러입니다. 이는 계산 예시이지 실제 서비스 견적이 아닙니다. 엔드포인트가 유휴 상태인 시간도 비용에 영향을 줍니다.
민감한 작업이라면 녹음 전에 음성, 전사문, 캐시, 로그, 백업을 어디에 둘지 결정하세요. 루프백 바인딩은 네트워크 접근을 제한하지만 보존 규칙을 정해 주거나 모든 라이브러리의 텔레메트리를 끄지는 않습니다. 서버를 공개 인터페이스에 노출하지 말고, 의존성과 로그를 검토하고, 화자의 동의를 받고, 원본 음성과 파생 기록을 각각 어떻게 삭제할지 정하세요. 호스팅 데모는 학습에는 유용하지만 기밀 회의의 기본 목적지는 아닙니다.
전체 스택을 바꾸기 전에 실패한 단계를 바로잡는다
아키텍처를 알 수 없습니다. 가상 환경에 granite-switch가 있는지, vLLM이 해당 환경을 사용하는지, VLLM_PLUGINS에 register_granite_switch가 포함되었는지 확인하세요. 패키지를 교체하기 전에 플러그인 가져오기에서 처음 발생한 오류를 읽으세요.
채팅은 되지만 오디오가 실패합니다. 오디오 지원 릴리스 ID와 [audio] 의존성, 확장자만 바꾼 파일이 아닌 실제 WAV인지 확인하세요. Transformers 버전과 사용 가능한 메모리도 살펴보세요. 디코딩 라이브러리를 설치해도 텍스트 전용 프리뷰가 오디오 체크포인트로 바뀌지는 않습니다.
이름이나 문장부호가 틀립니다. 기본 영어 CTC 인식기는 소문자에 문장부호가 없는 텍스트를 출력하며 디코딩 시 언어를 지정하는 기능이 없습니다. 원문 텍스트는 보존하고 문장부호를 복원한 내용은 파생 수정본으로 취급하세요. 음성 연쇄 처리 과정에서 전사 오류가 이후 결정으로 전파될 수 있습니다. 오디오 제한 사항, 2026년 10월 18일 확인.
긴 클립이 컨텍스트 한도를 초과합니다. 입력을 줄이거나 의미 있는 구간으로 나누고 원본 참조를 유지하세요. 전사문도 텍스트 컨텍스트를 차지하므로 질문과 답변을 넣을 공간이 남아야 합니다. 컨텍스트 한도를 높이면 메모리 예산도 달라집니다.
의존하기 전에 무엇을 알아야 하는가?
답변을 소리 내어 읽어 주나요? 함께 제공되는 음성 경로는 ASR이지 음성 합성(TTS)이 아닙니다. 음성 출력 애플리케이션에는 별도의 TTS 구성 요소가 필요합니다.
채팅 언어 12개를 모두 전사할 수 있나요? 기본 영어 인식기로는 안 됩니다. 오디오 가이드는 다국어 입력에 ASR 백엔드를 교체하는 방법을 설명하며, 이는 평가가 필요한 별도 구성입니다.
선택지 확률이 0.95면 실제 환경에서도 95% 정확한가요? 아닙니다. 이 수치는 실제 업무 분야에서 검증된 성공률이 아니라 제공된 선택지에 대한 모델의 분포입니다. 선택지가 빠졌거나 전사문이 잘못되거나 질문이 모호해도 한 선택지를 강하게 선호할 수 있습니다. 조치를 자동화하기 전에 라벨이 붙은 사례를 평가하고 판단을 보류하는 규칙을 정하세요. 의사결정 어댑터 문서, 2026년 10월 18일 확인.
Guardian이 답의 진실성을 보증하나요? 아닙니다. 안전성 검사는 사실 확인과 다릅니다. 구성이 완성된 릴리스에 더 넓은 Granite Libraries 모음의 전문 모델이 모두 포함되는 것은 아닙니다. 사실성 워크플로를 설계하기 전에 어댑터 목록을 살펴보세요.
결론: 하나의 엔드포인트에도 근거 기록은 필요하다
Granite Switch 4.1은 채팅이 설명하고 음성이 검토 가능한 단어를 제공하며 범위가 정해진 결정이 다음 단계를 정리할 때 가장 유용합니다. 모듈형 서빙 설계는 인프라 중복을 줄이지만, 동의·근거·실행 권한은 여전히 워크플로가 책임져야 합니다.
짧은 녹음 하나와 되돌릴 수 있는 결정 하나로 시작하세요. 결과 책임자가 전사, 해석, 조치를 이해할 수 있을 때만 범위를 넓히세요.
출처
출시일: IBM 출시 안내 날짜는 2026년 10월 15일이며, 8B 모델 카드에는 2026년 10월 14일로 기재되어 있습니다. 링크된 문서는 2026년 10월 18일 확인했습니다. 설치 안내는 직접 성능 시험 결과가 아니라 주요 출처 문서를 바탕으로 작성했습니다. 도식은 편집용으로 자체 제작했으며 벤더 이미지는 복제하지 않았습니다.
- IBM 출시 안내, 8B 모델 카드, 30B 모델 카드, 3B 프리뷰 카드: 출시 범위 및 체크포인트 차이.
- Granite Switch 저장소, 고정된 패키지 요구 사항, 오디오 가이드: 설치, 아키텍처, 음성 처리 한계.
- 공식 음성 데모, 데모 문서, 공식 aLoRA 대 LoRA 레이스 노트북: 살펴볼 데모이며, 이 가이드의 측정 결과는 아닙니다.
- 2025년 4월 17일 IBM의 aLoRA 설명 및 vLLM 문서: 앞서 설명한 작동 원리와 운영 요건.
선택 사항: Telli.sh에서 결정의 근거를 함께 보관한다
나중의 결정에 맥락이 남도록 원본 녹음, 메모, 검토 결과를 한데 보관하세요. 워크플로가 발전하는 동안 참고 자료를 정리하려면 Telli.sh 계정을 만드세요.