PFN이 차세대 AI 칩 위에 메모리를 쌓으려는 이유
PFN과 SEMIFIVE의 MN-Core L2000 공동 개발은 AI 추론의 메모리 병목을 겨냥합니다. 개발 일정이 에이전트, 프라이빗 AI, 향후 하드웨어 구매에 어떤 의미가 있는지 살펴봅니다.
AI 비서는 모델을 올릴 메모리가 충분해도 답변이 느릴 수 있습니다. 연산 장치는 준비되어 있지만, 실제 계산을 하려면 필요한 데이터를 적절한 순간에 가져와야 하기 때문입니다. 여러 프라이빗 비서를 운영하는 기업이라면 이 차이로 인해 인상적인 칩 사양을 갖추고도 단어가 나올 때마다 답답하게 기다릴 수 있습니다.
Preferred Networks와 SEMIFIVE는 이 문제를 풀기 위한 개발에 나섰습니다. 2026년 11월 16일 발표한 MN-Core L2000 시리즈는 로직과 DRAM을 수직으로 적층하는 추론용 프로세서입니다. 이전 L1000 시리즈보다 메모리 대역폭을 두 배 이상 높이는 것이 목표입니다. PFN 웹사이트에는 11월 17일 발표문이 게시됐습니다. PFN 발표
흥미로운 질문은 이 설계가 앞으로 AI 서비스를 운영할 사람들에게 무엇을 바꿀 수 있느냐는 것입니다. 데이터 이동 속도는 연산 능력 확대만큼 중요할 수 있으며, 그 혜택이 사용자 화면까지 도달하는지는 패키징, 소프트웨어 지원, 완성된 서버에 달려 있습니다. L2000 발표는 실제 구매 시점이 오기 전에 이런 판단을 정리해 볼 좋은 계기입니다.
PLaMo를 만드는 회사는 그 아래의 하드웨어도 설계한다
Preferred Networks는 도쿄에 기반을 둔 AI 기업으로, 프로세서와 컴퓨팅 인프라, PLaMo 모델 제품군을 개발합니다. 이번 협업에서 PFN은 프로세서 아키텍처와 로직 설계를 맡고, SEMIFIVE는 Samsung Foundry의 플랫폼과 3D-IC 설계 인프라를 활용해 구현 및 공급망 서비스를 제공합니다. PFN 회사 소개와 개발 역할
이러한 역할 분담이 중요한 이유는 쓸 만한 가속기가 명령어 집합이나 칩 도면만으로 완성되지 않기 때문입니다. 로직 설계는 제조 가능한 실리콘이 되어야 하고, 메모리는 그 실리콘에 연결되어야 하며, 패키징된 소자는 일관되게 동작해야 합니다. 고객에게는 궁극적으로 반복 구현할 수 있는 서버 구성과 모델을 애플리케이션으로 연결하는 소프트웨어 경로가 필요합니다. 각 단계의 인계가 완제품의 비용과 납기에 영향을 줄 수 있습니다.
PLaMo와의 연결은 독자에게 친숙한 출발점이지만, 모든 PLaMo 배포가 이 하드웨어로 옮겨 간다는 뜻은 아닙니다. 모델 개발자와 인프라 구매자의 질문도 다릅니다. 개발자는 워크로드를 효율적으로 표현할 수 있는지 묻고, 구매자는 지원되는 구현이 설치 장비의 운영 기간 내내 서비스 목표를 충족할 수 있는지 묻습니다.
한국 독자에게 SEMIFIVE의 참여는 국내 반도체 설계 역량이 추론 인프라 개발에 참여하는 구체적인 사례입니다. 다음으로 살펴볼 것은 이 역량이 어떻게 양산 소자와 지원되는 시스템으로 이어지는지입니다. 협력 발표는 참여 기업과 방향을 보여 주고, 실제 후속 제품은 고객이 선택할 수 있는 범위를 결정합니다.
메모리 용량과 대역폭은 서로 다른 질문에 답한다
용량은 메모리 시스템이 얼마나 많은 데이터를 담을 수 있는지를 나타냅니다. 대역폭은 일정 시간에 얼마나 많은 데이터를 옮길 수 있는지를 나타냅니다. 모델이 용량 한도 안에 들어가더라도 대역폭 때문에 프로세서의 처리 속도가 제한될 수 있습니다. 용량을 늘리는 것만으로 애플리케이션의 응답성이 좋아지지는 않습니다.
간단한 계획 계산으로 첫 번째 차이를 확인할 수 있습니다. 가상의 300억 파라미터 밀집 모델을 파라미터당 2바이트로 저장하면 파라미터 자체에만 약 600억 바이트가 필요합니다. 이 계산에는 실행 작업 공간, 어텐션 캐시 데이터, 기타 오버헤드가 포함되지 않습니다. 저장 공간 예산을 설명하기 위한 예시이며, L2000의 용량이나 지원 모델에 대한 설명은 아닙니다.
다음 질문은 워크로드가 저장된 데이터를 어떻게 사용하느냐입니다. 입력 프롬프트를 처리하는 단계와 출력 토큰을 차례로 생성하는 단계는 시스템에 서로 다른 요구를 합니다. NVIDIA의 추론 최적화 설명은 병렬로 처리하는 프롬프트 단계와 데이터 이동이 제약이 될 수 있는 자기회귀 디코딩 단계를 구분합니다. 배칭과 어텐션 캐시 관리가 이 균형을 바꾸는 이유도 설명합니다. NVIDIA 추론 최적화 가이드, 2023년 11월 17일
메모리를 주방과 연결된 식재료 창고라고 생각해 보세요. 창고가 크면 재료를 현장에 많이 보관할 수 있고, 통로가 넓으면 주방으로 재료를 더 원활하게 보낼 수 있습니다. 하지만 어느 쪽도 특정 요리를 완성하는 시간을 바로 알려 주지는 않습니다. 준비 작업과 나머지 과정도 중요하기 때문입니다. 이 역할을 구분해서 보면 하드웨어 비교가 더 유용해집니다.
저장, 데이터 이동, 애플리케이션 응답을 구분한 자체 설명 도식입니다. 판단 구조를 보여 주며, 공개되지 않은 L2000 패키지 배치도를 나타내지는 않습니다.
적층은 데이터 경로와 함께 엔지니어링 문제도 바꾼다
PFN의 공식 발표에는 MN-Core L 시리즈의 로직과 DRAM 수직 적층 도식이 포함되어 있습니다. 제안된 개발 방향을 이해하는 데 유용한 그림입니다. 다만 고객이 설치할 완성된 서버를 보여 주거나, 완성된 애플리케이션의 성능을 입증하는 자료는 아닙니다.
부품을 쌓아 올리려면 설계가 하나의 물리적 시스템으로 작동해야 합니다. 전력 공급, 열 배출, 제조 일관성은 데이터 이동과 함께 다뤄야 합니다. 아키텍처가 발표 슬라이드에서 매력적으로 보인 뒤에 해결할 부수적인 문제가 아닙니다. 소자를 적정한 비용으로 생산하고, 패키징하고, 냉각하고, 지원할 수 있는지를 좌우합니다.
따라서 운영자에게 패키지 설계는 검토의 끝이 아니라 시작입니다. 랙에는 전력 한도가 있고, 시설에는 냉각 설계가 있으며, 서비스에는 가동 시간에 대한 요구가 있습니다. 새로운 가속기는 결국 이 세 가지 모두에 맞아야 합니다. 경제적 이익은 운영을 유지하는 장비와 인건비까지 포함한 전체 설치 환경에 달려 있습니다.
효율성 이야기에 측정 조건이 따라붙어야 하는 이유도 여기에 있습니다. 특정 모델, 정밀도, 동시 처리 수준에서 좋은 결과가 나왔다고 모든 워크로드를 설명할 수는 없습니다. 고객은 시스템이 어디에서 잘 동작하고, 어디에서 여유를 잃으며, 유용한 답변을 제공하기 위해 전체 서비스가 얼마나 많은 에너지를 쓰는지 확인해야 합니다.
세 가지 워크로드는 서로 다른 질문을 던진다
법무팀이나 엔지니어링팀을 위한 프라이빗 문서 비서를 생각해 보세요. 이 가상 서비스에는 요청이 불규칙하게 들어오며, 사용자는 답변이 시작되기 전의 지연에 민감합니다. 평가에는 대표 문서, 검색 시간, 모델의 첫 응답이 포함되어야 합니다. 가속기가 경로 일부를 개선하더라도 문서 검색이나 접근 권한 확인이 더 큰 지연으로 남을 수 있습니다.
두 번째 예시는 작업을 완료하는 동안 모델을 반복 호출하는 내부 에이전트입니다. 이 경우 한 번의 느린 생성이 뒤에 이어지는 여러 단계에 영향을 줄 수 있습니다. 유용한 성과는 도구 실행 결과와 필요한 사람의 승인까지 포함해, 적절한 권한 아래 작업을 끝내는 데 걸리는 시간입니다. 모델의 토큰 생성률을 높여도 실제로 생성을 기다리는 부분만 빨라집니다.
세 번째 예시는 많은 기록을 분류하거나 요약하는 야간 처리 대기열입니다. 더 큰 배치를 허용할 수 있고, 마감 전에 끝낸 전체 작업량이 더 중요할 수 있습니다. 같은 모델을 쓰더라도 대화형 비서와 다른 구성을 선호할 수 있습니다. 구매 검토에서는 가장 큰 숫자가 나온 시연만 고르기보다 이 차이를 유지해야 합니다.
이 시나리오들은 평가 계획이며 L2000 실험 결과가 아닙니다. 하나의 성능 결과를 전제하지 않더라도 메모리 중심 아키텍처를 주목할 가치가 있는 이유를 보여 줍니다. 가장 좋은 파일럿은 팀이 이미 이해하고 있는 워크로드와 현재 시스템에 비교할 수 있는 결과에서 출발합니다.
| 판단 대상 | 팀이 준비할 것 | 결과가 보여 줘야 할 것 |
|---|---|---|
| 프라이빗 문서 비서 | 대표 질문, 문서, 접근 규칙 | 합의한 응답 목표 안에 유용한 답변이 도착하는가 |
| 다단계 내부 에이전트 | 전체 작업, 도구 호출, 승인 지점 | 정확성을 유지하면서 처음부터 끝까지의 완료 시간이 개선되는가 |
| 야간 처리 대기열 | 고정된 기록 집합과 완료 기한 | 운영 예산 안에서 필요한 작업이 안정적으로 끝나는가 |
대역폭 목표는 서비스 추정의 한 가지 입력값이다
우리는 구매하려는 작업에서 비교를 시작하는 것이 가장 유용하다고 봅니다. 팀은 대역폭만 따로 사는 것이 아니라 제약 안에서 작업을 완료할 능력을 구매합니다. 이를 위해서는 모델과 런타임에서 서버와 애플리케이션까지 이어지는 근거가 필요합니다.
먼저 모델 지원을 확인하세요. 정확한 아키텍처, 정밀도, 필요한 연산자가 지원 소프트웨어 스택에서 동작해야 합니다. 시연을 실행할 수 있는 컴파일러나 런타임이라도 운영 서비스에는 추가 통합 작업이 필요할 수 있습니다. 어떤 버전을 지원하는지, 어떤 연산을 변환해야 하는지, 모델이 바뀌면 누가 이 경로를 유지하는지 물어보세요.
다음으로 응답 지표를 구분하세요. 첫 번째 유용한 답변까지의 시간, 생성 중 속도, 전체 완료 요청 수는 서로 다른 경험을 설명합니다. 같은 입력 크기와 동시 처리 조건에서 실패하거나 끝내지 못한 응답까지 포함해 기록해야 합니다. 출력 품질을 바꾸거나 요청을 조용히 누락하면서 빨라진 실행은 서비스 개선과 다른 결과입니다.
마지막으로 모델 주위에 애플리케이션 전체를 다시 놓아 보세요. 검색, 모더레이션, 도구 접근, 대기열, 네트워크 통신도 시간을 소비합니다. 하드웨어 파일럿은 전체 작업 중 얼마만큼이 추론을 기다리는지 보여 줘야 합니다. 그래야 추론 경로가 빨라질 때 실제로 기대할 수 있는 혜택을 합리적으로 추정할 수 있습니다.
다음에 확인할 이정표는 설계의 제조 인계다
발표된 테이프아웃 목표는 2027년 1분기입니다. 최종 설계 데이터를 제조 단계로 넘기는 시점을 뜻합니다. 개발 이정표이지 완성된 서버의 납품일은 아닙니다. PFN 개발 일정
제조, 패키징, 초기 구동, 검증을 거쳐 설계를 쓸 수 있는 제품으로 연결해야 합니다. 이후 소프트웨어 적합성 확인과 시스템 통합에 따라 고객이 배포할 수 있는 것이 정해집니다. 정식 판매 전에 이런 단계의 진전도 중요한 소식이 될 수 있지만, 각 단계가 답하는 질문은 다릅니다.
비교 기준에도 같은 원칙이 적용됩니다. L1000 자체도 2027년 출시 예정이므로, 이번 발표는 지금 구매할 수 있는 두 시스템보다 개발 세대를 비교한 것입니다. 발표에는 L2000 소매가격, 한국 납품 일정, 완성 시스템 벤치마크가 공개되어 있지 않습니다. 구매 일정은 향후 공급업체가 제시할 지원 구성과 납품 조건을 기준으로 세워야 합니다.
자체 제작한 개발 단계 안내입니다. 발표된 테이프아웃 목표를 이후의 제조, 적합성 확인, 고객 납품과 구분했습니다. 후속 단계의 날짜는 아직 정해지지 않았습니다.
실용적인 평가 파일에는 무엇을 담아야 할까
개발 일정을 지켜보는 동안에도 팀이 할 수 있는 유용한 일이 있습니다. 향후 구매 대상이 MN-Core 시스템이든 GPU 서버든 호스팅 서비스든 계속 쓸 수 있는 간결한 기준선을 만드는 것입니다. 목적은 앞으로의 하드웨어 비교를 더 저렴하고 의미 있게 하는 데 있습니다.
- 작업 전체를 선택하세요. 대화형 작업 하나를 정하고, 필요하면 배치 작업 하나도 정하세요. 올바른 완료의 기준과 응답 또는 완료 기한을 기록합니다.
- 시험 자료와 소프트웨어 버전을 고정하세요. 프롬프트, 입력 문서, 모델 리비전, 정밀도, 런타임 설정을 함께 보관하세요. 팀에 처리 권한이 있는 자료를 사용합니다.
- 현재 경로를 측정하세요. 예상 부하에서 모델 응답 시간, 전체 작업 시간, 실패, 자원 사용량을 기록하세요. 생성이 아니라 검색이나 도구를 기다리는 시간도 구분합니다.
- 조건에 맞는 지원 구성을 요청하세요. 향후 공급업체 시험에는 가속기, 메모리 구성, 호스트, 런타임, 모델 지원을 명시해야 합니다. 품질이나 정밀도가 바뀌면 분명하게 남겨 둡니다.
- 운영 관점의 판단을 비교하세요. 구매비, 소프트웨어 통합, 전기, 냉각, 지원, 복구 작업을 포함하세요. 수용 가능한 비용으로 원래 작업을 해결하는 개선인지 판단합니다.
이 파일은 서로 관련 없는 처리량 캡처를 모으는 것보다 유용합니다. 새 시스템이 등장할 때마다 워크로드를 바꾸는 일을 막아 줍니다. 같은 작업을 제대로 완료하면서 지연이나 운영 부담이 줄었는지, 실제 개선을 찾기도 쉬워집니다.
소규모 팀이라면 당장 내릴 결정은 현재 하드웨어를 유지하면서 애플리케이션을 개선하는 것일 수 있습니다. 검색이 응답 시간 대부분을 차지한다면 추론만 빨라져서는 효과가 제한적입니다. 필요한 부하에서 서비스가 계속 생성을 기다린다면 새 가속기를 시험할 이유가 더 커집니다. 어느 쪽이든 사용자가 겪는 병목에 예산을 쓰도록 도와주는 발견입니다.
하드웨어의 초점이 메모리에 가까워지고 있다
L2000 협업을 주목할 이유는 추론 문제를 해결하는 데 필요한 물리적 설계와 생산 작업을 연결하기 때문입니다. 다음으로 유용한 근거는 제조와 소프트웨어 적합성 확인의 진전, 그리고 지원되는 시스템에서의 측정입니다. 그 결과가 어떤 워크로드에 혜택이 있고, 운영자가 그 혜택을 얻기 위해 무엇을 투자해야 하는지 보여 줄 것입니다.
지금도 실용적인 교훈은 얻을 수 있습니다. AI 하드웨어를 비교할 때 모델을 담을 용량, 데이터 이동, 애플리케이션 성과를 구분하세요. 모델이 메모리에 들어가는 것은 대화의 출발점이며, 구매자가 필요로 하는 결과는 믿고 운영할 수 있는 서비스입니다.
출처
- Preferred Networks, PFN과 SEMIFIVE의 MN-Core L2000 시리즈 공동 개발, 발표문 기준일 2026년 11월 16일, 웹사이트 게시일 2026년 11월 17일. 공식 구조 도식과 개발 일정이 포함되어 있습니다.
- Preferred Networks, 일본어 발표문, 같은 내용의 회사 발표입니다.
- Shashank Verma와 Neal Vaidya, NVIDIA Technical Blog, Mastering LLM Techniques: Inference Optimization, 2023년 11월 17일. 추론 단계, 배칭, 메모리 사용에 관한 배경 자료이며 MN-Core 하드웨어의 벤치마크가 아닙니다.
워크로드, 모델 설정, 공급업체 답변을 함께 보관해 다음 평가도 비교 가능한 기준선에서 시작해 보세요. Telli.sh에서 첫 노트 시작하기.