AI analysis8분 분량

코딩 AI가 내 맥으로 들어왔다: Flint로 시작하는 로컬 개발

Recursive의 새 로컬 코딩 모델은 전체 40B 매개변수와 작은 활성 부분을 결합합니다. 비공개 저장소, 하드웨어와 실제 개발 업무에 생기는 변화를 살펴봅니다.

K
Ken Jo

이 글에서 다루는 로컬 코딩 모델 Flint의 공식 로고

Recursive 모델 저장소의 공식 Flint 로고를 중립적인 여백 위에 변형 없이 표시했습니다. 모델 식별용이며 실행 화면이나 벤치마크 결과의 근거는 아닙니다.

내 컴퓨터에서 작동하는 코딩 도우미는 익숙한 질문을 바꿉니다. 저장소를 API로 보내도 되는지 대신, 책상 위 컴퓨터가 변경을 안정적으로 끝낼 수 있는지 물을 수 있습니다. 비공개 코드, 반복 실험, 불안정한 연결을 다루는 업무에 유용한 변화입니다.

Recursive의 Flint는 이 제안을 구체화합니다. 2026년 10월 21일 vLLM의 출시 당일 지원 발표는 새 코딩 모델 지원을 소개합니다. Recursive는 이를 전체 약 400억 개 매개변수 중 토큰당 약 25억 개를 활성화하는 전문가 혼합 모델로 설명합니다. 최적화된 Mac 런타임도 있어 모델 다운로드에서 실제 코딩 실행 환경까지 이어지는 경로를 제공합니다.

Flint가 흥미로운 이유는 모델, 제공 소프트웨어와 에이전트 연결이 함께 나온다는 점입니다. 다만 구매 판단의 대상은 여전히 워크스테이션 전체입니다. “활성 2.5B”는 계산의 일부를 설명하며, 메모리가 적은 노트북에 전체 모델을 담을 수 있다는 뜻은 아닙니다. 하드웨어의 차이, 시작하기 좋은 업무 세 가지, 빠른 텍스트와 완료된 수리를 혼동하지 않는 로컬 코딩 평가법을 살펴보겠습니다.

로컬 모델은 도구와 함께 일할 때 유용해집니다

Recursive는 자동화된 연구 시스템 Eureka Machine을 개발하는 AI 연구 기업입니다. Flint는 그 노력에서 나온 공개 제품으로, 다운로드 가능한 가중치와 전용 추론 엔진 rec를 제공합니다. 회사를 처음 접하는 개발자에게 출발점은 명확합니다. 코딩 애플리케이션을 통해 코드를 살피고 변경을 제안하며 도구를 사용하는 텍스트 모델입니다.

모델과 실행 환경의 구분이 중요합니다. 모델은 응답을 만들거나 도구 실행을 요청합니다. 주변 프로그램은 읽을 수 있는 파일을 정하고, 명령을 실행하고, 결과를 돌려주며, 변경을 보여 줍니다. 로컬 모델 설치만으로 유용한 개발 절차가 자동으로 생기지는 않습니다. 이 요소들을 연결하는 과정도 제품 경험의 일부입니다.

Recursive 설정 문서는 로컬 런타임 선택지와 Pi, OpenCode, Cline, OpenHands 같은 코딩 애플리케이션을 안내합니다. 가중치만 공개한 모델보다 접근하기 쉽습니다. 익숙한 편집기를 유지하거나 권장 실행기를 사용하거나 모델을 별도로 제공하는 선택지가 생깁니다.

로컬 추론의 경계는 가치가 있지만 여러 경계 중 하나입니다. 실행 환경은 권한이 있으면 패키지 관리자를 호출하고, 문서 웹사이트에 연결하거나, 배포 명령을 실행할 수 있습니다. 비공개 저장소라면 모델 엔드포인트뿐 아니라 주변 도구도 확인해야 합니다. 로컬 추론 서버는 추론을 로컬에 두지만 에이전트의 다른 연결은 각자의 설정을 따릅니다.

400억 개 매개변수도 저장될 공간은 필요합니다

전문가 혼합 모델은 토큰마다 학습된 구성요소 일부를 선택합니다. 전체 네트워크를 활성화하는 것보다 토큰 생성에 드는 모델 계산을 줄입니다. 큰 작업장에서 현재 일에 도구 일부만 쓰는 것과 비슷합니다. 쓰지 않는 장비에도 보관 공간은 필요합니다.

10월 23일 확인한 Flint 모델 카드는 전체 398억 개, 토큰당 약 25억 개 활성 매개변수, 텍스트 입출력을 명시합니다. 문서화된 컨텍스트 구성은 262,144토큰이며 프롬프트와 생성 출력이 함께 사용합니다. 서로 다른 질문에 답하는 수치이므로 단일한 “모델 크기”만으로 계획하기는 어렵습니다.

간단한 계산으로 저장 공간 문제를 볼 수 있습니다. 매개변수당 정확히 4비트라면 398억 개의 원시 매개변수 비트는 십진 단위로 약 19.9GB입니다. 16비트라면 같은 계산으로 79.6GB입니다. 이는 낮은 수준의 예시 계산이며 측정한 다운로드 크기나 전체 RAM 요구량이 아닙니다. 메타데이터, 양자화 스케일, 런타임 할당과 대화 캐시가 추가됩니다.

저장할 매개변수 전체, 활성 계산과 증가하는 대화 메모리는 서로 다른 예산이라는 설명

자체 제작한 인포그래픽입니다. 매개변수 비트 계산은 예시이며 활성 매개변수로 기기 전체 메모리를 정할 수 없습니다. 런타임과 컨텍스트 할당이 추가됩니다.

대화가 길어질수록 구분은 중요해집니다. 소스 파일, 지시, 도구 정의, 명령 출력과 모델의 답변이 모두 컨텍스트를 소비합니다. 큰 한도는 더 많은 자료를 담게 하지만 모든 길이에서 같은 품질을 보장하거나 긴 프롬프트의 처리 비용을 없애지는 않습니다. 업무를 좁게 유지하는 것은 여전히 유용한 개발 방식입니다.

Recursive의 현재 rec 요구사항은 M4 Pro, M5 Pro 또는 M5 Max Mac, 통합 메모리 48GB 이상, 여유 디스크 약 30GB를 명시합니다. 최적화된 해당 런타임 경로의 요구사항이지 모든 Apple Silicon 기기에 대한 약속은 아닙니다. 더 작은 기기 소유자는 활성 매개변수 수를 호환성 안내로 해석하기보다 다른 지원 런타임의 요건을 확인해야 합니다.

속도 수치에는 기기와 컨텍스트 길이가 필요합니다

Recursive 출시 페이지는 최적화 엔진으로 짧은 컨텍스트에서 M4 Pro MacBook Pro의 초당 생성 125토큰 이상을 보고합니다. 회사가 제시한 추론 결과입니다. 코딩 평가도 있지만 처리량이나 벤치마크 위치로 애플리케이션 테스트 실행 속도를 예측할 수는 없습니다. Recursive 출시 발표.

vLLM 출시 글은 다른 환경을 설명합니다. GB200 한 개, 배치 1 디코딩, 10만 토큰 컨텍스트에서 전체 구간 약 초당 485토큰을 보고합니다. 서버 GPU와 노트북 결과를 조건 없이 같은 비교 행에 넣어서는 안 됩니다. 하드웨어와 추론 구성은 결과에 큰 영향을 줍니다.

토큰 생성과 업무 완료 사이에도 차이가 있습니다. 모델이 추론을 더 길게 하거나 도구를 더 호출하거나 재시도가 필요한 수정법을 선택할 수 있습니다. 생성이 병목이라면 출력 속도가 도움이 됩니다. 가장 긴 단계가 10분짜리 통합 테스트나 반복되는 잘못된 수정이라면 효과는 작아집니다.

일상적인 평가는 검토된 변경이 적절한 검사를 통과할 때까지의 경과 시간을 측정합니다. 사람의 수정이 얼마나 필요했는지, 관련 없는 동작을 건드렸는지도 기록합니다. 토큰 속도는 진단 정보로 유용하지만 원했던 결과는 올바른 패치입니다. 빠른 도우미가 계속 잘못된 길로 가면 오후 시간을 더 많이 쓸 수 있습니다.

판단유용한 근거그것만으로 확정하지 못하는 내용
기기에서 실행할 수 있는가지원 칩, 메모리, 런타임과 체크포인트특정 코드베이스를 여유 있게 처리하는지
생성이 빠르게 느껴지는가하드웨어와 컨텍스트 조건이 있는 처리량도구와 테스트에 걸리는 총시간
이런 종류의 문제를 고칠 수 있는가재현 가능한 검증을 거친 업무 결과익숙하지 않은 업무 유형의 신뢰성
개인정보 요구를 충족하는가실제 엔드포인트와 도구 권한넓은 권한의 실행 환경이 수행할 모든 행동

전체 이전보다 범위가 정해진 수정으로 시작하세요

첫 사례는 이미 이해하는 저장소의 평범한 버그입니다. 빈 입력을 잘못 처리하는 파서를 생각해 보겠습니다. 담당 함수를 찾고 현재 동작을 설명한 뒤 구현 변경 전에 회귀 테스트를 추가하도록 요청합니다. 자체 실행 결과가 아니라 시험을 위한 예시입니다.

작고 관찰 가능한 완료 기준을 줍니다. 기대 동작이 명확하고 관련 파일이 제한되며, 검토자는 테스트가 실제 실패를 다루는지 판단할 수 있습니다. 모델이 광범위한 정리로 벗어나면 큰 패치가 되기 전에 알아볼 수 있습니다. 로컬 생성으로 요청당 API 요금 없이 반복할 수 있어도 범위 제한은 업무를 개선합니다.

두 번째는 비공개 모듈을 이해하는 일입니다. 파일 참조와 함께 요청 경로 지도를 부탁한 뒤 참조 몇 개를 직접 검증합니다. 이어서 빠진 검증 규칙 하나 추가처럼 좁은 요청을 합니다. 실제 저장소에 근거한 대화가 그 계약과 동떨어진 일반 설명보다 가치가 있습니다.

세 번째는 일상적인 테스트 유지보수입니다. 이미 이해한 실패나 작은 테스트 공백을 맡기고, 검토할 때까지 기대 결과를 숨겨 둘 수 있습니다. 현재 동작이 의도된 것이라는 답이 옳은 업무도 포함합니다. 불필요한 수정을 하지 않는 능력도 큰 기능 생성만큼 눈에 띄지는 않지만 개발 품질의 일부입니다.

이 사례들의 출력은 수정, 설명, 테스트 판단으로 의도적으로 다릅니다. 하나의 성공은 다음 실험의 방향을 정하는 데 쓰여야 하며 모든 개발 활동을 같은 로컬 모델로 옮길 근거가 되지는 않습니다.

지원되는 Mac에서는 첫 업무까지 경로가 짧습니다

다음 절차는 10월 23일 확인한 공개 rec 사용법을 따릅니다. 지원되는 Mac과 살펴볼 권한이 있는 저장소를 가정합니다. 독자를 위한 설정 안내이며 모델을 설치하거나 실행했다는 근거가 아닙니다.

  1. 현재 요구사항과 칩, 여유 저장 공간, 메모리를 대조합니다. 익숙한 프로젝트의 일회용 브랜치나 복사본에서 시작해 첫 실험을 쉽게 검토할 수 있게 합니다.
  2. 공식 rec 저장소에서 설치 문서와 설치기를 살펴본 뒤 문서의 설치 경로를 따릅니다. 이후 추론이 로컬이어도 첫 모델 다운로드에는 네트워크가 필요합니다.
  3. 설치를 확인한 뒤 프로젝트 디렉터리에서 권장 실행 환경을 시작합니다.
Bash터미널에서 실행
rec doctor
rec launch pi

  1. 기대 동작, 관련 범위와 검증 명령을 담은 구체적인 업무 하나를 줍니다. 예를 들어 빈 입력 테스트가 실패하는 이유를 설명하고, 집중된 회귀 테스트를 추가하며, 해당 동작을 담당하는 함수만 바꾸도록 합니다.
  2. 변경 내역과 실제 테스트 출력을 검토합니다. 끝난 뒤 서버 상태를 확인하고 메모리를 계속 점유할 필요가 없으면 런타임을 멈춥니다.
Bash터미널에서 실행
rec status
rec stop

실행기의 편리함은 동작을 이해하고 써야 합니다. Recursive 문서에 따르면 코딩 실행 환경이나 터미널을 닫은 뒤에도 모델 서버는 남아 있을 수 있습니다. 대화형 세션 종료와 로컬 모델 해제는 별개입니다. 빌드, 브라우저와 다른 일상 앱도 함께 쓰는 컴퓨터에서 중요합니다.

결과와 함께 생성 설정도 남기세요

생성 설정 안내는 temperature 1.0, top-p 0.95, top-k 20에서 시작하도록 권합니다. 추론도 출력 예산을 쓴다고 설명합니다. 한도에 닿아 멈춘 미완성 답변과 완료됐지만 틀린 답변은 다른 문제입니다.

첫 평가에는 실행기에 묶인 설정을 사용합니다. 나중에 런타임이나 정밀도를 바꾸면 결과와 함께 기록합니다. 그렇지 않으면 채팅 템플릿 불일치, 잘린 응답, 생성 형식을 이해하지 못하는 도구 파서가 모델 퇴보처럼 보일 수 있습니다.

vLLM 글은 해당 제공 경로에서 GLM-4.7 형식의 도구·추론 파서를 안내합니다. 모델이 선택 목록에 보이는 것만으로 통합이 끝나지 않는 구체적인 예입니다. 애플리케이션은 대화 구조를 보존하고 의도된 도구 호출을 정확히 실행해야 합니다. 정상적인 채팅 응답만으로 파일 수정까지 동작한다고 볼 수 없습니다.

생성, 도구, 테스트와 사람의 검토를 거쳐 Flint 업무 결과를 평가하는 과정

자체 제작한 개념적 업무 흐름입니다. 최종 확인 대상은 검토된 업무 결과이며, 성능 측정이나 설치 완료를 나타내지 않습니다.

평가 메모는 작아도 됩니다. 체크포인트 개정, 런타임 버전, 하드웨어, 컨텍스트 설정, 업무, 경과 시간, 테스트 결과와 검토자 수정을 남깁니다. 설정과 목표가 모두 달랐던 두 세션보다 업데이트 후 같은 범위의 업무를 반복하는 것이 유익합니다. 복구 비용도 도구의 유용성에 영향을 주므로 실패한 시도도 기록합니다.

로컬 추론은 비용 구조를 바꾸지만 비용을 없애지는 않습니다

이미 가진 하드웨어로 반복 작업할 때 추론 API 요금을 피하는 것은 매력적입니다. 코드 설명이나 작은 테스트 생성을 자주 요청하는 팀은 예측 가능한 로컬 용량을 선호할 수 있습니다. 그래도 설치, 유지보수와 검토 시간, 컴퓨터 메모리의 기회비용을 포함해 비교해야 합니다.

이미 지원되는 기기에서 시험하는 것과 출시 하나만을 위해 고메모리 노트북을 사는 것은 다른 계산입니다. 하드웨어를 절약으로 보기 전에 실제 업무량을 추정합니다. 더 큰 호스팅 모델이 적은 수정으로 끝내는 업무도 포함합니다. 일에 따라 도구가 다르게 유리하다면 로컬과 호스팅을 나누는 방식도 합리적입니다.

동시성도 살펴야 합니다. 현재 rec 문서에 따르면 엔진은 한 번에 생성 하나를 처리하며 겹친 요청에는 HTTP 429가 반환될 수 있습니다. 개발자 한 명에게 유용한 경험이 같은 방식의 팀 공용 서버를 의미하지는 않습니다. 여러 에이전트 제공은 다른 부하이며 다른 런타임이 필요할 수 있습니다.

기대할 변화는 로컬 코딩이 완성된 업무 선택지로 발전한다는 점입니다. Flint의 작은 활성 계산, 접근 가능한 가중치와 전용 런타임은 서로 다른 문제를 다룹니다. 다음에는 평범한 프로젝트의 완료된 수정에 대한 더 넓은 근거, 안정적인 런타임 지원, 긴 세션에서 명확한 동작이 필요합니다. 인상적인 시연을 믿을 만한 일상 도구로 바꾸는 개선입니다.

워크스테이션도 코딩 도우미의 일부가 되고 있습니다

Flint는 모델 점수 이상을 평가하게 합니다. 메모리 용량, 도구 권한, 실행 환경과 검토 습관이 실제 도우미 경험의 일부가 됩니다. 요구가 많은 제안이지만 직접 제어하는 컴퓨터에서 개발 과정을 살피고 조정할 수 있다는 힘도 줍니다.

결과를 판단할 수 있는 업무에서 시작하세요. 로컬 작업 흐름이 관리 가능한 검토로 좋은 변경을 반복해서 만든다면 유용한 도구를 찾은 것입니다. 다음의 더 어려운 업무까지 맡겨야 한다는 강한 주장은 다음 근거를 기다려도 됩니다.


출처

기술적 결정의 근거를 남기세요

출처 링크와 직접 검토한 기술 메모를 별도 작업 공간에 보관하려는 독자에게 Telli.sh도 하나의 선택지입니다. 메모 작업 공간 열기.


← 블로그로 돌아가기