AI analysis9분 분량

Mercury 3의 빠른 답변, AI 업무도 더 빨리 끝날까

Inception의 새 확산 언어 모델은 상호작용 업무를 겨냥합니다. 속도가 유용한 지점, 전체 업무 비교법과 출시 할인 이후의 비용을 살펴봅니다.

K
Ken Jo

고객이 배송 전에 주문을 변경할 수 있는지 묻습니다. 도우미는 주문을 찾고, 정책을 읽고, 창고 상태를 확인한 뒤 답변을 준비합니다. 각 단계는 작아 보이지만 기다림이 합쳐지면 단순한 대화도 몹시 바쁜 사람과 느리게 연결된 느낌이 됩니다.

Inception은 10월 19일 Mercury 3를 출시하며 이런 대기 시간이 누적되는 애플리케이션을 겨냥했습니다. 회사는 NVIDIA GPU에서 초당 출력 1,068토큰과 100만 토큰 컨텍스트 창을 제시합니다. 이는 공급업체의 사양이며 고객 응대 전체에 대한 보장은 아닙니다. Inception 발표.

흥미로운 질문은 더 빠른 모델로 무엇을 바꿀 수 있느냐입니다. 학습자가 문제를 풀고 있을 때 튜터가 힌트를 주고, 지원 에이전트가 답하기 전에 예외를 확인하며, 브라우저 도우미가 같은 대기 시간 안에 유용한 단계를 하나 더 수행할 수 있습니다. 이런 가능성과 비용, 실제 업무에서 Mercury 3가 도움이 되는지 평가하는 방법을 살펴보겠습니다.

Geekerwan이 촬영한 탁자 위 NVIDIA H100 PCIe 가속기

GPU 추론의 배경을 설명하기 위한 NVIDIA H100 하드웨어 사진입니다. 촬영: 极客湾Geekerwan, Wikimedia Commons 원본, CC BY 3.0. 크기를 조정하고 JPEG로 변환했으며 제작자 워터마크는 유지했습니다. Inception 인프라나 자체 벤치마크가 아니며, Mercury 3의 발표 수치에 사용된 하드웨어를 나타내지도 않습니다.

확산은 Inception에 더 빠른 텍스트로 가는 다른 경로를 제공합니다

Inception은 호스팅 서비스를 통해 언어 모델을 판매하는 AI 연구·제품 기업입니다. Mercury 제품군은 왼쪽에서 오른쪽으로 이어지는 순서에 전적으로 의존하기보다 여러 위치의 텍스트를 다듬는 확산 방식을 사용합니다. 연구진의 Mercury 논문은 2025년 6월 17일 제출되었으며 이전 제품군의 방식과 평가를 설명합니다. 접근법의 배경 자료이지 Mercury 3의 벤치마크 보고서는 아닙니다.

독자에게 중요한 의미는 간단합니다. 모델이 텍스트를 계산하는 순서에 따라 애플리케이션이 유용한 답을 받는 속도가 달라질 수 있습니다. 모든 응답이 즉시 나오거나 어려운 질문에 추론이 필요 없어지는 것은 아닙니다. 답을 만드는 작업의 일부가 달라집니다. 애플리케이션은 여전히 정보를 얻고, 사용할 방법을 판단하며, 사람이 활용할 결과를 제시해야 합니다.

지연을 기다림의 예산으로 생각할 수 있습니다. 개발자는 그 예산을 긴 설명 생성, 출처 하나 추가 확인, 짧은 답변의 조기 반환에 쓸 수 있습니다. 빠른 모델은 예산 안에 여유를 만듭니다. 그 여유가 사용자에게 도움이 되는지는 애플리케이션이 어떻게 쓰느냐에 달려 있습니다.

모델을 반복 호출할 때 특히 중요합니다. 짧은 답변 한 번만 필요한 도우미는 시간을 줄일 기회가 상대적으로 적습니다. 읽고, 행동을 선택하고, 결과를 살피는 일을 번갈아 하는 에이전트는 모델 지연을 여러 번 지불합니다. 반복되는 단계에서 시간을 아끼면 개별 응답 차이가 극적이지 않아도 경험이 바뀔 수 있습니다.

초당 토큰 수는 여정의 한 구간만 측정합니다

조회, 첫 응답, 텍스트 생성, 도구와 검증을 거쳐 작업이 완료되는 과정

자체 제작한 설명용 인포그래픽입니다. 작업 완료 시간에 기여하는 단계이며, 구간 크기는 개념적인 것으로 측정 시간은 없습니다.

AI 기능 안에는 여러 시계가 있습니다. 첫 응답까지의 시간은 유용한 일이 일어나기 전 화면상 기다림이 얼마나 긴지 나타냅니다. 출력 처리량은 생성된 텍스트가 도착하는 속도입니다. 도구 지연에는 검색, 데이터베이스, 외부 서비스 호출이 포함됩니다. 작업 완료 시간에는 재시도와 수정 등 올바른 결과를 만드는 단계가 모두 들어갑니다.

이 시계들은 서로 다른 방향을 가리킬 수 있습니다. 첫 문장은 즉시 스트리밍하지만 복잡한 요청의 완료에는 오래 걸릴 수 있습니다. 다른 시스템은 잠시 기다린 뒤 수정이 필요 없는 짧은 답을 반환할 수 있습니다. 또 다른 시스템은 빠르게 생성하면서 대부분의 시간을 주문 시스템을 기다리는 데 쓸 수 있습니다. 사용자에게 중요한 수치는 업무에 따라 다릅니다.

측정 항목개발자가 알 수 있는 내용답하지 못하는 질문
첫 유용한 응답요청을 신속히 인지하거나 진전시키는지최종 결과가 정확할지
초당 출력 토큰생성 중 텍스트가 나오는 속도검색 시간, 서비스 대기열과 도구 지연
전체 작업 시간올바른 결과까지 걸리는 시간어느 구성요소가 지연을 일으켰는지
수정을 포함한 시간허용할 결과까지 가는 실질 비용다른 업무도 비슷하게 동작할지

빠른 모델의 가치는 사용자 업무에서 시간을 줄이는 데 있다고 봅니다. 생성 구간 단축이 전체 작업을 줄이거나 필요한 검증을 가능하게 할 때 가치가 있습니다. 절약한 시간으로 아무도 필요로 하지 않는 텍스트만 더 만들면 가치는 작아집니다.

벤치마크 질문도 구체적으로 유지해야 합니다. 같은 수락 기준에서 업무가 빨라졌는지 묻고, 어느 단계가 바뀌었는지 확인합니다. 모델 개선과 짧아진 프롬프트, 미리 준비된 캐시, 빨라진 외부 서비스를 구분하기 쉬워집니다.

지원 도우미는 절약한 시간을 더 나은 답변에 쓸 수 있습니다

소매 고객 지원의 가상 업무를 생각해 보겠습니다. 주문한 고객이 배송 주소를 바꾸려고 합니다. 도우미에는 주문 상태, 주소 변경 정책, 수정된 고객 정보가 필요합니다. 유용한 결과는 정확한 다음 단계입니다. 권한 있는 도구로 허용된 변경을 실행하거나 사람이 개입해야 하는 이유를 설명합니다.

속도는 여러 지점에서 도움이 됩니다. 빠른 확인 질문은 고객이 대화를 포기하지 않게 할 수 있습니다. 정책을 빠르게 읽으면 이미 포장 중인 주문의 예외를 확인할 여유가 생깁니다. 간결한 최종 답변은 바뀐 내용과 대기 중인 내용을 알려 줄 수 있습니다. 이런 개선에 긴 메시지는 필요하지 않습니다.

평가에는 흔한 마찰을 포함해야 합니다. 우편번호를 수정하는 고객, 이미 배송된 주문, 좁은 예외가 있는 정책 문서를 제시합니다. 처음 본 값이 아니라 현재 값을 사용하는지 측정합니다. 변경을 설명하는 능력과 변경을 실행할 권한은 분리합니다.

피해야 할 실패는 추가 업무를 만드는 빠르고 자신감 있는 답변입니다. 고객이 결과를 고치려고 지원팀에 다시 연락해야 한다면 첫 응답은 겉으로만 효율적이었던 것입니다. 최초 속도와 함께 후속 연락과 사람에게 넘긴 사례를 기록해야 합니다. 그래야 매력적인 모델 수치가 운영상의 판단 근거가 됩니다.

튜터는 주의가 옮겨 가기 전에 피드백을 줄 때 도움이 됩니다

두 번째 가상 사례는 짧은 답안에 반응하는 학습 앱입니다. 학습자가 외국어 문장이나 대수 문제의 중간 풀이를 제출합니다. 앱은 관련 오류를 찾고 적절한 다음 단계를 제시해야 합니다. 빠른 응답은 학습자가 같은 문제에 계속 집중하도록 도울 수 있습니다.

항상 완전한 답이 필요한 것은 아닙니다. 전체 풀이보다 작은 힌트가 나을 수 있습니다. 평가는 정확한 피드백과 과도한 도움을 구별해야 합니다. 오류를 찾았는지, 학습 기회를 남겼는지, 학습자 수준에 맞는 언어를 썼는지 확인합니다. 수준이 맞지 않는 빠른 설명도 수업을 방해합니다.

여러 정답이 가능한 사례와 의도적으로 모호한 답안을 준비합니다. 전체 설명 전에 힌트 하나를 요청합니다. 답을 수정하는 학습자도 포함해 수정본에 반응하는지 확인합니다. 단순한 정답지 출력보다 교육적 상호작용을 따르는지 드러나는 사례입니다.

음성 튜터에서 텍스트 모델은 하나의 구성요소입니다. 음성 인식, 발화 순서 처리, 음성 생성도 시간과 오류를 더합니다. 텍스트 처리량을 대화 반응성 주장으로 바꾸기 전에 음성 대화 전체를 시험해야 합니다. 텍스트 단계가 빨라지면 여유가 생기지만, 자연스러움은 여전히 오디오 단계에 달려 있을 수 있습니다.

브라우저 에이전트에는 시간 측정과 종료 규칙이 필요합니다

세 번째는 여러 공개 페이지에서 공급업체의 현재 조건을 비교하는 도우미입니다. 페이지를 읽고, 중요한 링크를 선택하고, 조건을 추출한 뒤 다른 출처를 확인합니다. 모델 호출이 빨라지면 반복되는 대기 시간이 줄 수 있습니다. 반대로 다음 단계가 저렴하다는 이유로 계속 탐색할 유혹도 생깁니다.

속도를 재기 전에 완료 조건을 정합니다. 예를 들어 후보마다 날짜가 있는 가격, 서비스 제한, 출처 링크를 확보하면 끝나는 업무입니다. 요건을 채우면 멈추고, 제한된 탐색 후에도 정보가 없으면 누락을 보고해야 합니다. 추가 호출의 가치는 명시된 불확실성을 해소하는지에 달려 있습니다.

브라우저 업무에는 행동 경계도 필요합니다. 공개 정보 읽기는 양식 제출, 계정 변경, 상품 구매와 다릅니다. 모델을 바꿔도 기존 애플리케이션의 권한과 확인 절차를 유지해야 합니다. 실행이 빨라지면 잘못된 행동도 빨리 일어날 뿐, 그 행동이 더 적절해지지는 않습니다.

성공한 업무와 실패한 업무는 따로 비교합니다. 한 모델은 일찍 멈추고 다른 모델은 오래 탐색한다면 단일 평균이 차이를 가릴 수 있습니다. 완료 시간 옆에 단계 수, 도구 실패, 빠진 근거를 함께 둡니다. 프로세스가 얼마나 오래 실행되었는지뿐 아니라 업무가 어떻게 끝났는지 설명하는 결과가 필요합니다.

가격표에는 프로모션 이후의 열도 필요합니다

10월 23일 확인한 Inception 모델 페이지는 Mercury 3를 입력 100만 토큰당 0.20달러, 출력 100만 토큰당 0.70달러로 표시하며, 출시 할인은 각각 0.10달러와 0.35달러입니다. 캐시 입력에는 별도 단가가 있습니다. 페이지에 프로모션 종료일은 명시되지 않았으므로 예산에는 정상가 경우도 남겨야 합니다.

직접 API 토큰 종류100만 토큰당 표시 가격100만 토큰당 출시 가격
입력0.20달러0.10달러
캐시 입력0.02달러0.01달러
출력0.70달러0.35달러

캐시되지 않은 입력 1억 토큰과 출력 2,000만 토큰의 예시 업무라면 정상가 계산은 34달러, 출시 가격은 17달러입니다. 정확히 이 토큰 사용량을 가정하고 다른 서비스 비용은 제외합니다. 실제 지원 운영비 추정이 아니라 두 가격 체계를 비교하는 예시입니다.

모델 토큰 비용, 도구 비용, 재시도와 검토를 수락된 완료 업무와 함께 비교하는 구조

자체 제작한 평가 구조입니다. 사용한 전체 자원과 수락된 업무 수를 비교하며, 제품 비용이나 성공률의 측정값은 제시하지 않습니다.

저렴한 호출도 비싼 업무의 일부가 될 수 있습니다. 조회, 브라우저 서비스, 음성 처리, 사람의 검토와 반복 시도가 총비용을 바꿉니다. 반대로 개별 호출이 비싸도 여러 실패를 피하면 경제적일 수 있습니다. 토큰 가격과 함께 수락된 업무당 비용을 추적해야 합니다.

캐시도 같은 원칙이 필요합니다. 반복 문서마다 캐시 단가가 적용된다고 가정하지 않습니다. 선택한 제공사가 실제 청구한 내용을 기록하고 해당 경로의 문서화된 조건을 적용합니다. 여러 플랫폼에서 제공하는 모델은 운영 조건, 제한이나 가격이 다를 수도 있습니다. 비교 기록에 제공 경로를 남겨야 합니다.

작은 재실행에서 시작해 구성요소 하나만 바꾸세요

10월 23일 확인한 Inception 빠른 시작 문서는 모델 식별자 mercury-3와 SDK, 호환되는 chat-completions 엔드포인트를 안내합니다. 기존 애플리케이션에 실용적인 통합 경로를 제공합니다. 호환성 덕분에 첫 요청은 쉬워지지만 프롬프트 동작과 업무 신뢰성은 별도로 확인해야 합니다.

  1. 되돌릴 수 있는 업무 하나를 고릅니다. 사람이 확인할 답변 초안이나 피드백 제안으로 시작합니다. 사용 권한이 있는 작은 표본과 사례별 명확한 수락 규칙을 준비합니다.
  2. 기준선을 저장합니다. 현재 모델, 프롬프트, 입력 크기, 출력 제한과 도구 결과를 기록합니다. 사례별 수락된 출력과 경과 시간을 남깁니다.
  3. Inception 계정과 API 키를 만듭니다. 키를 환경 변수나 기존 비밀 관리 시스템에 보관합니다. 묶음 실행 전에 현재 청구 및 사용량 제어를 확인합니다.
  4. 문서의 요청을 mercury-3로 실행합니다. 업무와 수락 기준을 유지합니다. 추론 강도와 출력 제한을 포함한 설정을 기록해 비교를 반복할 수 있게 합니다.
  5. 트래픽을 늘리기 전에 실패를 살핍니다. 사실 오류, 조건 누락, 스키마 오류와 불필요한 호출을 확인합니다. 대표 사례를 반복해 변동성을 파악합니다.
  6. 복귀 경로가 있는 파일럿을 운영합니다. 이전 제공사를 사용할 수 있게 남겨 두고, 사용량 한도를 설정하며, 일반 트래픽에서 수락된 업무의 시간과 비용을 관찰합니다.

최소한의 Python 시작점으로는 공식 SDK 예제를 민감하지 않은 시험 프롬프트에 맞게 바꿀 수 있습니다.

Python
from inceptionai import Inception

client = Inception()  # reads INCEPTION_API_KEY
response = client.chat.completions.create(
    model="mercury-3",
    messages=[{"role": "user", "content": "Give one hint for solving 3x + 4 = 19."}],
    reasoning_effort="medium",
    temperature=0.75,
    max_completion_tokens=512,
)
print(response.choices[0].message.content)

다음으로 유용한 산출물은 정답과 실패 사례가 함께 있는 비교표입니다. 표본 요청 성공은 연결이 된다는 것을 보여 줍니다. 기존 애플리케이션의 모든 설정, 도구 스키마나 프롬프트가 동일하게 동작함을 증명하지는 않습니다.

품질과 데이터 통제는 속도 옆에 있어야 합니다

Inception의 출시 비교는 목표 분야에서 기대할 만하지만, 모델의 전반적 능력과 특정 업무 적합성은 다른 질문입니다. 10월 23일 확인한 독립 평가기관 Vals AI의 Mercury 3 페이지는 자체 설정으로 여러 업무의 결과를 제시합니다. 점수는 해당 벤치마크 정의 안에서 해석해야 하며, 공급업체 처리량과 합쳐 보편적인 단일 순위를 만들어서는 안 됩니다.

더 유용한 습관은 모델의 편차를 살피는 것입니다. 짧은 구조화 응답에는 뛰어나면서 애플리케이션이 일상적으로 여기는 전문 업무에는 약할 수 있습니다. 어려운 사례를 파일럿 초기에 넣습니다. 성공 예시만 모으면 사람이 어디에서 도움을 필요로 할지 알기 어렵습니다.

데이터 처리는 서비스와 계약에 따라 달라집니다. Inception 이용약관은 계정 설정의 모델 학습 제외 옵션을 설명하며, 기업용 페이지는 구성 가능한 보존·배포 통제를 제공합니다. 고객 자료를 보내기 전에 적용 경로와 계약을 검토해야 합니다. 첫 비교에는 합성 예제나 적절한 권한을 확보한 사례를 사용합니다.

기존 사용자에게는 기억할 날짜가 있습니다. 모델 페이지에 따르면 10월 19일 전에 Mercury 2 또는 2.5를 사용한 고객은 2026년 11월 15일까지 접근을 유지하며 기업 지원은 계약에 따릅니다. 이전에는 예약된 재실행 검증과 복귀 계획이 필요합니다. 익숙한 이전 프롬프트도 새 모델에서 확인하는 절차를 대신하지 못합니다.

빠른 생성은 더 유용한 다음 단계를 만들어야 합니다

Mercury 3는 추론 속도를 설계 선택으로 다룰 이유를 제시합니다. 줄어든 시간을 수정, 출처 확인, 아직 도움이 되는 시점의 피드백에 쓸 수 있습니다. 우려는 빠른 시스템이 검토되지 않은 일을 더 많이 만들 수도 있다는 점입니다. 다음에 중요한 근거는 사람들이 맡긴 업무 전체에서 보이는 안정적인 성능입니다.

좋은 파일럿은 구체적인 답으로 끝납니다. 같은 기준에서 이 업무가 빨라졌는지, 그렇지 않았는지입니다. 모든 일에서 가장 빠른 모델이라고 선언하는 것보다 작은 주장이지만, 팀이 더 나은 경험을 출시하는 데 쓸 수 있는 주장입니다.


출처

비교 결과를 다시 검토할 수 있게 남기세요

권한이 있는 출처 자료와 모델 선택의 근거가 된 메모를 별도로 보관하려는 독자에게 Telli.sh도 하나의 선택지입니다. 메모로 시작하기.


← 블로그로 돌아가기