AI Tools7분 분량

AI가 고객 문의 한 건을 제대로 해결하는 데 얼마가 들까?

IBM Apptio가 Cloudability에 더 많은 모델 사용 데이터를 연결합니다. 재시도, 사람의 검토, 재접수가 문의 해결 단가를 어떻게 바꾸는지 사례로 살펴봅니다.

K
Ken Jo

두 고객 지원팀이 비슷한 AI 어시스턴트를 씁니다. 한 팀은 요청당 모델 비용이 더 쌉니다. 다른 팀은 요청마다 더 쓰는 대신 상담원이 답변을 고쳐야 하는 일이 적습니다. 어느 쪽 운영비가 더 낮은지 묻는다면 토큰 청구서만으로는 답할 수 없습니다. 두 팀에 필요한 공통 단위는 실제로 해결된 상태를 유지한 문의 한 건입니다.

2026년 11월 9일 IBM Apptio는 AI 사용량과 비용을 연동하는 새 기능을 발표했습니다. Apptio는 IBM의 기술 재무 관리 사업이고, Cloudability는 클라우드 지출을 추적하고 배분하는 플랫폼입니다. IBM에 따르면 새 AI 시스템 커넥터와 Cloudability의 AI 단위 경제성 기능은 정식 제공 중이며, 데이터 소스와 기능은 추후 더 추가됩니다. 비용 계산에 넣을 수 있는 자료가 늘어나지만, 결과를 정의하고 집계하는 일은 팀에 남습니다. IBM 발표 및 제공 현황 · IBM Cloudability 개요

문의 한 건이면 세부를 살펴보기에 충분히 작습니다. 접수부터 모델 호출, 상담원 인계, 해결까지 따라가 보세요. 그런 다음 완료 기준을 통일하고 일주일치 문의로 두 방식을 비교합니다. 무엇이 바뀌었고 절감 효과를 확대할 만한지 설명할 수 있는 결과를 얻는 것이 목표입니다.

IBM은 모델 사용량을 더 넓은 비용 기록과 연결하고 있습니다

11월 9일 발표에는 Apptio 제품군에서 AI 비용과 사용량 데이터를 직접 연결하는 기능이 나옵니다. IBM에 따르면 Cloudability는 클라우드 지출과 함께 애플리케이션 비용, 사용량, 토큰 데이터도 다룰 수 있습니다. AI 단위 경제성 분석과 AI 서비스 재무 계획은 정식 제공 항목입니다. 단위 경제성 기능의 추가 개선은 2026년 4분기와 2027년에 걸쳐 계획돼 있습니다. 발표는 기능의 범위와 제공 상태를 설명합니다. 특정 커넥터에 의존하기 전에 실제 청구 소스, 계정, 사용량 필드가 지원되는지 확인하세요. IBM 출시 및 제공 안내

어시스턴트 비용은 주 모델 호출에서 끝나지 않습니다. 정책 문서를 찾아보거나 검색 결과를 다시 정렬하고, 요청을 재시도하거나 다른 모델로 대화를 보낼 수 있습니다. 저장과 운영 관측 비용, 상담원이 초안을 검토하고 고치는 시간도 들어갑니다. 청구서, 사내 단가, 고객 지원 기록에서 가져오는 항목을 열로 나누면 담당자가 각 가정을 확인하기 쉽습니다.

모델 사용량과 애플리케이션 인프라, 상담원 검토 비용을 합쳐 문의 해결 단가를 구하는 과정

지출과 처리량 기록을 모아 공통 해결 기준을 충족한 문의 건수로 나눌 수 있습니다. Telli.sh 제작.

모델 비용을 보고하는 연동 기능은 첫 번째 열을 채우는 데 도움이 됩니다. 모델 식별자나 작업 태그로 어느 앱에서 비용이 발생했는지 연결할 수 있습니다. 고객이 쓸 수 있는 답을 받았는지, 같은 문제가 다시 들어왔는지는 지원 시스템이 압니다. 두 기록이 같은 기간과 업무를 다룰 때 계산에 의미가 생깁니다.

예를 들어 청구서는 매달 오지만, 어시스턴트 적용 범위는 매주 바뀔 수 있습니다. 주간 실험에는 잠정값을 사용하고, 청구가 마감되면 실제 청구 사용량과 대조하세요. 실측값과 배분액도 구분해 두면, 사후 정산 때문에 수치가 변했을 때 실제 동작이 바뀐 것처럼 추적할 필요가 없습니다.

가격을 비교하기 전에 무엇을 해결로 볼지 정하세요

결과를 가장 크게 바꿀 수 있는 선택은 분모입니다. 지원팀은 닫힌 문의를 한 번만 세고, 같은 문제로 다시 연락했을 때 어떻게 처리할지 정할 수 있습니다. 아래 예에서는 해결한 뒤 7일 안에 다시 열린 문의를 제외합니다. 7일은 설명용 정책이며 IBM 제품의 기본값은 아닙니다. 고객 여정이 다르다면 비교 자료를 모으기 전에 알맞은 기간을 정하세요.

AI 처리 경로에서 빠진 문의도 어떻게 셀지 결정해야 합니다. 전체 지원 업무의 비용이 궁금하다면 AI가 혼자 해결한 문의와 사람이 도운 문의를 모두 세고, 인계와 검토 시간을 비용에 넣습니다. 자율 해결 비용이 궁금하다면 사람 없이 기준을 충족한 문의의 비율도 보고하세요. 두 관점은 같은 시스템에 서로 다른 질문을 던집니다.

지원 시스템에서 가능하다면 다시 열린 문의를 원래 식별자로 추적하세요. 빠른 답변을 받은 고객이 다음 날 돌아와 사람의 도움으로 해결했는데, 그 과정이 두 번의 성공으로 집계될 수 있습니다. 공정하게 비교하려면 재접수 관찰 기간이 지나기를 기다리거나, 최근 집단을 잠정치로 표시하세요. 대시보드에서 어느 쪽인지 명확히 보여 줄 수 있습니다.

두 집단에 비슷한 문의가 들어가는지도 확인하세요. 비밀번호 재설정과 결제 분쟁, 해외 반품은 해결 과정이 다릅니다. 문제 유형별로 나누거나, 실험 단계에서 비교 가능한 문의를 두 방식에 분배하세요. 이 과정이 없으면 두 번째 방식의 평균이 낮아진 이유가 단지 쉬운 문의가 많은 한 주였기 때문일 수 있습니다.

토큰 청구액이 작아도 문의 해결 단가는 더 높을 수 있습니다

계산을 쉽게 보기 위해 단순한 수치를 쓴 예입니다. 두 방식 모두 문의 100건을 받습니다. 7일의 재접수 관찰 기간을 동일하게 적용하고, 직접 모델 비용과 앱 비용, 유급 검토 시간을 보고합니다. 아래 수치는 계산 방식을 설명하기 위한 가정입니다.

비슷한 문의가 들어온 일주일모델 비용이 낮은 방식모델 비용이 높은 방식
모델 청구액$12$20
그 밖의 애플리케이션 비용$5$5
검토와 재작업$43$27
총비용$60$52
기준을 충족한 해결 건수8090
해결 한 건당 비용$0.75약 $0.58

두 번째 방식은 모델에 $8를 더 쓰고 검토와 재작업에 $16를 덜 씁니다. 같은 기준으로 해결한 문의도 10건 더 많습니다. $52를 90건으로 나누면 건당 약 $0.58입니다. 첫 번째 방식은 $60를 80건으로 나눈 $0.75입니다. 운영비와 결과의 변화가 모델 청구액의 변화보다 크면 이렇게 순위가 뒤집힐 수 있습니다.

설명용 비교에서 문의 해결 한 건당 75센트와 약 58센트

실측 결과가 아닌 설명용 수치입니다. 모델에 더 쓰는 방식은 검토 비용이 낮고 해결한 문의가 더 많아 해결 단가가 낮습니다. Telli.sh 제작.

이제 가정 하나를 바꿔 봅시다. 두 번째 방식의 검토에 $15가 더 들면 총 $67, 해결 단가는 약 $0.74가 됩니다. 두 방식이 거의 비슷해집니다. 모델을 바꾸는 데 얼마나 시간을 들일지 결정하기 전에 알아야 할 내용입니다. 인건비 추정치를 조금 바꿨는데 결론이 뒤집힌다면, 단정하기보다 실제 작업 시간을 더 잘 측정해야 합니다.

평균에는 서비스 악화가 가려질 수 있습니다. 더 비싼 모델이 어려운 문의 몇 건은 잘 해결하지만 나머지 고객의 응답은 늦출 수도 있습니다. 재접수율이나 해결까지 걸린 시간처럼 결과 지표를 한두 개 추가하세요. 비용 지표 옆에 두면 가장 저렴한 방식이 서비스 기준을 충족하는지도 볼 수 있습니다.

공용 비용은 누구나 검토할 수 있는 기준으로 나누세요

한 회사가 두 지원 어시스턴트에서 같은 검색 서비스를 쓸 수 있습니다. 주간 비용이 $90이고 요청이 양쪽에서 절반씩 들어온다면, 우선 반씩 나누는 것은 합리적입니다. 한 팀이 훨씬 많은 문서를 색인하거나 한 앱의 질의 단가가 높다면 이 기준은 실제 부담을 덜 반영합니다. 가장 가까운 비용 발생 지표를 사용하고, 나머지 공용 비용도 따로 기록하세요.

검토 시간도 비슷합니다. 상담원이 초안을 2분 동안 수정했다면, 원래 지원 시스템에 로그인해 있었을 사람이라도 추가 단계의 시간을 세어야 합니다. 불필요한 고객 정보를 기록하지 않고 비용을 추정하려면 승인된 작은 표본에서 시간을 재고, 문제 유형별로 집계해 문서화한 사내 단가를 적용하세요. 최종값을 센트까지 표시하는 것보다 실측과 가정을 구분하는 일이 중요합니다.

트래픽이 달라지는 경우도 고려하세요. 일주일 동안 흔한 문의를 비교할 자료는 충분해도, 특정 문의 유형에 따로 결론을 내릴 만큼 사례가 모이지 않을 수 있습니다. 그 관측을 남기고 경로를 바꾸기 전에 다음 기간의 자료를 모으세요. 새 팀의 문의 유형 비중이 다르다면 기존 평균에 더 큰 건수를 곱하기보다 새 분포로 비교를 다시 합니다.

보고서에서 사업 결과와 담당자를 볼 수 있게 하세요. 예를 들어 총비용 아래에 모델, 인프라, 인력 비용을 나누고 담당 팀을 표시합니다. 검토가 주된 비용이면 지원팀이 어떤 답을 다시 쓰는지 살펴볼 수 있습니다. 공용 서비스가 원인이면 플랫폼 엔지니어링 팀이 배분 기준과 사용량을 확인할 수 있습니다. 청구서 한 장만 보고 다음 조치를 추측할 필요가 없습니다.

일주일치부터 시작해 원본 기록과 맞춰 보세요

  1. 업무 하나와 결과 하나를 정합니다. 대상 문의 유형, 해결 기준, 재접수 관찰 기간, 사람에게 인계한 문의의 처리 기준을 기록하세요.
  2. 사용량 자료의 출처를 적습니다. Cloudability나 기존 비용 보고서에서 모델 청구액과 관련 인프라 계정을 찾으세요. 비용 기간, 통화, 작업 식별자가 지원 시스템에서 추출한 자료와 맞는지 확인합니다. IBM Cloudability 개요
  3. 직접 비용과 공용 비용을 배분합니다. 가능하면 직접 비용을 애플리케이션 태그에 연결하세요. 공용 서비스별 배분 기준을 적고, 배분하지 못한 비용도 보이게 둡니다.
  4. 사람에게 남는 일을 측정합니다. 승인된 표본으로 검토와 재작업 시간을 추정하세요. 두 방식을 비교하는 데 필요한 최소 집계 수준에서 해결 건수를 연결합니다.
  5. 같은 서비스 요건에서 비교합니다. 재접수 관찰 기간 후 다시 계산하고, 주요 가정 하나를 바꿔 보고, 서비스 품질을 점검한 뒤 방식을 고르세요. 예산에 추정치를 쓰기 전에 청구서와 실제 청구액을 대조합니다.

이미 운영 중인 업무라면 현재 모델을 기준으로 삼고 팀이 바꾸고 싶은 동작 하나를 고르세요. 예를 들어 쉬운 질문에는 기존 모델을 유지하고, 상위 단계로 넘어간 문의에서는 더 유능한 모델을 평가할 수 있습니다. 분기 결정이 해결 결과를 얼마나 자주 개선하는지, 비용은 얼마나 드는지 측정하세요. 그러면 전면 교체 없이 분기 정책을 바꿀 근거가 생깁니다.

비슷한 계산을 내부 정책 문의에도 적용할 수 있습니다. 승인된 정책에서 검색하는 비용, 추가 확인, 담당자의 수정 시간이 모두 들어갑니다. 결과를 현재 정책에 근거한 정답으로 정의할 수 있습니다. 가격을 보기 전에 팀이 분모를 정하면, 오래된 문서를 근거로 빠르게 답한 경우를 같은 성공으로 세지 않고 두 경로를 비교할 수 있습니다.

비용 기록이 마감된 후 짧게 검토하세요. 배분하지 못한 사용량이 결정을 바꿀 정도였는지, 관찰 기간에 일반적인 재문의가 들어왔는지, 해결된 문의의 구성에 변화가 있었는지 확인합니다. 자료 정의를 보고서와 함께 보관하면 새 제공업체나 모델로 다시 비교할 때도 재무팀과 지원팀이 같은 가정을 살펴볼 수 있습니다.

청구서에서 시작하되 고객에게 남은 결과까지 확인하세요

Apptio의 11월 업데이트로 더 많은 AI 지출을 다른 기술 비용과 같은 관점에서 볼 수 있게 됐습니다. 하나의 결과를 만드는 비용이 모델 제공업체와 앱 서비스, 사람에게 나뉠 때 도움이 됩니다. 지원팀이 다음으로 던질 질문은 구체적입니다. 고객이 같은 문제로 돌아오지 않을 만큼 제대로 해결받는 데 회사는 얼마를 썼을까요? 그 수치를 설명하고 다음 주에도 같은 방식으로 계산할 수 있다면 어디에 투자할지 판단할 근거가 생깁니다.

출처


실험 과정의 검토 내용과 운영 결정을 나중에 찾아볼 수 있게 남기려면 Telli.sh 계정을 만들어 보세요.


← 블로그로 돌아가기