- 반복 CS 문의가 많은 카테고리가 있는가?
- 구매 후 이탈이 잦은 단계가 있는가?
- 상품 추천이나 리뷰 요약에 직원 리소스가 많이 들어가고 있는가?
AI 사용하려 할 때 이런 생각 해보신 적 있나요?
"AI 붙이고는 싶은데, 트래픽 몰릴 때 API 비용도 같이 터지는 거 아니에요?"
"고객 구매 데이터를 외부 서버에 넘겨도 괜찮은 건지 모르겠어요."
"플랫폼 가격 올리면 어떡하죠. 남의 기술에 사업을 맡기는 게 불안해서..."
틀린 말이 아닙니다.
현재 AI 구조는 위와 같은 문제점을 가지고 있습니다.
그런데 이 구조가 바뀔 수 있는 변곡점이 생겼습니다.

구글이 Gemma 4를 공개했습니다.
Gemma는 구글이 만든 오픈소스 AI 모델입니다.
오픈소스라는 말이 낯설다면 이렇게 이해하시면 됩니다.
레시피를 공개한 것과 비슷합니다.
구글이 "이 AI 모델 어떻게 만들었는지 다 공개할게, 가져다 써"라고 한 셈입니다.
핵심은 Apache 2.0 라이선스입니다.
쉽게 말하면, 상업적으로 써도 무료라는 뜻입니다.
내 서버에 설치해서 우리 쇼핑몰에 붙여도, 사용료를 구글에 낼 필요가 없습니다.
이게 왜 중요한지, 이커머스 운영 관점에서 세 가지로 정리해드리겠습니다.
기존 상용 AI API의 과금 방식은 종량제입니다.
고객이 챗봇에 질문을 하나 보낼 때마다 돈이 나갑니다.
평상시엔 괜찮습니다.
하지만 월말 기획전, 블랙프라이데이, 신제품 런칭일처럼
트래픽이 몰리는 날에는 AI 비용이 수십 배로 불어날 수 있습니다.
오픈 모델을 자사 서버에 직접 구축하면 구조가 달라집니다.
∎ 기존 | 고객 요청마다 수수료 💸 → 프로모션 때 AI 비용도 눈덩이처럼 폭증 | |
∎ 오픈 모델 자사 서버 구축 | 모델 사용료 0원 → 규모가 커질수록 오히려 비용 효율 UP 📉 | |
트래픽이 두 배가 돼도 AI 비용은 그대로입니다.
성장할수록 효율이 좋아지는 구조입니다.
상용 API를 쓰면 데이터가 외부 서버를 거칩니다.
고객이 입력한 내용, 구매 패턴, 리뷰 텍스트 같은 것들이 API 요청에 담겨 외부로 전송됩니다.
개인정보보호법 이슈와도 맞닿아 있고,
실제로 민감한 쇼핑몰 데이터를 외부에 노출하는 게 찜찜한 건 당연합니다.
그러나 자사 서버에 모델을 올리면 데이터가 사내에서만 처리됩니다.
그리고 여기서 중요한 차이가 하나 더 생깁니다.
우리 쇼핑몰 데이터로만 파인튜닝이 가능해집니다.
우리 고객 리뷰, 우리 CS 대화, 우리 상품 카테고리를 학습시켜서
"이 쇼핑몰에 특화된 AI"를 만들 수 있다는 뜻입니다.
범용 챗봇이 아니라, 우리 브랜드의 맥락을 아는 AI가 됩니다.
Gemma 4는 에이전트(Agent) 기능을 지원합니다.
예를 들면 이렇습니다.
고객: "주문 일부만 취소해줄 수 있어요?" AI: → 주문 관리 시스템에 직접 접속 → 부분 취소 처리 → 결과 안내까지 자동 완료 고객: "배송지를 회사 주소로 바꿔주세요" AI: → 배송 시스템에 접근 → 정보 변경 → 변경 완료 메시지 발송 |
CS 직원이 해야 하는 반복 업무를 AI가 처리합니다.
24시간, 주말도, 연휴도 쉬지 않습니다.
단순 FAQ 챗봇이 아니라, 실제로 일하는 CS 에이전트를 채용하는 것과 같습니다.
Gemma 4 같은 오픈 모델의 등장은,
AI를 "빌려 쓰는 툴"에서 "내부 자산"으로 전환할 수 있는
첫 번째 현실적인 기회입니다.
당장 전체를 바꾸려 하기보다는,
우리 쇼핑몰에서 자동화할 수 있는 구간이 어디인지 먼저 짚어보는 게 시작입니다.
💡
- 반복 CS 문의가 많은 카테고리가 있는가?
- 구매 후 이탈이 잦은 단계가 있는가?
- 상품 추천이나 리뷰 요약에 직원 리소스가 많이 들어가고 있는가?
이 구간 하나를 AI로 내재화하는 것만으로도
비용 구조와 운영 효율이 달라집니다.
올해 이익률을 결정하는 변수 중 하나가 이 판단에서 나올 수 있습니다.
AI 도입 방향이 고민된다면,
지금 운영 구조를 한 번 점검해보는건 어떠신가요?
다음에도 유익한 마케팅 인사이트로 찾아오겠습니다 :)
콘크리트파머스(CCFM) 공식 블로그