광고와 현실 사이의 거리
AI 제품 기업이 내거는 비전과 고객이 실제로 손에 쥐는 것 사이의 거리가 벌어지고 있다. 마케팅은 "사람이 하던 일을 대체해 비용을 크게 줄인다"고 말하지만 기술 쪽 사정은 다르다. 같은 모델, 같은 제공자를 쓰는데도 결과가 매번 달라지고, 그 차이가 개선인지 악화인지 판단할 방법이 마땅치 않다. 여기에 통제 밖의 변수까지 겹치면서 AI 제품의 신뢰는 마케팅이 아닌 다른 곳에서 갈리기 시작했다.
마케팅과 고용 현실의 거리
AI 를 "사람 대체"로 파는 방식은 초기 관심은 끌지만 장기 신뢰를 깎는다. 고용에 미치는 영향은 빼고 비용 절감 이득만 앞세우면, 사는 쪽은 그 약속 자체를 의심하게 된다. 그러면 마케팅 과장에서 그치지 않고 제품 신뢰 문제로 번진다.
더 나은 방식은 생산성 향상과 협업 효과를 말하는 것이다. 사용자가 자기 일상에서 확인할 수 있기 때문이다. 예를 들어 "반복 업무 30시간이 3시간으로 줄어든다"는 말은 "사람을 대체한다"는 말보다 검증하기 쉽다. 앞의 문장은 써보면 맞는지 알 수 있고, 뒤의 문장은 확인할 방법이 없다.
측정할 수 없는 제품
기술 층에서는 더 무거운 문제가 나온다. LLM 을 소프트웨어에 넣으면 정확도, 응답 속도, 비용 같은 기본 지표가 매번 흔들린다. 같은 모델, 같은 제공자인데도 결과가 일정하지 않다. 성능 편차 자체보다, 개발자가 원인을 짚을 수 없다는 점이 문제다.
개발자가 통제하는 것은 모델 선택과 사람이 짠 로직뿐이다. 나머지는 모델 내부 상태에 달려 있는데 그 상태는 볼 수 없다. 결과만 남고 "왜"는 남지 않는다. "어제는 되던 기능이 오늘은 왜 안 되나"라는 질문에 답을 못 준다는 뜻이다.
고객 쪽은 더 불안하다. 산 제품의 성능이 언제 떨어질지, 비용이 언제 뛸지 알 방법이 없다. 일정하지 않은 제품은 믿기 어렵고, 믿기 어려운 제품은 살 이유가 없다.
통제 밖에 있는 변수
제품이 딛고 선 모델은 우리 것이 아니다. 이용 조건과 가격, 지원 범위를 정하는 쪽은 모델 제공자이고, 그 결정이 바뀌면 어제까지 쓰던 구성을 오늘 못 쓸 수 있다. 오픈소스 모델이나 중개 서비스로 우회하는 길은 있지만, 최신 최상위 모델과의 격차는 남는다.
이것은 개발자만의 문제가 아니다. "이 제품이 계속 굴러가는가"라는 고객 질문에 확답을 못 주기 때문이다.
제약 공개가 만드는 신뢰
신뢰받는 AI 제품은 마케팅이 아니라 공개된 측정으로 만들어진다. 정확도 수치, 실패하는 경우, 비용 범위, 정책 위험을 그대로 밝히는 것이다. 고객이 원하는 것은 약속이 아니라 현실이다.
"이 조건에서 90% 정확도를 보장하고, 이런 경우에는 실패할 수 있으며, 비용은 월 X~Y 사이에서 움직이고, 모델 제공자의 정책 변화에 영향을 받습니다"라는 안내가 "무엇이든 해결해 드립니다"라는 약속보다 강하다.
앞의 안내는 확인이 되고, 고객이 그 제약 안에서 자기 사업을 설계할 수 있다. 뒤의 약속은 결국 어긋나고, 고객도 그것을 안다.
장기 관계는 일정함과 투명함에서 나온다. 마케팅이 할 일은 신뢰를 약속하는 것이 아니라 기술의 현실을 그대로 설명하는 일이다.