프롬프트는 길게 쓴다고 좋은 게 아니에요 — '간결함'이 돈과 성능을 동시에 잡는 법

프롬프트는 길게 쓴다고 좋은 게 아니에요 — '간결함'이 돈과 성능을 동시에 잡는 법

AI에게 일을 시킬 때 프롬프트(지시문)를 어떻게 쓰세요? 많은 분이 '혹시 못 알아들을까 봐' 정중한 인사말에, 부연 설명에, 같은 말을 두세 번 반복하면서 점점 길게 쓰는데요. 그런데 이번에 소개할 글은 정반대를 이야기해요. 프롬프트는 짧고 효율적인 언어로 쓸 때 오히려 더 잘 동작하고, 돈도 아낄 수 있다는 거죠.

왜 짧은 게 이득이냐면

핵심은 '토큰(token)'이에요. 이게 뭐냐면, AI는 글자를 단어보다 작은 조각으로 잘라서 처리하는데 그 조각 하나하나를 토큰이라고 불러요. 그리고 우리가 내는 AI 사용료는 대부분 이 토큰 개수만큼 매겨져요. 즉 'please, I would kindly like you to...' 같은 정중하지만 알맹이 없는 표현은 그 자체가 다 돈이고, 처리 시간(응답 지연)이에요. 사람한테는 예의지만 AI한테는 그냥 군더더기인 거죠.

게다가 말을 길게 늘어놓으면 정작 중요한 지시가 묻혀버리는 문제도 생겨요. AI 입장에서는 '이 사람이 진짜 원하는 게 뭐지?' 하고 핵심을 찾느라 헷갈리게 되거든요. 그래서 글쓴이는 몇 가지 요령을 제안해요. 인사말과 사과 같은 사교성 멘트는 빼고, '~해주실 수 있을까요?' 대신 '~해라'처럼 명령형으로 쓰고, 비슷한 지시를 반복하지 말고, 조건이 여러 개면 줄글로 풀지 말고 번호나 목록으로 구조화하라는 거예요.

단, '짧게'와 '대충'은 다릅니다

여기서 오해하면 안 되는 게 있어요. 간결함의 목적은 글자 수를 줄이는 게 아니라 명확함이에요. 꼭 필요한 맥락까지 잘라내면 AI가 엉뚱한 답을 내놓거든요. 예를 들어 '이 코드 고쳐줘'보다는 '이 파이썬 함수에서 None이 들어오면 터지는데, 예외 처리를 추가해줘'가 훨씬 좋아요. 길어졌지만 군더더기가 아니라 알맹이가 늘어난 거니까요. 정리하면 빼야 할 건 예의와 반복이고, 남겨야 할 건 구체적인 맥락이에요.

업계 흐름에서 보면

사실 이건 요즘 프롬프트 엔지니어링의 큰 흐름과 맞닿아 있어요. 한쪽에서는 RAG(검색 증강 생성)처럼 '맥락을 최대한 많이 넣어주자'는 접근이 있고, 다른 한쪽에서는 '꼭 필요한 것만 깔끔하게 넣자'는 접근이 있어요. 둘은 모순처럼 보이지만 사실 같은 이야기예요. 관련 있는 정보는 충분히, 관련 없는 잡음은 최소로 라는 거죠. 앤트로픽이나 오픈AI의 공식 프롬프트 가이드들도 점점 '명확하고 구조화된 지시'를 강조하는 방향으로 가고 있어요.

한국 개발자에게 주는 시사점

혼자 챗봇 한두 번 쓸 때는 토큰 몇 개 차이가 안 느껴져요. 그런데 서비스에 AI를 붙여서 하루에 수만 번씩 API를 호출하기 시작하면 이야기가 완전히 달라져요. 프롬프트에서 군더더기 20%만 덜어내도 그게 곧바로 월 청구서와 응답 속도로 돌아오거든요. 특히 사용자가 답을 기다리는 챗봇 같은 서비스라면, 짧은 프롬프트는 곧 빠른 응답이고 좋은 사용자 경험이에요. 프로덕션에 프롬프트를 올리기 전에 '이 문장, 빼도 결과가 같나?'를 한 번씩 점검하는 습관을 들여보세요.

한줄 정리: 좋은 프롬프트는 짧은 프롬프트가 아니라 군더더기 없이 명확한 프롬프트예요. 예의는 빼고 맥락은 남기세요.

여러분은 프롬프트를 쓸 때 길게 쓰는 편인가요, 짧게 쓰는 편인가요? 짧게 줄였더니 오히려 결과가 더 좋아졌던 경험이 있다면 공유해주세요.