토큰

바이브코딩을 하다 보면 “토큰”이라는 말을 계속 만나요. 요금 얘기할 때도, 문서가 잘렸다는 얘기할 때도 나오죠. 그래서 처음엔 좀 헷갈려요.

간단하게 봐요. AI는 글을 글자나 단어가 아니라 ‘토큰’ 단위로 읽어요. 대략 한글은 한 글자가 한두 토큰, 영어는 한 단어가 한 토큰쯤이에요. 우리가 문장을 눈으로 읽듯, AI는 토큰을 하나씩 세면서 읽는 셈이에요.

대화가 길어질수록 토큰이 쌓이고, 토큰이 곧 요금이자 길이 한도예요.

그래서 긴 코드나 문서를 통째로 붙여넣으면 두 가지가 벌어져요. 하나는 비용이 올라가는 것, 또 하나는 모델이 한 번에 담을 수 있는 양(컨텍스트)을 넘겨서 뒷부분이 잘리는 거예요. 저는 처음에 이걸 몰라서, 긴 파일을 매번 다 붙여넣다가 “왜 답이 자꾸 앞부분만 보고 얘기하지?” 하고 한참 헤맸어요.

요령은 단순해요. 필요한 부분만 잘라서 주기. 파일 전체가 아니라 관련 함수만, 로그 전체가 아니라 에러난 줄 주변만. 토큰을 아낀다는 건 결국 AI에게 “핵심만 정확히” 주는 습관이에요.