기본Context Window
컨텍스트 윈도우
AI가 한 번의 대화에서 한꺼번에 기억할 수 있는 정보의 최대 양이에요.
한 줄 비유
AI의 책상 크기예요. 책상이 꽉 차면 오래된 서류부터 밀려서 떨어져요.
바이브코딩에서 언제 만나나
대화가 길어지니 앞에서 한 말을 AI가 잊을 때, 그 범인이 컨텍스트 윈도우예요.
AI와 길게 대화하다 보면 이런 순간이 와요. 분명 아까 말했는데, AI가 그걸 까먹고 엉뚱한 소리를 하는 거죠. 사람이면 서운할 일인데, 여기엔 이유가 있어요.
AI는 한 번의 대화에서 기억할 수 있는 양에 정해진 한계가 있어요. 그 한계가 컨텍스트 윈도우예요. AI의 책상 크기라고 보면 돼요. 책상이 넓으면 서류를 많이 펼쳐두고 참고하지만, 꽉 차면 오래된 서류부터 밀려 떨어져요. 그렇게 떨어진 내용은 AI가 더 이상 못 봐요.
대화가 길수록, 긴 파일을 붙일수록 책상이 빨리 차요. 그래서 앞부분이 잊혀요.
이걸 알면 대처가 쉬워요. 중요한 지시는 한 번에 몰아서, 앞이 아니라 가까이에 다시 주는 거예요. 파일도 통째로 말고 필요한 부분만. 이 습관 하나로 “왜 자꾸 딴소리하지?” 하는 순간이 확 줄어요. 참고로 이 책상에 올라가는 글자 수를 세는 단위가 토큰이에요.
30초 확인 퀴즈
대화가 길어지자 AI가 앞부분 내용을 잊는 이유로 가장 알맞은 건?
컨텍스트 윈도우는 AI가 한 번에 기억하는 양의 상한이에요. 넘치면 앞쪽 내용부터 잘려나가요.