Context Window
컨텍스트 윈도우
언어 모델이 한 번의 요청과 응답 처리 과정에서 동시에 기억하고 처리할 수 있는 최대 토큰 허용 한도
실무 적용 및 상세 가이드
더 많은 문서와 대화 이력을 한 번에 넣을 수 있어 복잡한 장문 분석 가능 컨텍스트가 길어질수록 중간 정보 유실(Lost in the middle) 현상이 생기므로 핵심 정보는 양 끝에 배치
컨텍스트 윈도우
언어 모델이 한 번의 요청과 응답 처리 과정에서 동시에 기억하고 처리할 수 있는 최대 토큰 허용 한도
더 많은 문서와 대화 이력을 한 번에 넣을 수 있어 복잡한 장문 분석 가능 컨텍스트가 길어질수록 중간 정보 유실(Lost in the middle) 현상이 생기므로 핵심 정보는 양 끝에 배치