본문으로 건너뛰기

컨텍스트와 프롬프트 ​

컨텍스트와 지시가 런타임을 통해 모델 및 도구와 연결되는 기본 실행 구조
컨텍스트와 지시가 런타임을 통해 모델 및 도구와 연결되는 기본 실행 구조

모델, 컨텍스트, 프롬프트는 서로 다른 역할을 한다. 세 가지를 구분하면 요청 문장에 무엇을 쓰고, 작업에 필요한 정보를 어디에 둘지 정리하기 쉽다.

기준일: 2026-09-30

모델의 기본 능력 ​

모델은 학습을 통해 만들어진 신경망이다. 모델을 선택하는 것은 기본 능력이 다른 모델을 고르는 것이며, 현재 작업에 필요한 코드나 문서까지 자동으로 제공하는 것은 아니다.

모델의 후보와 선택 기준은 모델에서 다룬다. 여기서는 선택한 모델에 제공하는 정보와 요청을 구분한다.

현재 제공된 정보 ​

컨텍스트는 모델이 지금 응답을 만들 때 실제로 제공받는 정보다. 다음과 같은 내용이 작업에 따라 포함될 수 있다.

  • 시스템·런타임 지침과 사용자 요청
  • 이전 대화와 적용된 AGENTS.md·CLAUDE.md 지침
  • 로드한 스킬과 참조 문서
  • 읽은 코드와 도구 실행 결과
  • 터미널 출력, 테스트 결과, 빌드 결과

파일이 저장소에 있다는 것과 그 내용을 모델에 제공했다는 것은 다르다. 어떤 파일과 지침을 언제 읽는지는 런타임과 설정에 따라 달라진다.

컨텍스트의 한계 ​

필요한 자료를 많이 붙이는 것만으로 좋은 결과가 보장되지는 않는다. 오래된 정보, 충돌하는 지시, 불필요한 문서, 지나치게 많은 도구, 거대한 룰, 작업과 무관한 코드가 섞이지 않게 정리한다.

중요한 것은 필요한 컨텍스트를 적절한 시점에 제공하는 것이다.

정보의 성격두는 곳과 제공 시점
매번 적용할 필수·금지 사항룰에 두고 해당 작업에 적용한다
특정 작업에서 필요한 절차스킬에 두고 필요할 때 로드한다
상세한 프로젝트 지식문서에 두고 관련 부분을 읽게 한다
현재 상태와 검증 결과필요한 도구를 실행해 결과를 제공한다

참고: 공식 권장도 지침을 간결하게 유지하고 필요한 정보를 작업에 맞게 제공하는 방향이다. Claude Code와 Codex의 작업 방법을 확인한다. Claude Code 권장 사항, Codex 권장 사항

지금 해달라는 요청 ​

프롬프트는 모델에 주는 현재의 요청이나 지시다. 다음처럼 짧은 문장도 프롬프트다.

text
이 버그를 수정해.
text
회원가입 기능을 구현하고 관련 테스트를 추가해.

프롬프트도 컨텍스트의 일부다. 현재 요청은 이전 대화, 룰, 읽은 코드, 문서, 도구 결과와 함께 제공된다.

무엇을 바꾸고 싶은지, 필요한 자료가 어디에 있는지, 무엇을 유지해야 하는지, 결과를 어떻게 확인할지를 적으면 작업 범위를 정리하기 쉽다. 공식 프롬프트 안내는 필요한 결과·컨텍스트·경계를 구체적으로 설명하는 예시를 제공한다.

제로샷·퓨샷 비교 ​

제로샷은 요청에 작업 예시를 붙이지 않는 방식이다. 퓨샷은 원하는 입력·출력의 예시를 몇 개 붙이는 방식이다. 다음은 같은 변경에 대해 커밋 메시지 한 줄을 요청하는 비교다.

제로샷

text
변경: 로그인 실패 시 오류 메시지를 표시하도록 수정했다.
커밋 메시지를 한 줄로 작성해.
형식은 fix(영문 범위): 한국어 설명으로 해.

퓨샷

text
다음 예시와 같은 형식으로 커밋 메시지를 한 줄 작성해.

변경: 장바구니에 상품을 추가하는 기능을 만들었다.
메시지: feat(cart): 상품 추가 기능

변경: 비밀번호 재설정 링크의 만료 오류를 수정했다.
메시지: fix(auth): 재설정 링크 만료 오류 수정

변경: 로그인 실패 시 오류 메시지를 표시하도록 수정했다.
메시지:

룰·스킬·참고 문서가 아직 정리되지 않았을 때는 퓨샷으로 원하는 형식과 수준을 먼저 보여 준다. 반복해서 쓸 기준이 정리된 뒤에는 그 자료를 제공하는 하네스와 제로샷 요청을 우선 사용한다. 여기서 제로샷은 참고 자료 없이 작업시킨다는 뜻이 아니라, 현재 요청에 별도의 작업 예시를 붙이지 않는다는 뜻이다.

같은 예시를 매번 복사하게 된다면 룰·스킬·참고 문서로 옮길 시점이다. 결과가 맞지 않을 때는 검증 결과를 바탕으로 기준이나 예시를 보완한다.

세 가지를 연결하는 하네스 ​

개념이 문서에서의 의미
모델학습된 기본 능력
컨텍스트현재 실제로 제공된 정보
프롬프트지금 해달라는 요청
하네스정보·요청·도구·권한·검증을 연결하는 작업 환경

하네스는 어떤 컨텍스트를 언제 제공할지, 어떤 도구를 실행할 수 있게 할지, 결과를 어떻게 검증할지를 구성한다. 같은 모델에 같은 요청을 하더라도 필요한 코드와 테스트 결과를 제공하는 환경은 다를 수 있다.

모델에 요청과 참고 자료를 제공하고, 도구와 검증을 작업 환경에 연결한다.
모델에 요청과 참고 자료를 제공하고, 도구와 검증을 작업 환경에 연결한다.

프롬프트보다 하네스인 이유 ​

모델이 좋은 지시 방식을 스스로 갖추면서 프롬프트와 컨텍스트를 세밀하게 다듬는 일의 효과는 점점 줄고 있다. 결과의 품질을 좌우하는 것은 에이전트가 일하는 환경, 즉 하네스를 어떻게 설계하느냐다.

프롬프트와 컨텍스트가 필요 없어졌다는 뜻은 아니다. 매번 사람이 요청 문장을 미세하게 조정하기보다, 룰·스킬·문서·도구·테스트로 필요한 정보를 구조화해 관리하는 비중이 커졌다는 의미다.

작업 환경을 구성할 때는 다음 질문을 확인한다.

  • 필요한 정보를 어디에 둘 것인가.
  • 어떤 파일이나 문서를 읽게 할 것인가.
  • 무엇을 실행할 수 있게 할 것인가.
  • 결과를 어떻게 검증할 것인가.
  • 실패에서 확인한 내용을 다음 작업에 어떻게 남길 것인가.

참고: 공식 문서는 프롬프트의 역할도 계속 설명한다. 위 주장은 프롬프트가 불필요하다는 공식 선언이 아니라 작업 방식의 중심에 관한 의견으로 읽는다. Codex의 프롬프트 안내는 원하는 변경·관련 자료·제약·검증 방법을 요청에 담도록 설명한다.

보충: 모델 성능을 높이는 방법

기준일: 2026-09-30. 여기서 성능 향상은 해당 작업의 결과를 개선한다는 뜻이다. 아래 네 가지가 모두 모델 가중치를 바꾸는 것은 아니며, 효과는 작업 결과로 검증한다.

방법무엇을 바꾸는가비용·난이도를 판단할 작업
1. 프롬프트 엔지니어링입력의 지시·예시·출력 형식을 다듬는다.문장 수정부터 시작할 수 있어 초기 준비가 적다. 반복 평가와 길어진 입력에 드는 호출 비용을 확인한다. 공식 안내
2. RAG·컨텍스트 엔지니어링참고 자료를 검색하고 필요한 내용을 입력에 제공한다. RAG는 컨텍스트를 마련하는 한 방법이다.자료 정리·검색·갱신을 구성해야 하므로 단순 문장 수정보다 준비·운영 항목이 많다. 검색과 추가 입력의 비용도 비교한다. 공식 RAG 설명
3. 하네스 엔지니어링실행 환경과 작업 흐름에 해당하는 룰·스킬·도구·권한·상태·검증을 연결한다.구성뿐 아니라 도구 실행·승인·실패 처리와 검증 루프를 운영해야 한다. VS Code의 공식 하네스 설명
4. 파인튜닝학습 데이터로 모델 가중치를 조정한다.데이터 준비·학습·평가 과정이 필요해 별도 학습 작업을 운영해야 한다. 지원 모델과 학습·추론 비용을 따로 확인한다. 공식 학습 안내

비용과 난이도는 모델·자료·작업 범위에 따라 달라지므로 고정된 순위로 보지 않는다. 이 자료집은 기존 코딩 에이전트에 일을 맡기고 결과를 검증하는 방법을 다루므로 3)에 집중한다. 1)과 2)는 그 작업 환경의 일부로 활용하며, 별도 모델을 학습시키는 것이 출발점은 아니다.

속도·용량을 위한 기법은 결과의 정확도를 높이는 방법과 구분한다.

  • 양자화: 가중치 등을 더 낮은 정밀도로 표현해 메모리 사용량을 줄인다. 품질을 최대한 유지하는 것이 목표지만, 속도와 정확도는 기법·하드웨어에 따라 확인해야 한다. Hugging Face 공식 설명
  • 프롬프트 캐싱: 요청 사이에서 반복되는 입력 부분의 처리를 재사용한다. 캐시가 적중하면 입력 처리 비용과 지연을 줄일 수 있다. 답변을 저장해 그대로 돌려주는 기능으로 설명하지 않는다. OpenAI 공식 설명
  • KV 캐시: 토큰 생성 중 이전 토큰의 key·value 계산 결과를 보관해 다시 계산하지 않게 한다. 계산을 줄이는 대신 캐시 메모리가 필요하다. 요청 간 프롬프트 캐싱과 같은 운영 수준의 기능으로 취급하지 않는다. Hugging Face 공식 설명

이 기법을 쓴다고 모델의 기본 능력이 자동으로 높아지는 것은 아니다. API 사용자는 제공자가 지원하는 캐싱 조건을 확인하고, 직접 모델을 실행할 때는 양자화·KV 캐시의 메모리와 품질을 함께 비교한다.