긴 문서 다루는 프롬프트 요령: 100페이지 자료에서 정확한 답 찾기

클로드의 큰 장점 중 하나는 긴 자료를 한 번에 읽는 능력입니다. 하지만 "읽을 수 있다"와 "정확하게 답한다"는 다른 문제입니다. 같은 100쪽 자료라도 어떻게 넣고 어떻게 묻느냐에 따라 결과가 달라졌습니다. 이번 글에서는 긴 문서를 다룰 때의 프롬프트 요령을 정리합니다.

요령 1. 자료는 위에, 질문은 맨 아래에

Anthropic 공식 문서에서 권장하는 가장 기본적인 원칙입니다.

<documents>
(긴 자료)
</documents>

(지시와 질문)

질문을 먼저 쓰고 긴 자료를 뒤에 붙이면, 자료를 다 읽은 뒤 질문을 다시 찾아야 하는 셈입니다. 질문을 마지막에 두면 답변 품질이 좋아진다고 안내되어 있고, 제 경험도 같았습니다.

요령 2. 문서마다 이름표 붙이기

여러 문서를 넣을 때는 각 문서에 메타데이터를 붙입니다.

<documents>
  <document index="1">
    <source>2026년 상반기 고객 만족도 조사 보고서</source>
    <date>2026-07-15</date>
    <document_content>
    (본문)
    </document_content>
  </document>
  <document index="2">
    <source>고객센터 VOC 월간 요약 (8월)</source>
    <date>2026-09-03</date>
    <document_content>
    (본문)
    </document_content>
  </document>
</documents>

이렇게 하면 "2번 문서에 따르면"처럼 어느 문서의 내용인지 명확히 구분해 답하고, 날짜가 다른 문서 사이의 변화도 짚어 줍니다.

요령 3. 인용 먼저, 답은 나중에

긴 자료일수록 관련 없는 부분에 주의가 흩어지기 쉽습니다. 먼저 관련 부분을 찾게 하면 정확도가 올라갑니다.

먼저 질문과 관련된 문장을 문서에서 그대로 인용해 <quotes> 태그에 넣어 줘.
그다음 <quotes>만 근거로 <answer> 태그에 답해 줘.
관련 문장이 없으면 "문서에서 찾을 수 없음"이라고 답해.

질문: 고객 불만 1위 항목은 상반기와 8월에 같은가?

인용을 먼저 찾게 하는 방식은 환각 줄이기에도 효과적입니다. 근거 없는 답이 나오면 인용 단계에서 바로 드러납니다.

요령 4. 필요한 부분만 넣기

컨텍스트가 길다고 무조건 다 넣는 게 좋은 건 아닙니다.

목차를 먼저 보고 관련 장만 잘라 넣거나, PDF 분석 글처럼 "문서 지도 → 필요한 부분 질문" 순서로 접근하세요.

요령 5. 질문을 쪼개기

"이 보고서의 문제점과 개선 방안과 예산 영향을 정리해 줘"처럼 여러 질문을 한 번에 하면 일부를 얕게 다룹니다. 긴 자료에서는 특히 질문을 하나씩 하는 편이 정확했습니다. 같은 대화에서 이어 물으면 자료를 다시 붙일 필요는 없습니다(다만 대화가 길어지면 사용량이 늘어나니 사용량 한도도 참고하세요).

요령 6. 숫자와 표는 위치를 지정

긴 문서에서 숫자를 물을 때는 위치를 알려 주면 실수가 줄어듭니다.

3장의 '지역별 매출' 표에서 수도권 매출을 찾아 줘. 표의 제목과 단위도 함께 알려 줘.

단위(원/천 원/백만 원)를 함께 확인하게 하면, 단위를 잘못 읽는 실수를 막을 수 있습니다.

실제 사례: 사내 규정집 Q&A

120쪽짜리 사내 규정집으로 질문 20개를 테스트했습니다.

틀린 1개는 규정집 안에서 서로 다른 두 조항이 충돌하는 경우였고, 인용 단계에서 두 조항이 모두 나와 오히려 규정 자체의 문제를 발견할 수 있었습니다. (제 환경에서의 소규모 테스트라 수치는 참고용입니다.)

한 줄씩 정리

1. 긴 자료는 위에, 질문은 맨 아래에 두세요.
2. 문서마다 출처·날짜 태그를 붙이고, 인용을 먼저 찾게 한 뒤 답하게 합니다.
3. 필요한 부분만 넣고, 질문은 하나씩, 숫자는 위치와 단위를 지정해 물으세요.

인용 먼저가 가장 효과적이었습니다

긴 문서를 다룰 때 가장 효과가 컸던 건 "인용 먼저" 방식이었습니다. 답이 맞는지 검증하는 시간이 확 줄어듭니다. 인용된 문장만 원문에서 찾아보면 되니까요. 긴 자료를 넣을수록 클로드를 믿고 싶어지지만, 그럴수록 근거를 함께 받는 습관이 중요합니다.

출처·참고 링크

• 긴 컨텍스트 프롬프트 팁 (Anthropic 공식 문서)
• 함께 읽기: 클로드 XML 태그 프롬프트 작성법