프론트엔드 엔지니어가 보는 RAG 파이프라인
청킹·임베딩·검색·재순위로 이어지는 RAG 파이프라인을 프론트엔드 관점에서 정리하고 스트리밍 응답 UI 구현을 다룹니다.
프론트엔드 엔지니어가 보는 RAG 파이프라인
개요
RAG(Retrieval-Augmented Generation)는 “문서를 검색해서 LLM 컨텍스트에 넣고 답하게 하는” 패턴입니다. 백엔드/ML 영역처럼 보이지만, 검색 품질 문제가 그대로 UI 신뢰도로 이어지기 때문에 프론트엔드 엔지니어도 파이프라인 전체를 이해할 필요가 있었습니다.
파이프라인 전체 모습
RAG는 크게 두 단계로 나뉩니다.
[색인] 문서 → 청킹 → 임베딩 → 벡터 스토어 저장
[질의] 질문 → 임베딩 → 검색 → (재순위) → 컨텍스트 조립 → LLM → 응답
색인은 문서가 바뀔 때, 질의는 사용자가 질문할 때 실행됩니다.
청킹
문서를 검색 가능한 단위로 자르는 작업입니다. 청크가 너무 크면 하나에 여러 주제가 섞여 검색 정확도가 떨어지고, 너무 작으면 맥락이 잘립니다. 저는 고정 글자 수보다 “제목·문단 같은 구조 경계”로 자르는 쪽이 결과가 좋았습니다. 코드 문서라면 함수 단위, 마크다운이라면 헤딩 단위가 자연스러운 경계입니다. 청크에 출처(파일, 제목)를 메타데이터로 붙여두면 나중에 인용 표시에 씁니다.
임베딩과 검색, 재순위
임베딩은 텍스트를 의미 공간의 벡터로 바꾸는 과정입니다. 검색은 질문 벡터와 가까운 청크들을 벡터 유사도로 찾습니다. 여기서 중요한 발견은 “유사도 상위 결과가 답을 포함한다는 보장은 없다”였습니다. 그래서 재순위(re-ranking) 단계를 둡니다. 벡터 검색으로 상위 20~50개를 넓게 가져온 뒤, 재순위 모델이 질문-청크 쌍을 정교하게 점수 매겨 상위 몇 개만 LLM에 넘기는 구성입니다.
UI에서의 스트리밍 응답
프론트엔드의 몫은 이 응답을 어떻게 보여주는가입니다. RAG 응답은 길고 생성 시간이 길어서 스트리밍이 사실상 필수입니다. 표준 스트림 API로 구현하면 이렇습니다.
export async function streamAnswer(question: string, onChunk: (text: string) => void) {
const res = await fetch('/api/ask', {
method: 'POST',
headers: { 'Content-Type': 'application/json' },
body: JSON.stringify({ question }),
});
const reader = res.body!.getReader();
const decoder = new TextDecoder();
while (true) {
const { done, value } = await reader.read();
if (done) break;
onChunk(decoder.decode(value, { stream: true }));
}
}
여기에 더해 RAG 특유의 UI 요구가 붙습니다.
- 출처 표시: 답변 옆에 근거가 된 문서 링크를 노출. 신뢰도가 크게 올라갑니다
- 로딩 단계 구분: “문서 검색 중”과 “답변 생성 중”을 나눠 보여주면 체감 대기가 짧아집니다
- 부분 렌더: 마크다운을 조각으로 렌더할 때 잘못 열린 코드펜스 등을 처리해야 합니다
마무리
RAG에서 프론트엔드의 역할은 화면 그리기만이 아니라, 검색 품질을 출처 노출·스트리밍·단계 피드백으로 뒷받침하는 것입니다. 파이프라인의 각 단계가 왜 있는지 알수록 UI 설계의 선택지가 넓어졌습니다.