질문에서 답까지 – RAG 파이프라인, 로컬에서 완성
임베딩까지 이해했으니, 이제 RAG 파이프라인 구현의 마지막 단계 — 검색과 생성을 잇는 작업만 남았다.
임베딩까지 이해했으니, 이제 RAG 파이프라인 구현의 마지막 단계 — 검색과 생성을 잇는 작업만 남았다.
이전 글에서 RAG를 위한 자료창고에는 자료를 ‘의미적으로 완결된 덩어리(chunk)’로 쪼개서 저장하며, 이 한 덩어리가 하나의 숫자벡터로 표시되는 임베딩의 단위가 된다고 했었다.
RAG는 ①코드가 자동으로 자료창고에서 게임참가자의 질문과 관련된 구절을 찾아오고(검색), ②그 구절과 게임참가자의 질문을 합쳐서 만든 프롬프트를(조립), ③인공지능 모델에게 보내서 받은 답을 주지스님의 대사로 화면에 출력(생성)해 주는 순서로 구현된다.