목차 BM25Retriever란? BM25Retriever Code EnsembleRetriever란? EnsembleRetriever Code BM25Retriever란? BM25Retriever는 정보 검색 분야에서 널리 사용되는 BM25(Best Matching 25) 즉 Okapi BM25 알고리즘을 기반으로 하는 Ret...
목차 LongContextReorder란? LongContextReorder 문서 정렬 알고리즘 LongContextReorder Code LongContextReorder란? 모델의 아키텍처와 관계없이 10개 이상의 검색된 문서를 포함할 경우 성능이 상당히 저하됩니다 간단히 말해 모델이 긴 문맥 중간에서 관련 정보를 찾아야 할 ...
목차 MultiQueryRetriever란? MultiQueryRetriever 장,단점 1) 장점 2) 단점 MultiQueryRetriever Code MultiQueryRetriever란? 기존 Vector Store Retriever는 거리 기반으로 유사한 임베딩을 가진 문서를 찾...
목차 RAGAS란? RAGAS Code 지표 결과 RAGAS란? RAG 파이프라인의 성능을 측정하기 위해서 Rule Base 지표들을 자동으로 게산하기 위한 프레임워크인 RAGAS를 사용합니다. RAGAS 공식 사이트 RAGAS Github RAGAS 주요 성능 메트릭을 살펴보면 크게 Retrieval, Generation 각 카...
목차 지난 Few-shot Prompt의 문제점 해결 방법 Example Selector 지난 Few-shot Prompt의 문제점 지난 게시글에서 구현한 Few-shot Prompt에는 문제점이 있습니다. 그것은 의도와 다르게 질의와 관련이 없는 다수의 예제가 프롬프트에 포함이 되어 모델의 응답 품질이 떨어지거나 혼란이 발생하는 것 ...
목차 LangChin에서 FewShot Prompt 구현하기 LangChin에서 FewShot Prompt 구현하기 이전 2개의 게시글에서 이야기한 것 처럼 LLM에게 예시를 제공하는 것은 매우 중요한 일입니다. 그렇다면 LangChain에서는 어떻게 FewShot Prompt를 구현할 수 있을지 알아보도록 하겠습니다. from lang...
목차 OpenAI가 권장하는 프롬프트 엔지니어링 1) 최신 모델을 사용 2) 프롬프트의 시작 부분에 지시사항을 배치 3) 구체적이고 자세하게 설명 4) 원하는 출력 형식을 예시를 통해 명확하게 설명 5) zero-shot, few_shot, fine-tuning 6) 모...
목차 Prompt Engineering 1) Role(Persona) 부여 2) 명확한 지시 3) 예시 제공 4) Chain of Thought 5) Self-Consistency 6) Prompt Chaining 7) Tree of Thought ...