목차 PromptTemplate 문자열 기반 프롬프트 PromptTemplate으로 변경 ChatPromptTemplate으로 변경 PromptTemplate 프롬프트는 LLM에게 원하는 답변을 얻기 위해 입력 내용을 의미합니다. 기존 문자열의 프롬프트를 사용해도 되지만 PromptTemplate을 이용하면 프롬프트의 구조가 ...

목차 LLM Cache InMemoryCache RedisCache RedisSemanticCache Cache 확인 방법 LLM Cache LangChain에서는 LLM 응답에 대한 캐시를 제공하고 있으며 다음의 이유 2가지로 유용합니다.         - 1) 동일한 결과를 여러 번 요청하는 경우 API 호출 수를 줄여 ...

목차 LangCahin <-> PostgreSQL 1) 설치 2) 테스트 내용 LangCahin <-> PostgreSQL 이전 게시글에서 Redis를 이용해서 Chat History를 기록했는데 이번에는 PostgreSQL을 이용해서 진행하려고 한다. PostgreSQLC...

목차 LangCahin <-> Redis 1) 설치 2) 테스트 내용 LangCahin <-> Redis 이전 메시지의 맥락을 유지해야 할 필요가 있어서 LangCahin과 Redis를 이용해서 Chat Message History를 기록하는 것이 있어서 테스트해봤다. Re...

목차 Retriever 1) Sparse Retriever 2) Dense Retriever Vector Store Retriver Retriever Retriever는 벡터 저장소에서 사용자가 입력한 질문을 벡터화 → 유사도 검색 → 상위 문서 선정 → 문서 반환하여 문서를 검색하는 과정을...

목차 VectorStore 1) VectorStore 종류 2) VectorStore 선택 과정 3) VectorStore Indexing FAISS 1) FAISS 생성 2) FAISS 삽입 및 삭제 3) FAISS 저장 및 호출 ...

목차 Embedding 1) Embedding 모델 종류 2) OpenAI Embedding 사용하는 방법 3) Cache Embedding Embedding 임베딩이란 텍스트, 소리, 이미지 등의 데이터를 고정 길이의 실수 형태의 벡터로 표현하는 것을 의미합니다. 벡터 값들간의 거...

목차 Splitter 1) Splitter 종류 2) Splitter 테스트 3) Splitter 평가 및 결론 Splitter 문서를 Load 한 것을 바로 사용하지 않고 Split 단계를 거쳐 작은 단위인 chunk로 나누는 이유는 크게 2가지입니다. LLM 모델 입력 토큰의...