목차 Custom Chat Model 만들게 된 이유 Custom Chat Model Custom Chat Model 만들게 된 이유 기존에는 text-generation task 모델을 사용했는데 사용하고 싶은 모델의 task가 image-text-to-text로 되어 있어서 HuggingFacePipeline에서 지원을 안함 Hug...

목차 A2A란? A2A 사용 A2A와 MCP 비교 A2A란? 4월 10일 구글은 A2A(Agent to Agent)라는 이름의 오픈소스 에이전트 간 프로토콜을 발표 여러 개의 A2A 서버를 실행한 다음 A2A 클라이언트에 연결하는 방식으로 A2A를 사용하는 방식은 MCP와 유사함 이미 Anthropic의 MCP(Model Conte...

목차 FastAPI-MCP FastAPI-MCP 특징 FastAPI-MCP 사용 방법 SSE를 이용한 MCP 서버 연결 mcp-proxy stdio를 이용한 MCP 서버 연결 FastAPI-MCP MCP 서버를 만드는데 MCP Python SDK를 사용해도 되지만 FastAPI API 서버의 모든 엔드포인트를 MCP Tool...

목차 uv를 사용하게 된 이유 uv의 장점 uv 사용 방법 uv를 사용하게 된 이유 Python 생태계에서 패키지 관리, 버전 관리, 가상환경 관리, 빌드 도구 등이 파편화되어 있어 pip, poetry, conda, pipenv 등의 유사한 기능을 하는 툴이 너무 많은데 Anthropic, OpenAI를 비롯한 ML 쪽에서 uv ...

목차 모델 선정 기준 MTEB MTEB로 측정가능한 Task 목록 MTEB 테스트 코드 테스트한 OpenSource Embedding 모델 List 기존 사용 Embedding 모델 OpenAI가 제공하는 임베딩 모델과 Anthropic이 권장하는 임베딩 모델 중에서 text-embed...

목차 Complexity, Depth 제한을 하는 이유 서버 자원 보호 및 성능 유지 DoS 및 악의적 공격 방어 예측 가능한 API 동작과 유지 관리 Depth Limit 설정하는 방법 Complexity Limit 설정하는 방법 Complexity, Depth 제한을 하는 ...

목차 MCP 보안 이슈 개요 주요 보안 위협 1) 원격 서버 연결에 따른 하이재킹 위험 2) 원격 코드 실행 공격 3) 도구 명령어 조작 공격 보안 강화 방안 MCP 보안 이슈 개요 MCP는 AI 에이전트가 다양한 도구 및 데이터와 상호작용할 수 있도록 지원하는 프로토콜로 사용...

목차 N+1 문제 발생 원인 성능 문제로 이어지는 이유 DataLoader DataLoader 구현 코드 N+1 문제 GraphQL을 사용하다 보면 개발자들이 자주 마주치는 문제가 바로 N+1 문제입니다. 이 문제는 클라이언트가 하나의 요청으로 여러 데이터를 가져오려 할 때 의도치 않게 ...