vLLM 19

• InfraTech: AI 인프라 학습을 위한 오픈소스 자료 저장소 2026/09/01
• vLLM x TileRT: 지연시간 중심 서빙을 위한 특화 디코드 엔진 2026/08/17
• Qwen3.8 시리즈 정리 - 27B와 2.4T-A95B의 아키텍처부터 배포까지 2026/08/16
• Qwen 샘플링·디코딩 파라미터 presence_penalty, repetition_penalty, temperature 2026/08/13
• vLLM 성능 튜닝: speculative_config, MTP, --max-num-seqs 2026/07/09
• DSpark: 반자기회귀 생성과 신뢰도 기반 검증으로 speculative decoding 가속하기 2026/07/01
• DeepSeek-V4-Pro-DSpark: speculative decoding을 더한 1.6T MoE 모델 2026/06/29
• DNA3.0-35B-A3B: Dnotitia의 한국어 특화 MoE 비전-언어 모델 2026/06/04
• TurboQuant 완전 정리 - 이론 최적에 근접한 KV 캐시·벡터 검색 양자화와 vLLM 실측 2026/05/31
• Cohere Command A+ 공개: W4A4 양자화로 단일 GPU에서 돌아가는 218B MoE 모델 2026/05/21
• TokenSpeed: 에이전트 워크로드를 위한 빛의 속도 LLM 추론 엔진 2026/05/16
• DGX Spark에서 Qwen3.5-122B-A10B 추론 80% 가속: INT4+FP8 하이브리드와 MTP-2 투기적 디코딩 2026/05/12
• vLLM Recipes 개편: 모델과 하드웨어 조합을 한 줄 명령어로 2026/05/02
• LG EXAONE 4.5 33B: 한국어 특화 첫 오픈 비전-언어 모델 2026/04/16
• Qwen3-Coder-Next - 80B 파라미터 중 3B만 활성화하는 초희소 코딩 에이전트 모델 2026/02/06
• vLLM Sleep Mode - 단일 GPU에서 다중 모델 전환을 위한 제로 리로드 솔루션 2026/01/30
• Inferact - vLLM 상용화 스타트업, 1.5억 달러 시드 투자 유치 2026/01/29
• vLLM Custom Logits Processors로 특정 언어 토큰 차단하기 2026/01/11
• LLM 서빙 환경 구축하기 + 모니터링 2025/10/04