GPU 43

• Pretraining Large Language Models with NVFP4 - 4비트 정밀도 LLM 사전학습 방법론 정리 2026/10/20
• DiffusionGemma Technical Report 정리 - Gemma 4를 256 토큰 블록 텍스트 디퓨전 모델로 전환하기 2026/10/20
• DeepSeek DeepInfer - 프로덕션 추론 프레임워크 오픈소스 공개 2026/10/20
• DFlash: Block Diffusion for Flash Speculative Decoding 논문 정리 2026/10/20
• NVIDIA GPU는 OpenAI의 GPT-6 Astra Ultrafast를 어떻게 가속하는가 2026/10/18
• Looped Diffusion Transformer 2026/10/18
• LLM Pretraining Loss Spike 진단과 처방: 배치 사이즈, Gradient Accumulation, 그리고 Muon 전환 판단 2026/08/19
• vLLM x TileRT: 지연시간 중심 서빙을 위한 특화 디코드 엔진 2026/08/17
• Qwen3.8 시리즈 정리 - 27B와 2.4T-A95B의 아키텍처부터 배포까지 2026/08/16
• vLLM 성능 튜닝: speculative_config, MTP, --max-num-seqs 2026/07/09
• PyTorch FSDP 이해하기: 파라미터를 조각내는 분산 학습 2026/07/08
• DSpark: 반자기회귀 생성과 신뢰도 기반 검증으로 speculative decoding 가속하기 2026/07/01
• Frozen Multi-Token Prediction: Pixel에서 Gemini Nano 가속하기 2026/06/29
• 기초부터 이해하는 GPU Network 1: GPU Interconnect Bandwidth 2026/06/24
• DiffusionGemma : 확산 기반으로 더 빠른 텍스트 생성 2026/06/19
• TorchComms: PyTorch를 위한 새로운 분산 통신 API 2026/06/16
• Boson AI Higgs Audio v3 TTS 4B 모델 2026/06/14
• NVIDIA Nemotron 3.5 ASR Streaming 0.6B - 다국어 스트리밍 음성 인식 모델 2026/06/13
• Open Athena: LLM 사전학습을 3.6배 빠르게 만든 스택 2026/06/10
• Qwen-VLA: 작업·환경·로봇 형태를 통합하는 비전-언어-행동 모델 2026/06/05
• Earth2Studio: NVIDIA의 AI 기반 날씨·기후 모델링 통합 프레임워크 2026/06/03
• TurboQuant 완전 정리 - 이론 최적에 근접한 KV 캐시·벡터 검색 양자화와 vLLM 실측 2026/05/31
• Lance - 다중 태스크 시너지로 만든 ByteDance의 경량 통합 멀티모달 모델 2026/05/31
• Slot-MPC - 객체 중심 표현과 그래디언트 기반 MPC로 푸는 시각 계획 2026/05/29
• TTL Tech Note — 지식 증류와 LLM 사이즈 선택, 14B/32B/70B의 실전 기준 2026/05/25
• NVIDIA AnyFlow - 추론 단계 수에 자유로운 14B 비디오 디퓨전 모델 2026/05/20
• TokenSpeed: 에이전트 워크로드를 위한 빛의 속도 LLM 추론 엔진 2026/05/16
• DGX Spark에서 Qwen3.5-122B-A10B 추론 80% 가속: INT4+FP8 하이브리드와 MTP-2 투기적 디코딩 2026/05/12
• Gemma 4 Multi-Token Prediction - 품질 손실 없이 최대 3배 추론 가속 2026/05/10
• ECE7115, 인하대 Multimodal VLM 강의가 Stanford CS336을 따라가는 법 2026/05/07
• GLM-5 Scaling Pain: PD 분리 KV 캐시 race, HiCache 동기화 누락, LayerSplit가 풀어낸 코딩 에이전트 서빙의 진짜 병목 2026/05/05
• vLLM Recipes 개편: 모델과 하드웨어 조합을 한 줄 명령어로 2026/05/02
• DeepSeek-V4-Pro 공개 - 1.6T MoE, 49B 활성 파라미터, 1M 컨텍스트, FP4/FP8 혼합 정밀도 2026/04/30
• Google LiteRT-LM: 엣지 디바이스용 고성능 온디바이스 LLM 추론 프레임워크 2026/04/28
• NVIDIA·MIT TriAttention, KV 캐시 메모리를 10배 줄이다 2026/04/16
• LM Studio CLI로 Google Gemma 4 로컬 실행: M4 Pro에서 51 tok/s 달성 2026/04/09
• Ollama, Apple Silicon에서 MLX 기반 구동 프리뷰 - 최대 2배 성능 향상 2026/04/05
• Google TurboQuant - 극한 압축으로 AI 효율성을 재정의하는 양자화 알고리듬 2026/03/29
• llmfit - 내 하드웨어에 맞는 LLM 모델을 찾아주는 터미널 도구 2026/03/21
• CanIRun.ai - 내 컴퓨터에서 실행 가능한 AI 모델을 확인하는 도구 2026/03/16
• vLLM Sleep Mode - 단일 GPU에서 다중 모델 전환을 위한 제로 리로드 솔루션 2026/01/30
• NVIDIA Driver 및 Container Toolkit 설치 가이드 2025/12/13
• Pytorch GPU를 설정하는 방법 2024/08/25