PPyTorchOfficiel·en·il y a 3 joursVidéoWhere the Blocks Live: Tier-Aware KV-Cache Routing for vLLM at Scale
PPyTorchOfficiel·en·il y a 5 joursVidéoEfficient Inference of Masked Diffusion Language Models on AMD XDNA2 NPU
PPyTorchOfficiel·en·il y a 6 joursVidéoHow do you deliver full API parity across heterogeneous accelerators with zero additional overhead?
PPyTorchOfficiel·en·il y a 10 joursVidéoInterchangeable KV Importance Signals under One Compiled FlexAttention Budget with FlexBudget
PPyTorchOfficiel·en·il y a 12 joursVidéoExchange ideas w/ other devs | on-device AI, inference, voice agents, machine learning compilers...
PPyTorchOfficiel·en·il y a 12 joursVidéoMoRI + vLLM: Wide Expert Parallelism and RDMA KV-Cache Transfer for Disaggregated MoE Serving on AMD
PPyTorchOfficiel·en·il y a 14 joursVidéoHigh Performance Serving Framework for Offline and Real-time Diffusion Models - SGLang-Diffusion
