KV cache restoration ускорение через 3D параллелизм
KV cache restoration в LLM serving: как 3D параллелизм снижает TTFT и устраняет узкие места compute и I/O. —>
Author
Адаптивное управление микросервисами в условиях динамики
Adaptive microservice management в cloud-native системах: как динамика нагрузки, сети и зависимостей влияет на autoscaling и архитектуру управления
SFC для split learning снижает latency
Как оптимизация split learning через SFC снижает latency в distributed AI за счет совместного управления размещением и маршрутизацией
Virtual Tensors устраняют data movement в DNN
Data movement optimization через virtual tensors: как VTC снижает latency и устраняет лишние операции в DNN компиляции.
FSM-бенчмарк для оценки сетевых AI-агентов
FSM benchmark network configuration: как NetAgentBench выявляет сбои LLM-агентов в динамических сетевых сценариях и multi-turn поведении.
Slice spraying в GPU кластерах без блокировок
Slice spraying в GPU кластерах: как TENT снижает latency и повышает throughput в LLM serving за счет динамического data movement —>