LLM serving платформа vLLM и Triton в проде
LLM serving платформа на vLLM и Triton: архитектура, trade-offs и узкие места продакшена при масштабировании инференса
Орбитальные AI дата-центры упираются в сетевые ограничения
Orbital AI compute выглядит дешевле по энергии, но mesh-сети ограничивают LLM training. Разбор узких мест и архитектурных компромиссов
LLM-MAS защита от атак с двойным дрейфом
Защита LLM-MAS через continual learning и OOD detection. Разбор OpenEvoShield и его архитектуры против динамических атак
MoE routing ускорение без динамической сети
MoE routing в direct-connect сетях: как MoX снижает перегрузку линков и достигает near-switch производительности без динамической реконфигурации
Byzantine Agreement round complexity lower bound
Byzantine Agreement round complexity получает строгую нижнюю границу. Разбор влияния adaptive adversary на latency и архитектуру консенсуса
LLM serving workload анализ FineServe без иллюзий
LLM serving workload в реальных системах ведёт себя нестабильно. Разбираем FineServe и влияние на архитектуру, latency и планирование ресурсов
In-band SDN coordination without state explosion
Как масштабируется in-band SDN control plane без роста state: разбор Periplus и его модели multi-controller coordination
In-band SDN масштабируется через border-switch графы
In-band SDN с multi-controller coordination: как Periplus ограничивает forwarding state через border-switch графы и масштабирует сеть без роста нагрузки
AI accelerators for scientific computing limits
AI accelerators for scientific computing: как преодолеть разрыв точности, памяти и исполнения при переносе HPC-нагрузок на NPU —>
ThecoreGrid Radar: три ключевых тренда недели в технологиях
Подборка архитектурных инсайтов и релизов, которые мы читали на этой неделе. Infrastructure 🔹 FSZ: Breaking the Prediction-Throughput Trade-off in GPU Lossy Compression Новый подход к lossy-компрессии на GPU позволяет увеличить пропускную способность, сохраняя качество предсказаний. Работа показывает, как компрессия может стать инструментом оптимизации вычислительной инфраструктуры, а не только способом экономии памяти. Читать релиз (EN) 🔹 … Читать далее