MoE routing ускорение без динамической сети
MoE routing в direct-connect сетях: как MoX снижает перегрузку линков и достигает near-switch производительности без динамической реконфигурации
Высоконагруженные системы
«Высоконагруженные системы» на ThecoreGrid — это инженерный разбор архитектуры и эксплуатации сервисов, работающих под экстремальной нагрузкой и в условиях постоянного роста трафика.
Мы рассматриваем подходы к горизонтальному масштабированию, балансировке, отказоустойчивости и оптимизации производительности в распределенных системах. В фокусе — шардирование, репликация, кеширование, очереди, управление backpressure и снижение latency при пиковых нагрузках. Анализируем ключевые компромиссы: консистентность vs доступность, производительность vs стоимость, а также стратегии деградации и восстановления после сбоев. Контент основан на практиках BigTech, включая post-mortems инцидентов и опыт эксплуатации систем глобального масштаба. Публикуем deep dive в инфраструктуру, traffic management, autoscaling и resilience engineering. Тег полезен архитекторам, backend- и platform-инженерам и SRE-командам, которые строят устойчивые системы с предсказуемым поведением под нагрузкой.
Byzantine Agreement round complexity lower bound
Byzantine Agreement round complexity получает строгую нижнюю границу. Разбор влияния adaptive adversary на latency и архитектуру консенсуса
LLM serving workload анализ FineServe без иллюзий
LLM serving workload в реальных системах ведёт себя нестабильно. Разбираем FineServe и влияние на архитектуру, latency и планирование ресурсов
In-band SDN масштабируется через border-switch графы
In-band SDN с multi-controller coordination: как Periplus ограничивает forwarding state через border-switch графы и масштабирует сеть без роста нагрузки
AI accelerators for scientific computing limits
AI accelerators for scientific computing: как преодолеть разрыв точности, памяти и исполнения при переносе HPC-нагрузок на NPU —>
Primitive-level synchronization ускоряет PBNR
Primitive-level synchronization в distributed PBNR training: как убрать глобальные барьеры и ускорить обучение без потери качества
Mixture-of-Experts ускорение через overlap
Compute-communication overlap в MoE снижает latency за счёт тайлового планирования и сигналов. Это напрямую влияет на throughput и загрузку GPU. Современные Mixture-of-Experts (MoE) системы упираются не в compute, а в коммуникацию. В распределённом исполнении каждый слой требует двух all-to-all операций, и вторая — возврат результатов — попадает в критический путь. Классическая схема запускает её только … Читать далее
io_uring разгружает CPU через асимметричный I/O
Асимметричный io_uring в Seastar: как перенос I/O на отдельные ядра влияет на latency и throughput и где возникает bottleneck
Distributed Model Counting без узких мест
Distributed model counting с work-stealing: как gDMC снижает overhead и решает проблему балансировки в #SAT системах
MEV в DAG BFT ломает честный порядок
MEV в DAG BFT: как Mysticeti создает смещение порядка транзакций и почему линейризация DAG становится критическим узлом архитектуры