× Install ThecoreGrid App
Tap below and select "Add to Home Screen" for full-screen experience.
B2B Engineering Insights & Architectural Teardowns

Mixture-of-Experts ускорение через overlap

Compute-communication overlap в MoE снижает latency за счёт тайлового планирования и сигналов. Это напрямую влияет на throughput и загрузку GPU. Современные Mixture-of-Experts (MoE) системы упираются не в compute, а в коммуникацию. В распределённом исполнении каждый слой требует двух all-to-all операций, и вторая — возврат результатов — попадает в критический путь. Классическая схема запускает её только … Читать далее

io_uring разгружает CPU через асимметричный I/O

Асимметричный io_uring в Seastar: как перенос I/O на отдельные ядра влияет на latency и throughput и где возникает bottleneck

DNS routing для gRPC устраняет thundering herd

DNS routing для gRPC: как смена политики Route 53 устранила thundering herd и распределила нагрузку на 121 млн соединений без ошибок

×

🚀 Deploy the Blocks

Controls: ← → to move, ↑ to rotate, ↓ to drop.
Mobile: use buttons below.