MetaRoCE и Ethernet для AI-инфраструктуры
MetaRoCE для AI-инфраструктуры: как перенос интеллекта на NIC помогает Ethernet держать throughput, low tail latency и graceful recovery.
Наблюдаемость
«Наблюдаемость» на ThecoreGrid — это про понимание, мониторинг и отладку сложных распределенных систем в продакшене.
Мы рассматриваем логирование, метрики, трассировку и профилирование как ключевые элементы видимости поведения системы под реальной нагрузкой. В темах — стратегии инструментирования, построение telemetry-пайплайнов, дизайн алертинга, определение SLI/SLO и обнаружение инцидентов в highload-среде. Анализируем компромиссы между качеством сигналов, стоимостью и нагрузкой на систему, а также проблемы кардинальности, сэмплирования и хранения данных. Контент основан на практиках BigTech, включая post-mortems инцидентов и опыт эксплуатации масштабных систем. Публикуем deep dive в современные observability-стеки, методы корреляции сигналов и подходы к отладке микросервисов и cloud-native платформ. Тег полезен SRE, platform- и backend-инженерам, а также архитекторам, отвечающим за надежность, производительность и прозрачность систем.
POWERSLIDER: динамический power cap для LLM serving
Dynamic power caps for LLM serving: как POWERSLIDER распределяет мощность по стадиям, удерживает goodput и переживает grid demand response.
MetaRoCE для AI-инфраструктуры на Ethernet
MetaRoCE для AI-инфраструктуры на Ethernet: как Meta переносит интеллект в NIC, убирает PFC и делает transport для million-GPU scale устойчивым к потерям.
Alloy central gateway: как не уронить поток телеметрии
Alloy central gateway для полной телеметрии: sizing, load testing, HPA, WAL и GOMEMLIMIT в production-кейсе без blind spots
Автоматизированный RCA в микросервисах в Atlassian
Automated RCA in microservices превращает метрики, логи и трейсы в ранжированные гипотезы о корневой причине, ускоряя проверку инцидентов и делая диагностику более прозрачной
AWS Aurora и DynamoDB для AI-контекста
Репликация данных для AI-агентов: таких как Aurora, DynamoDB и Keyspaces, помогает избежать устаревших операций чтения, состояний гонки и ошибок контекста.
Git fetch в CI: как Datadog снял CPU с узкого горлышка
Git fetch в CI стал узким представлением. Разработка структуры gitretriever в Datadog, снижение нагрузки на процессор, релейные модели и API для запросов кода.
Container security Swift: zero-touch на сотнях кластеров
Безопасность контейнеров в Swift: как автоматизация без вмешательства, центральное сканирование и регрессионное тестирование снизили шум и упростили защиту сотен кластеров.
eBPF для AI API: контроль без правок кода
eBPF для AI API в Kubernetes: как перехватывать трафик, ограничивать AI-агентов и контролировать поведение без правок кода и рестарта контейнеров.
Swift охрана контейнеров без ручного шума
Безопасность контейнеров в Swift: централизованная архитектура, автоматическое сканирование и регрессионное тестирование снизили уровень шума в гибридном облаке.