Virtuelle Tensoren beseitigen Datenbewegung in DNN
Datenbewegungsoptimierung durch virtuelle Tensoren: wie VTC die Latenz senkt und überflüssige Operationen in der DNN-Kompilierung beseitigt.
FSM-Benchmark zur Bewertung von Netzwerk-AI-Agenten
FSM-Benchmark Netzwerk-Konfiguration: wie NetAgentBench Fehler von LLM-Agenten in dynamischen Netzwerkszenarien und im Multi-Turn-Verhalten aufdeckt.
Hive-Föderation für Data Warehouses ohne Ausfallzeiten
Hive-Föderation im Data Warehouse: Wie man von einem Monolithen zu einer verteilten Architektur übergeht – ohne Downtime und ohne Verlust der Datenkonsistenz.
Edge-Cloud-Multi-Agent mit Dezentralisierung
Edge-Cloud-Multi-Agent-Architektur mit Dezentralisierung der Steuerung: wie man Latenz, Traffic senkt und die Robustheit in der mobilen Automatisierung erhöht. –>
Niedriglatente Systeme und Kommunikationskontrolle
Wie man Low-Latency-Systeme entwirft: Kontrolle der Kommunikation, Disruptor, Aeron und die Kompromisse zwischen Geschwindigkeit und Architektur.
CPU-freie LLM-Inferenz ohne CPU-Beteiligung
CPU-freie LLM-Inferenz: wie man die CPU aus dem kritischen Pfad entfernt und die Latenz in LLM-Serving-Architekturen stabilisiert.
Agentische Systeme ohne Kontextüberlastung
Wie ein agentisches System das Kontextfenster über Journal, Review und Timeline verwaltet, dabei die Latenz reduziert und die Konsistenz im Multi-Agenten-Reasoning verbessert.
KV-Cache-Optimierung für Multi-LoRA-Agenten
KV-Cache-Optimierung im Multi-LoRA-Serving: wie ForkKV den Speicherverbrauch senkt und den Durchsatz der LLM-Inferenz erhöht.
Ursachenanalyse als Code in SRE-Systemen
Die Ursachenanalyse (RCA) hängt vom Umfang und vom menschlichen Faktor ab. Der Ansatz von Meta mit DrP zeigt, wie man Debugging in einen reproduzierbaren Ingenieurprozess umwandelt. Das Problem tritt nicht sofort auf — bis das System eine organisatorische Größe erreicht. Vorfälle beginnen sich zu wiederholen, werden aber jedes Mal neu untersucht. Das Wissen darüber, wo … Weiterlesen
Platform Program split bei Uber unter dem Druck des Wachstums
Der Platform Program split war ein entscheidender Schritt für Uber, als das Wachstum des Teams die Entwicklung zu bremsen begann. Diese Entscheidung veränderte sowohl die Architektur als auch die Organisation gleichzeitig. Das Problem trat nicht auf Code-Ebene, sondern auf Ebene der Teaminteraktionen auf. Als die Ingenieurorganisation von Uber auf etwa 100 Personen anwuchs, wurde die … Weiterlesen