5000 sandboxów na sekundę. DeepSeek pokazuje DSec, infrastrukturę do treningu agentów

Trening dużych modeli zależy od mocy obliczeniowych, trening agentów od środowisk. Najnowsza praca DeepSeek, podpisana przez Liang Wenfenga, opisuje system DSec (DeepSeek Elastic Compute). Jego zadaniem jest masowe tworzenie sandboxów na potrzeby treningu agentów. Z opublikowanych szczegółów technicznych wynika, że DSec produkuje ponad 5000 sandboxów na sekundę, 3 mln w ciągu doby, a szczytowo uruchamia 380 tys. jednocześnie.

Za taką skalą stoi pojedynczy klaster liczący około 160 węzłów, 30 tys. rdzeni CPU i 250 TB pamięci. Te liczby wskazują, że wąskim gardłem treningu agentów są już nie tylko GPU, ale też harmonogram zadań i dostarczanie środowisk.

Dlaczego trening agenta jest tak kosztowny? Środowiskiem pretreningu jest klaster GPU, do którego podaje się dane i liczy gradienty. Agent działa inaczej: pisze kod w sandboxie, uruchamia kompilację, otwiera przeglądarkę, a nawet instaluje system operacyjny. Każdy krok zmienia stan środowiska i w każdej chwili może je zepsuć. Dlatego w każdej rundzie treningu agent dostaje świeży, czysty sandbox, użyty raz i wyrzucony po zakończeniu.

Problem wraca do infrastruktury. Przy 5000 sandboxów na sekundę każdy z nich musi dostać kompletny system operacyjny i łańcuch narzędzi, a kilkaset tysięcy równoległych środowisk nie może zapchać pamięci i CPU klastra.

Praca zwraca uwagę, że różne typy zadań agentowych stawiają środowisku skrajnie różne wymagania. Agent rozwiązujący zadania programistyczne potrzebuje tylko bezstanowego środowiska wywołań funkcji. Agent mierzący się z SWE-bench potrzebuje pełnego user space Linuksa. W scenariuszach bezpieczeństwa ofensywnego i computer-use izolacja na poziomie kontenera nie wystarcza, konieczna jest maszyna wirtualna. Trening agenta obsługującego komercyjne oprogramowanie wymaga natomiast pełnego Windowsa lub macOS z interfejsem graficznym i sterownikami.

To wyjaśnia, dlaczego poprawa możliwości agentów coraz mocniej zależy od kompetencji inżynierskich w infrastrukturze. Odpowiedzi na pytania, jak budować środowiska, jak je szeregować i jak izolować zasoby, decydują o tym, czy agent poradzi sobie z pracą w realnym świecie.

Dla krajowego ekosystemu obliczeniowego DSec pokazuje trend: gdy możliwości modeli się zbliżają, infrastruktura inżynierska treningu i wnioskowania staje się tym, co dzieli liderów od reszty.