аннотация
Проект «Нейросеть на 1000 видеокарт с питанием 200 кВт» — инженерный вызов пределам возможного. Как сократить энергопотребление с 700 кВт до 200 кВт? Почему воздушное охлаждение превращает серверную в ад? Автор детально разбирает 3D-параллелизм для моделей размером с Llama 70B и Cisco-сети с задержкой 5 мкс. Вы узнаете, как распределить 120 триллионов параметров, избежать «тренировочного коллапса» при отказе карты. Книга — настольный гид для тех, кто строит будущее ИИ сегодня.
