Сборка производительного ML сервера за один день

В процессе планирования своей ML сборки я столкнулся с выбором видеокарт: у меня были две RTX 2060 и одна RTX 1060. Несмотря на то, что RTX 1060 казалась устаревшей, я решил её протестировать. Результаты показали, что RTX 1060 не подходит для современных задач, в то время как RTX 2060 обеспечивала значительное преимущество благодаря поддержке Tensor Cores и высокой пропускной способности памяти.

Материнская плата Gigabyte Z390-D была выбрана за её поддержку двух GPU и аппаратного RAID. Настройки BIOS сыграли важную роль в оптимизации системы. Создание дисковой системы с шести дисков в RAID 1 оказалось сложным, но необходимым для надежности.

Используя Python 3.12 и PyTorch, я установил все необходимые библиотеки и протестировал систему. Результаты показали, что обе GPU работают синхронно, обеспечивая адекватную скорость генерации изображений и детекции объектов.

Итог: я собрал надежный ML сервер, который работает полностью локально, что позволяет избежать задержек и сохранить контроль над процессом. Это решение идеально подходит для автоматизированной лазерной гравировки и других ML задач.