Поиск доступных AI-ресурсов: наш опыт

Привет, Хабр! Я Михаил, CTO компании VizoGEN, и делюсь нашим опытом поиска недорогих AI-ресурсов. В начале наш проект использовал 3080 TI, но вскоре потребности возросли, и мы столкнулись с нехваткой видеопамяти. Попытки объединить несколько GPU не увенчались успехом из-за несовместимости с ComfyUI. Нам понадобились мощные серверные карты Nvidia Tesla. Тестирование H100 у провайдера обернулось дорогостоящим счетом, что заставило нас обратиться к китайским вариантам.

Однако, аренда H100 оказалась невозможной из-за экспортных ограничений, и мы нашли H20 по более низкой цене. Начались трудности с настройкой: медленная загрузка образа на сервер и отсутствие доступа к GitHub и Pip. Сотрудники Tencent Cloud помогли преодолеть языковой барьер, но проблемы с драйверами продолжались.

Итог: после четырех дней мы запустили окружение, сэкономив средства и нервы. Рекомендуем рассмотреть Китай для дешевых мощностей, но будьте готовы к трудностям. Альтернативой может стать совместная аренда сервера.