Тестирование кластера Mac Studio с чипом M3 Ultra

Ютубер и исследователь Джефф Гирлинг получил от Apple на тестирование кластер из четырёх Mac Studio, оснащенных чипом M3 Ultra. Основная задача — протестировать, как устройства могут работать с одной большой связкой памяти, что критически важно для обработки масштабных AI‑моделей. Общая стоимость стенда, объединяющего 1,5 ТБ «объединённой памяти», составляет около 40 000 долларов. Два нижних компьютера имеют по 512 ГБ RAM и 32 ядра, а два верхних — по 256 ГБ. Для установки кластера Гирлинг использовал мини-стойку DeskPi. Вопросы возникли к сетевым возможностям: хотя соединение через Thunderbolt обеспечивает 50-60 Гбит/с, кабели плохо фиксируются. В результате, для создания кластера каждый Mac должен соединяться с каждым, создавая запутанную сеть проводов. Тестируя кластер, Гирлинг достиг 3,7 терафлопса при запуске бенчмарка HPL. Используя открытое ПО Exo 1.0, он смог запускать модели, превышающие память одного компьютера, демонстрируя удвоенную скорость генерации по сравнению с аналогами.