Microsoft разрабатывает инструменты для запуска CUDA на AMD

По информации, поступившей от высокопоставленного представителя Microsoft, компания разработала инструментарий, который позволяет исполнять программный код, созданный для платформы Nvidia CUDA, на графических процессорах AMD. Это новшество призвано снизить зависимость от экосистемы Nvidia, доминирующей на рынке ИИ-вычислений.

Основная цель Microsoft заключается в преобразовании кода CUDA в формат, совместимый с программной платформой AMD ROCm, что позволит более эффективно использовать приобретенные ускорители AMD для задач, связанных с искусственным интеллектом, включая инференс. Это может привести к снижению затрат, так как решения AMD, как правило, более доступные.

Также сообщается, что Microsoft создала несколько наборов инструментов для конвертации моделей CUDA в ROCm, обеспечивая их запуск на ускорителях, таких как Instinct MI300X. Технически, разработка может использовать подход, подобный проекту ZLUDA, который транслирует вызовы API CUDA в ROCm. Однако платформа ROCm от AMD все еще менее зрелая, и некоторые элементы Nvidia могут не иметь аналогов, что иногда приводит к снижению производительности. В настоящее время инструментарий находится на стадии ограниченного внутреннего тестирования.