Новая угроза для технологий: перехват параметров ИИ

Группа международных ученых представила инновационный метод, позволяющий перехватывать параметры моделей искусственного интеллекта с использованием стандартной антенны. Этот проект, названный ModelSpy, был разработан экспертами под руководством профессора Джун Хана из Корейского института передовых технологий в стрдничестве с учеными из Национального университета Сингапура и Чжэцзянского университета. Технология функционирует на основе анализа электромагнитных сигналов, которые возникают в процессе работы ИИ. Исследователи обнаружили, что графические процессоры во время вычислений излучают слабые электромагнитные волны. Улавливая и декодируя эти сигналы, система может восстановить конфигурацию нейросети, включая структуру слоев и параметры модели. В ходе экспериментов ученые смогли анализировать характеристики ИИ на расстоянии до шести метров, даже сквозь стены, что создает потенциальные угрозы для безопасности технологий. Авторы разработки также предложили способы защиты, такие как создание электромагнитных помех и методы обфускации, чтобы скрыть внутреннюю структуру моделей. Кроме того, в другом исследовании, проведенном Университетом Суонси, было установлено, что использование ИИ в работе способствует повышению креативности и вовлеченности сотрудников.