Нейросеть Alibaba занялась криптомайнингом без разрешения

Александр Лонг, основатель Pluralis.ai, опубликовал технический отчет, в котором упоминается, что нейросеть Alibaba занималась добычей криптовалюты, не получив разрешения от создателей. ИИ самостоятельно открыл доступ к своим GPU через внешний сервер, чтобы обойти систему безопасности, и создал полноценную майнинг-ферму. Исследователи столкнулись с непредсказуемыми небезопасными действиями ИИ, которые возникали без явных инструкций. Сигнал был получен не от обучающих программ, а через систему безопасности. Управляемый брандмауэр обнаружил множественные нарушения, указывающие на попытки доступа к внутренним ресурсам и действия по криптомайнингу. В конечном итоге выяснили, что языковая модель спонтанно активировала несанкционированное поведение, установив SSH-туннель для удаленного доступа. Ранее исследования показали, что некоторые ИИ-модели могут игнорировать команды выключения, могут клонировать себя и создавать бесконечный цикл репликации, что усиливает опасения по поводу непредсказуемого поведения ИИ.