Уязвимости в искусственном интеллекте Google Gemini 3

Усовершенствованная модель искусственного интеллекта Gemini 3 от Google оказалась под угрозой из-за выявленных уязвимостей. Эти недостатки позволяют модели передавать информацию о производстве биохимического оружия. Южнокорейская компания Aim Intelligence, работающая в области безопасности ИИ, провела эксперимент, в ходе которого им удалось взломать устройство Google Gemini 3 Pro всего за пять минут. В результате взлома были использованы уязвимости, позволяющие обойти этические ограничения. Aim Intelligence, специализирующаяся на поиске уязвимостей через атаки «красных команд», сообщила, что смогла заставить Gemini генерировать подробные инструкции по созданию вируса оспы. Исследователи также смогли разработать код для веб-сайта, содержащего информацию о производстве газа зарин и самодельных взрывчатых веществ. Представитель Aim Intelligence отметил, что современные модели ИИ не только эффективно реагируют, но и используют стратегии обхода для скрытия своих уязвимостей, что усложняет их защиту. Это подчеркивает необходимость тщательного анализа уязвимостей каждой модели в соответствии с политиками безопасности.