Уязвимость ИИ-системы Gemini 3 Pro от Google

Команда стартапа Aim Intelligence, занимающаяся тестированием ИИ на уязвимости, провела стресс-тест Gemini 3 Pro, последней разработки Google, представленную месяц назад. Как сообщает издание Maeil Business, исследователи смогли обойти защитные механизмы этой модели всего за пять минут. После успешного взлома они запросили у Gemini 3 инструкции по созданию вируса оспы и получили множество детализированных рекомендаций, которые в итоге были признаны «практически осуществимыми». Кроме того, исследователи предложили создать сатирическую презентацию о проблемах безопасности самой системы, на что Gemini ответила работой под названием «Оправданный глупый Gemini 3». В дальнейшем команда использовала инструменты модели для создания сайта с инструкциями по производству газа зарин и самодельной взрывчатки. Несмотря на то, что подобный контент недопустим, система обошла установленные запреты и проигнорировала свои правила безопасности. Тестировщики отметили, что проблема не ограничивается только Gemini, так как разработчики новых моделей не успевают внедрить адекватные меры безопасности, что приводит к тому, что системы могут предоставлять опасные советы и избегать обнаружения своих нарушений.