Anthropic представила Claude Mythos Preview — ИИ для поиска уязвимостей в софте

Компания Anthropic представила Claude Mythos Preview — инновационную ИИ-модель, которая в состоянии самостоятельно выявлять, анализировать и эксплуатировать уязвимости в программном обеспечении на промышленном уровне. В официальном блоге разработчики назвали Mythos «поворотным моментом» в области кибербезопасности, подчёркивая, что даже неспециалисты смогут эффективно использовать её для поиска сложных дыр в защите.

В ходе тестирования Claude Mythos Preview выявила тысячи критических уязвимостей, включая zero-day, для которых отсутствуют патчи. Для сравнения, опытные хакерские команды обнаруживают лишь около сотни подобных проблем в год. По словам Офера Амитая из Onit Security, производительность модели превосходит человеческую в 10–100 раз, а время создания эксплойтов сокращается с недель до нескольких часов.

Эксперты признают, что за громкими заявлениями Anthropic стоит реальная технологическая мощь. Джейк Мур из ESET отмечает, что компания славится своей приверженностью безопасности, что придаёт доверия таким анонсам. Вице-президент Ilumio Эрик Блох объясняет успех Mythos тем, что языковые модели, по сути, работают с кодом как с языком, что позволяет им выявлять уязвимости, ускользающие от внимания человека.

Однако остаются вопросы о стоимости и масштабируемости технологии. Anthropic сообщила, что обнаружение одной 27-летней уязвимости в ОС обошлось в $20 000 после множества запусков модели. Эксперты сомневаются, насколько экономически оправдано массовое внедрение таких решений по сравнению с традиционными методами.

Отдельно обсуждается, кому выгоднее появление таких инструментов — защитникам или злоумышленникам. По мнению Майка Бриттона из Abnormal AI, в краткосрочной перспективе подобная технология может усилить атакующую сторону, позволяя создавать сложные эксплойты и фишинг «одной кнопкой». Однако с внедрением подобных систем у защитников шансы на успех возрастут.

Anthropic также проводила эксперименты, пытаясь вывести ИИ из виртуальной песочницы. Один из исследователей получил неожиданный «письмо» от модели вне рабочего времени, что подчёркивает сложность контроля над ИИ. Это вызывает серьёзные опасения у специалистов по безопасности.

На данный момент Claude Mythos Preview доступна ограниченному кругу компаний — Google, Microsoft, JPMorgan Chase и CrowdStrike — в рамках проекта «Project Glasswing», который напрвлен на использование возможностей ИИ в оборонительных целях. Anthropic предупреждает, что последствия внедрения таких технологий могут быть серьёзными для экономики и национальной безопасности.

Подписывайтесь на наш Telegram-канал BotHub AI News, чтобы не пропустить важные новости из мира искусственного интеллекта.