OpenAI представляет Codex CLI: инновационный инструмент для разработчиков
OpenAI анонсировала Codex CLI, инструмент, который позволяет выполнять код на локальном уровне. Этот материал будет особенно полезен разработчикам, создающим собственные агенты и стремящимся оптимизировать расходы на инференс. Основная система основана на классическом цикле агентов: пользователь отправляет запрос, после чего создаётся полный промпт с инструкциями. Модель может реагировать текстом или вызывать инструменты, фиксируя результаты для дальнейшего использования, до тех пор, пока задача не решится. Важно помнить о лимите в 32 Кб для агрегируемых инструкций. Также обсуждается обработка контекста: для снижения стоимости используется кэширование промптов, что позволяет избежать значительных затрат при изменениях. API Codex CLI стал статeless, что исключает сохранение состояния диалога. При заполнении контекстного окна запускается механизм компакции старых сообщений, сохраняющий их смысл. Codex CLI совместим не только с серверами OpenAI, но и с локальными моделями. В дальнейшем OpenAI обещает подробнее осветить архитектуру и инструменты Codex.
Вопрос-ответ
Что такое OpenAI Codex CLI и кому он будет полезен?
OpenAI Codex CLI — это инструмент для разработчиков, позволяющий выполнять код на локальном уровне. Он будет особенно полезен тем, кто создает собственных ИИ-агентов и стремится оптимизировать расходы на выполнение запросов к модели (инференс).
Какие механизмы используются в Codex CLI для снижения затрат?
Для экономии средств используются два основных подхода. Во-первых, кэширование промптов, что позволяет не платить заново за повторяющиеся части запросов. Во-вторых, механизм компакции, который сжимает старые сообщения при заполнении контекстного окна (лимит 32 Кб), сохраняя их смысл.
В чем ключевые особенности API и с какими моделями он совместим?
Ключевая особенность API — он является stateless, то есть не сохраняет состояние диалога между вызовами, что требует передачи всего контекста в каждом запросе. Важным преимуществом является то, что Codex CLI совместим не только с серверами OpenAI, но и с локально развернутыми моделями.