CLIProxyAPI: Как использовать API моделей, оплачивая только подписку за них Увидел пост от @kdoronin_blog про CLIProxyAPI — инструмент, который позволяет использовать подписку на Claude Code как локальный API. Начал разбираться. Суть проблемы такова: часть AI-утилит работает только через API-токены, которые стоят ну очень дорого, и желания оплачивать которые у меня совсем нет. Гораздо выгоднее использовать подписочную модель: и для локальной разработки, и для таких сервисов. Например, так сделано из коробки у моделей GLM от z.ai. Но не реализовано (и вряд ли когда-либо будет реализовано) у Anthropic и Google моделей. Есть решение — использовать прокси-инструменты, которые будут с одной стороны подключаться через обычный OAuth к подпискам провайдеров, а на выходе будут отдавать кастомный API-сервис, который можно подключить уже куда угодно. Примеры юзкейсов: • любителям Cursor'а — оплачиваете Cursor за $20, оплачиваете Claude за $100, получаете модели opus и sonnet для использования с Cursor'ом, но с существенно бОльшими лимитами, чем предоставляет подписка Cursor Ultra за $200 • если вы пилите сервис с openai или подобными библиотеками для взаимодействия с "платформенными" моделями, для которых нет преднастроенных оберток от Claude Code / ChatGPT и т.д., которые вы можете кастомизировать на полную под своё усмотрение • если вы используете адаптеры между моделью и базой данных, как в моем примере (см. ниже) про использование темпоральных графов в качестве памяти AI-агентов, на примере Hindsight или Graphiti. Существует два популярных решения: VibeProxy и CLIProxyAPI. VibeProxy VibeProxy — это GUI-обёртка для macOS, которая превращает подписку на Claude Code, ChatGPT, Gemini в локальный API-эндпоинт. Красивое нативное приложение в меню-баре. Под капотом у него CLIProxyAPI. Ознакомился — и решил пока не использовать VibeProxy. Причины: - Только для macOS (у меня мак, но у меня в планах использовать прокси не только на локальной машине, но еще и на сервере на Линуксе) - Мне нужно решение, которым можно управлять через терминал, чтобы агент мог настраивать его сам, без моего вмешательства. CLIProxyAPI А вот CLIProxyAPI — это совсем другое дело. Установил через Homebrew, авторизовался через OAuth, и теперь на localhost:8317 у меня крутится полноценный OpenAI-совместимый API, работающий через мою подписку на Claude Code. Доступны все модели: Opus 4.5, Sonnet 4.5, Haiku. Запросы выглядят как обычная работа через терминал — провайдер видит это как легитимное использование. Что ещё планирую подключить: - Z.AI — модель GLM-4.7 - OpenAI — модели из подписки ChatGPT Plus - Gemini — модели из Google AI Studio (очень надеюсь, что скоро получу не-РФ аккаунт Гугла, затянулся у меня этот процесс) Таким образом, через один локальный эндпоинт можно будет работать со всеми топовыми моделями. Промпт для настройки Я подготовил промпт для автоматической настройки CLIProxyAPI на Mac. Скармливаете его своему любимому агенту (Claude Code, Cursor, Cline) — и он сам всё настроит: установит CLIProxyAPI и создаст LLM-прокси для корректной работы с Claude. Ссылка на промпт: https://yorso.dev/l/lTbaX6W Мой юзкейс: Hindsight Зачем мне вообще этот локальный API? Я настроил Hindsight — локальную систему памяти для ИИ-агентов. Это база знаний, в которую я загружаю информацию о себе — кто я, чем занимаюсь, мои проекты, цели, контакты, отношения. Таким образом я пытаюсь создать цифровой двойник себя и хранить всю информацию не в просто текстовом виде, а в виде векторов и графов, для удобного использования LLM с семантическим поиском и другими полезными возможностями. Я скоро напишу более подробно о том, что это за штуковина. У меня очень большие планы и ожидания от неё. --- PS: Да, использование подписки через прокси может нарушать условия использования. Держите это в уме.