ClawRouter — умный, опенсорсный маршрутизатор для работы с моделями. В чем же его фишка? ClawRouter самостоятельно решает, какой моделью обрабатывать ваш запрос, чтобы не тратить лишние деньги. Представьте, он оценивает ваш запрос по 14 различным параметрам: сложность, код, длина и так далее. И за доли миллисекунд отправляет его в самую дешёвую и подходящую модель. Кстати, на выбор у него более 40 моделей. Все решения принимаются локально, так что вам не нужно беспокоиться о задержках или безопасности. Простые задачи отправляются в дешёвые модели, а более сложные — в мощные. Вот так и получается, что расходы снижаются до 78%. Если хотите попробовать эту штуковину в деле, можете тестить тут.