Если вы собираетесь разворачивать LLM локально на своём железе (мы вот, например, делаем на локальных LLM агентов для медиабаинга), то вам определённо потребуется определить: А какие из топовых моделей вы сможете запустить с приемлемым кол-вом токенов в секунду? И для того, чтобы не делать это руками, умные люди сделали опенсорсную утилиту LLMFit. Софт знает тех.требования ~500 моделей, а также подскажет вам, для чего можно использовать каждую из них (последний столбец). Пользуемся, коллеги! ➡️ И подписываемся на Crazy Profits, тут есть и будет куча всего интересного про AI в арбитраже трафика 👍👍👍