Андрій Карпаті випустив цікавий влог по створенню LLM Council😍 LLM Council — це проста локальна веб-програма з інтерфейсом, як у ChatGPT, але з тією різницею, що запит надсилається через Openrouter декільком LLM. Отримані відповіді перехресно оцінюються і ранжуються, і, нарешті, «модель-голова ради» формує остаточну відповідь. Для використання потрібен API-ключ OpenRouter. На ваші запити відповідає рада з мовних моделей. Ідея полягає в тому, що замість того, щоб задавати питання одній LLM, ви можете об'єднати їх в «Раду моделей». Більш детально процес виглядає так: 1. Збір думок Запит надсилається всім моделям окремо, і їхні відповіді збираються. Відповіді кожної моделі відображаються в окремій вкладці, щоб можна було їх переглянути вручну. 2. Рецензування Кожна модель отримує відповіді інших моделей. При цьому ідентифікатори анонімізовані, щоб виключити «гру в улюбленців» при оцінці чужих результатів. На цьому етапі відповіді ранжуються за точністю і глибиною аналізу. 3. Підсумовуємо відповідь Головна модель приймає всі відповіді моделей і компілює їх в єдину остаточну відповідь.