По поводу всех разговоров о самоулучшающихся агентах: фигня всё это, и вот почему. Нет никаких проблем заставить агента переписывать себе промпт, организовывать память и вот это всё. Можно даже заставить его улучшать собственный код, никаких проблем. Но вот веса... Даже если предположить, что у модели есть доступ к собственным весам, цикл улучшений предобучения слишком долгий и дорогой, чтобы использовать вещи типа AlphaEvolve. Вся текущая парадигма обучения языковых моделей против этого. Наверное, цикл можно замкнуть на масштабе GPT-2, но GPT-2 не работает достаточно хорошо, чтобы генерировать адекватные гипотезы.