OpenAI представила новую модель ИИ - CriticGPT. Ее цель - выявлять ошибки в ответах ChatGPT. CriticGPT разработана для преодоления ограничений человеческой оценки в процессе обучения с подкреплением обратной связью от человека (RLHF). В экспериментах рецензенты, использующие CriticGPT, на 60% лучше выявляли ошибки в коде ChatGPT по сравнению с теми, кто работал без этой помощи. В дальнейшем планируется интегрировать CriticGPT в процесс обучения RLHF для улучшения оценки сложных выходных данных ИИ. CriticGPT составляет подробные критические замечания, указывая на ошибки в ответах ChatGPT. Исследователи также разработали новый метод вывода - Force Sampling Beam Search (FSBS), помогающий балансировать между минимизацией ложных проблем и обнаружением реальных ошибок. Сочетание CriticGPT с рецензентами дает более тщательную критику, чем работа только людей или только моделей. Этот инструмент представляет собой важный шаг в повышении точности и надежности систем ИИ. Интересное в науке 🧪