После критики экспертного совета OpenAI отложила запуск "взрослого режима" в ChatGPT, который предназначен для разговоров на эротические темы. Специалисты опасаются нездоровой эмоциональной зависимости пользователей и риска доступа подростков к откровенному контенту. Испытания выявили проблемы с системой верификации возраста — ошибки достигали 12%, что при аудитории в 100 млн несовершеннолетних создаёт серьёзные риски. Кроме того, сложно разграничить допустимую эротику и запрещённые темы вроде насилия над детьми. Тем не менее пока компания не отказалась от идеи полностью. Данная ситуация наглядно демонстрирует необходимость находить баланс между пользовательской свободой и комплексной защитой от потенциальных рисков. Ответственный путь развития генеративного ИИ предполагает не просто внедрение новых функций, а глубокую проработку механизмов модерации, возрастной верификации и психологической безопасности. Подписаться на Нейроскептик