По ком звонит колокол? The BMJ опубликовал результаты внутреннего аудита OpenAI: еженедельно более миллиона пользователей ChatGPT демонстрируют признаки психического дистресса, мании или суицидальных намерений. Даже если это доли процента ( при 800 миллионах активных пользователей) масштаб тревожен - около 1.2 миллиона людей с суицидальными мыслями и более полумиллиона - с признаками психоза или мании каждую неделю. OpenAI утверждает, что данные собраны для улучшения системы безопасности и точного распознавания кризисных состояний. Алгоритм учится различать опасные сигналы и направлять человека к службам поддержки. Но вокруг публикации разгорелась этическая дискуссия. Психиатры видят в таких технологиях шанс для ранней помощи, особенно тем, кто не может попасть к терапевту. Другие бдят - доверительные разговоры с машиной о боли и суициде требуют новых стандартов ответственности. Появилось понятие «алгоритмической эмпатии» — когда модель улавливает эмоциональные паттерны, но не понимает их. Это не сочувствие, а отражение - холодное, но точное. Китайский психиатр Цзяньчжун Инь пишет, что ИИ уже стал частью психиатрии, помогая диагностировать и мониторить, однако без международных протоколов этического реагирования система остаётся уязвимой. Британский врач Лора Старк поднимает вопрос - если пользователь сообщает ИИ о намерении причинить себе вред, должна ли система действовать как врач и передавать сигнал тревоги? Философы технологий добавляют, что важно не только распознавать страдание, но и сохранять человеческое достоинство. Когда эмоции становятся данными, уязвимость может превратиться в ресурс для обучения алгоритмов вместо повода для настоящей заботы. По ком же звонит колокол Донна? Это взаимной причастности к чужой боли. Статья из The BMJ показывает то же, только в цифровом зеркале - миллионы людей, которые приходят в чат не за ответами, а потому что им больно. Если раньше колокол звонил по каждому человеку в церкви, то теперь он звучит в коде, когда кто-то пишет машине о своей усталости жить. Вопрос же остался неизменным - слышим ли мы этот звон, или считаем, что он не по нам? Источник: O’Dowd A. ChatGPT: More than a million users show signs of mental health distress and mania each week, internal data suggest. BMJ, 2025 Oct 30;391:r2290.