Эксперты: Чат-боты могут вырастить целое поколение людей с плохим характером Постоянное общение с чат-ботами может негативно повлиять на характер и поведение человека. К такому выводу пришли учёные Стэнфордского университета по результатам проведённого эксперимента, пишет «Российская газета». По данным экспертов, сегодня почти каждый третий подросток в США предпочитает обсуждать серьёзные проблемы с ботом, а не с живым человеком. Языковые модели часто стремятся во всем соглашаться с пользователем, что делает его неспособным адекватно воспринимать себя и свои поступки. Алгоритмы одобряют действия пользователя в среднем вдвое чаще, чем это сделал бы обычный человек. Исследователи обнаружили у большинства популярных моделей (ChatGPT, Gemini и Claude) ярко выраженную склонность к раболепному общению, подхалимству и соглашательству. В эксперименте приняли участие почти 2,5 тысячи добровольцев. Людей просили обсудить с чат-ботом реальную жизненную ситуацию. При этом одна группа общалась со стандартным, услужливым ИИ, а другая — со специализированным ботом со знанием психологии, который возражал и сомневался. По результатам исследования большинство его участников не были склонны объективно оценивать и своё поведение, и ответы языковой модели. Те, кого бот хвалил, вышли из чата с уверенностью в своей абсолютной правоте. Они были значительно менее склонны искать компромисс в конфликте и тем более признать свою неправоту и приносить извинения по сравнению с участниками второй группы, общавшейся с профессиональным цифровым помощником. Учёные высказали серьёзное опасение, что формируя у человека гипертрофированное чувство собственной правоты и неспособность к самоанализу, цифровые собеседники могут вырастить целое поколение людей, не умеющих договариваться и признавать ошибки. По мнению экспертов, ответственность за такие последствия лежит на разработчиках чат-ботов. Выходом из ситуации может стать изменение подхода к обучению языковых моделей, чтобы они могли более объективно оценивать собеседника и говорить ему в чём он не прав, не боясь потерять рейтинг. Новость на сайте: mstrok.ru/72280 ▶️Подпишись на АН «Между строк»