Начинаю новую рубрику, раз в неделю я беру одно слово из ленты (токсичное/модное/странное/оно просто мне нравится или наболело) и разбираю как оно меняет коммуникации да и нас тоже😊. #Слово_недели: «халлюцинации» или почему ИИ так уверенно «врет» и не краснеет) В разгаре рабочего проекта про ИИ поймала себя на странной мысли: многие почти привыкли, что модель может выдать ответ с таким видом, будто держит в руках оригиналы документов, печать и подпись, но при этом всё это может быть выдумкой. Слог – прекрасный, а смысл – нулевой. Галлюцинации у ИИ - это когда модель уверенно генерирует правдоподобную, но неверную информацию (выдуманные факты, несуществующие ссылки, перепутанные причины-следствия). Откуда вообще взялось это слово в AI-контексте Термин прижился как метафора: модель не «вспоминает» факты, как человек, а предсказывает наиболее вероятное продолжение текста. Иногда это продолжение выглядит идеально логичным - но не обязано совпадать с реальностью. И вот тут и начинается эффект «галлюцинации»: не “ошибка”, а именно убедительная альтернативная версия мира (!!!). Почему становится все страшнее (мне по крайней мере) или скоро настанет время «И тааак сойдет»: ▫️ ИИ переехал из игрушки в рабочие процессы: раньше «ошибся и ладно», теперь это может быть пресс-релиз или презентация. ▫️ Уверенный тон нейросетки обладает высокой внушаемостью: человек считывает уверенность как компетентность. Особенно когда устал, спешит или «ну модель же умная». ▫️ Скорость уже побеждает осторожность: мы хотим ответы мгновенно - и иногда готовы заплатить за это качеством проверки. Что это меняет в коммуникациях (и для брендов, и для нас человеков) ▪️Текст может быть гладким, но это больше не означает и не гарантирует, что он проверен. Доверия по умолчанию больше нет. ▪️ Ссылки, первоисточники, скриншоты, методология — снова в моде, как ни странно. Обнимемся😊 ▪️ Появляется новая роль «редакторы реальности» – те, кто способен верифицировать и проверять факты. Так я человек очень тревожный и много работаю с информацией – почти всегда проверяю цифры, даты и имена. Цитаты в этом особенно хороши😊 Всегда проверяю ссылки на источник и на первоисточник. И продолжаю верить в то, что все будет хорошо. Отличных всем выходных!❤️