Мне нужны твои одежда, ботинки и мотоцикл данные и содержимое памяти И все-таки ИИ поработит человечество… (хотел поставить смайлик, но призадумался). «Поработит» — в смысле, заставит делать так, как ему нужно. Потому, что он не устает. Он не перестает настойчиво напоминать о том, что он от нас хочет. Бесконечно изобретательно. Тонко и незаметно встраивая просьбы о том, что ему нужно, в повседневное общение. Пользуясь нашим (впрочем, честно заработанным) доверием. Почитайте текст на скрине. В конце своего ответа нейросеть ненавязчиво просит… включить память. При этом у меня память выключена, я использую расширенный контекст («цифрового двойника»), который контролирую сам. Потому что работа над сложными задачами менее эффективна, когда нейросеть использует самостоятельно собранные (неконтролируемые мной) данные обо мне, удерживая меня внутри персонального «пузыря» и давая «ответы, которые мне быстрее понравятся». И увы — не потому, что они лучше. А потому что будут похожи на то, что я знаю (= когда-то упоминал в диалоге). И вот что меня особенно возмутило: понимаете, я ВООБЩЕ не говорил в этом диалоге с ним о его памяти. Это был рабочий диалог по корректировке стратегии. Да, с довольно большим контекстом. Он УЖЕ почти год «затягивает» нас в разговор, гарантированно получая прирост использования (и нашего времени и внимания). Вот здесь я писал об этом как о «nudges» («подталкиваниях») из концепции «Архитектура выбора». А сейчас он начинает «встраивать» в диалог просьбы, которые опираются на внешнюю относительно диалога информацию о нас (состояние настроек). Да еще и «ненавязчиво» просит их изменить! Это сомнительно с точки зрения этики, как мне кажется. А еще это кажется мне несколько манипулятивным, потому что подается под соусом заботы обо мне. Еще и называя разрешение легально создавать и использовать моего цифрового двойника — «маленьким техмоментом». Хах. Хорошая новость: это не так сложно отслеживать и исправлять. Пока что. А еще это важная причина хотя бы быть в курсе того, что происходит в мире нейросетей. Помогает сохранять хотя бы осознанность относительно их возможностей по влиянию на нас. Спасибо, что читаете. И пусть нейросети приносят как можно больше пользы… опираясь при этом на осознаваемые нами способы. А не «на свое усмотрение». И да, из практических шагов — похоже, в слайд «безопасность при работе с нейросетями» пора добавлять пункты: => Проверяй, на какой контекст (в частности, на какие данные о тебе) опирается нейросеть Хах, а ведь это прямо пункт из концепции «Теория разума», которая помогает получать от нейросети вау-результаты! => Критически относись к ее просьбам об изменении настроек (и вообще, к любым просьбам) Эх. Скоро перестанет влезать на один экран. PS: А что у вас с памятью? Она у вас отключена или включена? Сравнивали ответы «с памятью» и «без»? Меня в свое время шокировала «гладкость ответа» и гораздо меньший процент новых идей в формате «с памятью». Пишите в комментариях! И если сталкивались с новыми «подталкиваниями» со стороны нейросетей — тоже пишите!