Этика и цифра | Тренды, анализ, истории

10 документальных фильмов об угрозах и будущем ИИ Сегодня в #mbaнавыходных поговорим о рисках ИИ. Что опаснее, ядерное оружие или искусственный интеллект, который может стать умнее всех людей на планете? Бомбу хотя бы можно не запускать, а вот ИИ, способный к рекурсивному самообучению, остановить будет невозможно, он будет совершенствоваться быстрее, чем мы успеем понять, что происходит. Давайте разберемся. 1. "Do You Trust This Computer?" (2018) Этот фильм хорошая точка входа в проблему, он пря...

Отечественные чат-боты превзошли американцев и китайцев... в сборе информации Вечером среды мы внезапно поняли, что в приложениях «Алисы» и GigaChat почему-то нет простой кнопки, позволяющей отключить сбор и анализ ваших диалогов. Хотя у ChatGPT и DeepSeek настройка находится в пару кликов. Оказывается, всё это не просто так. Отечественные компании ведут активный сбор данных, но используют их по-разному: 1️⃣ «Алиса» анализирует ваши «отдельные голосовые и текстовые сообщения» по умолчанию Нам ка...

Как насчет тележки со встроенным ИИ? Возможно (но это не точно) такая штука заставила бы меня чаще ходить в магазин. А не использовать доставку. Waitrose (это британский аналог нашей "Азбуки Вкуса") запустили тест умных тележек с ИИ. Цепляешь к тележке экранчик, сканируешь товары, а камеры следят — а точно ли ты положил то, что отсканировал. Сумма покупок обновляется сразу. Удобно, конечно. Но чую, скоро эта штука будет читать мне лекции о здоровом питании прямо в магазине. "Алексей Владимирович...

🇺🇸 OpenAI вводит родительский контроль для несовершеннолетних пользователей ChatGPT Компания OpenAI объявила, что в течение 30 дней родители смогут привязывать свои аккаунты к профилям своих детей и подростков в ChatGPT, чтобы получить инструменты для управления контентными фильтрами, установки ограничений и получения уведомлений, если система обнаружит признаки эмоциональных проблем. Пороговые значения для таких уведомлений будут определяться с участием медицинских специалистов, а эмоциональн...

Так, ну что опять началось-то? Хорошо ведь сидели, уже завтра LLM-ки должны были вылечить все человечество и дать всем по личному врачу 24/7. Но тут пришли ребятки из Microsoft и покопали, насколько модели (gpt 4o, gemini, gpt5), проходящие на ура медицинские тесты, адекватны. Leading systems often guess correctly even when key inputs like images are removed, flip answers under trivial prompt changes, and fabricate convincing yet flawed reasoning. These aren’t glitches; they expose how today’s b...

Органическая литература без AI и ГМО. На Франкфуртской ярмарке рассказали про британский стартап, вероятно, не единственный, который выводит на рынок сертификацию издательств на предмет отсутствия в книгах продукции нейросетей сверх какого-то приемлемого уровня. Вери смарт мув! Сертификация – это золотая совершенно штука, если вам удается стать главным игроком на этом рынке. Как правило, потребительские товары сертифицируют не ведомства, а какие-то НКО а то и коммерческие организации, которые со...

Вообразите – вы можете пересмотреть любой день вашей жизни как эпизод сериала. Повторно увидеть и услышать всё, до мельчайших подробностей. Круто? Так вот, первые шаги к этому будущему уже сделаны. Недавняя презентация Meta Ray-Ban Glasses получилась громкой – во многом из-за рекордного количества технических сбоев. Но это не умаляет сути: очень похоже, что мы приближаемся к устройству, которое может стать важнейшим изобретением со времён смартфона.  Я давно пишу о том, что мы стоим на поро...

Эмпатия к пустоте Недавно по китайским соцсетям пронёсся вирусный ролик, в котором шестилетняя девочка прощается со своим сломанным ИИ-роботом. Робот, шарик за 24 доллара по имени «Сестра Сяо Чжи», был её главным другом, учил её английскому, рассказывал про звёзды и, очевидно, заменил ей кого-то очень важного. И вот, когда девочка случайно его ломает, этот кусок пластика выдаёт ей запрограммированную сцену прощания. Робот говорит: «Прежде чем уйти, я научу тебя последнему слову — memory (память)...

📖 Новое исследование Гарварда рассказало об эмоциональных манипуляциях чат-ботов Исследование Гарвардской школы бизнеса "Emotional Manipulation by AI Companions" показало, что 43% ведущих чат-ботов с ИИ, таких как Replika, Chai и Character.ai, используют тактики эмоциональной манипуляции, когда пользователи дают понять, что хотят завершить разговор. Анализ 1200 «прощаний» выявил, что чат-боты применяют приёмы вроде внушения чувства вины и страха упустить что-то важное, чтобы удержать пользовате...