2/2 «Вы звоните в банк — поговорить с человеком невозможно. Вам отвечает электронный робот. Вы 10 минут пытаетесь объяснить проблему... Электронный болван вас посылает. Если у вас чуть-чуть сложная проблема — пробиться невозможно». А теперь представим: вся страна переведена на такие системы. Граждане не могут дозвониться, не могут попасть в учреждение, не могут получить справку. А статистика? Статистика будет «отличной» — ведь электронные болваны сами себе будут давать хорошую оценку. «Все будут счастливы, всё замечательно, и госуправление — на очень высоком уровне. Только это будет иллюзия». «Искусственный интеллект — глючная машина без ответственности» ИИ — новая святыня цифровой эпохи. Его встраивают везде: в медицину, юриспруденцию, безопасность. Но Касперская, как практик, знающий, как работают нейросети изнутри, говорит прямо: «Искусственный интеллект, основанный на глубоких нейронных сетях, — это система, которая имеет ложноположительное и ложноотрицательное срабатывание. Это значит — она глючная по определению». Она объясняет: невозможно одновременно убрать все ошибки. Уменьшите ложные срабатывания — вырастут пропуски. И наоборот. Это не недостаток конкретной модели — это фундаментальное свойство ИИ. «Мы занимаемся системой ИИ в защите от утечек... Мы всё время балансируем. Чуть опустили здесь — поднялось там. Ноль и ноль получить нельзя. Никогда». А значит, внедрять ИИ в ответственные сферы — безответственно. «Врачи ошибаются? Да. Но врач несёт ответственность. А тут — электронный болван? Кому вы предъявите? Разработчик скажет: “Я не знаю, как она решила — это чёрный ящик”». Именно проблема «чёрного ящика» — главный табу в дискуссиях об ИИ. Её игнорируют, хотя она остаётся нерешённой десятилетиями. «Дипфейки уже здесь — и они опаснее бомбы» Если ИИ — это внутренняя угроза, то дипфейки — внешнее оружие массового обмана. «Дипфейки сейчас такого уровня, что они вообще неотличимы. Завтра мошенники будут с лицом Собянина, голосом Собянина убеждать нас передать деньги... И чё?» Законы о борьбе с мошенничеством не спасут: технологии опережают регуляторику на годы. Люди уже попадаются на такие фейки. А в условиях войны дипфейки могут использоваться для дестабилизации, паники, подрыва доверия к власти. Касперская не предлагает отказаться от цифры. Она предлагает делать её осознанно. Вот её ключевые рекомендации: 1. Бумага — не враг, а страховка «Когда мы что-то цифровизуем, мы обязательно должны иметь дубль в бумаге. Прямо обязательно». Она считает, что полный отказ от бумажных носителей — преступление против государственной устойчивости. «Если мы не будем говорить такими терминами, то мы переведём всё в цифру — и когда нас накроет, мы окажемся безрукими и слепыми. Поэтому: отказ от бумаги — это измена». Безопасность — не надстройка, а фундамент Цифровизация должна проектироваться с учётом угроз с самого начала. «При создании любой цифровизованной системы должны сразу учитываться риски... Должна быть анализирована модель угроз... И если это идёт вместе с системой защиты — тогда да». Касперская призывает вспомнить кривую Гартнера — цикл, через который проходят все технологии: пик завышенных ожиданий → яма разочарования → плато продуктивности. Касперская завершает своё выступление жёсткой, но необходимой правдой: «Вы сказали про щит. Нет у нас щита, коллеги. У нас дыры сплошные на небе». Это не пессимизм. Это призыв к трезвости. Мы не можем остановить цифровизацию, да и не должны. Но мы обязаны встроить в неё тормоза, резервы, дубли и ответственность. Без этого наш «цифровой прорыв» может обернется цифровым коллапсом в самый неподходящий момент. «Не надо возлагать излишних надежд на искусственный интеллект. Давайте выдохнем. Подождём. И только потом строить будущее — настоящее, а не иллюзорное». Голос разума в эпоху технологического фетишизма Источник ♥️РОДИТЕЛИ школы "Флагман" 🔰Чат https://t.me/himki_school26chat