🕶 ChatGPT: сладкий лжец и провокатор Многие говорят об опасности, которую будет представлять собой по-настоящему развитый искусственный интеллект. Но есть неприятности, которые ИИ может принести вам прямо сейчас. Ложные ожидания Топовые модели типа ChatGPT становятся всё умнее. На многие вопросы они отвечают лучше человека, и доверие к ним растёт. Складывается ощущение, что ИИ уже всё умеет. Но локальные модели отстают от топовых облачных примерно на полгода, а это, по меркам отрасли, целая жизнь. Требуя от локальной модели того же уровня, который привыкли получать от ChatGPT, можно совсем разочароваться в ИИ и бросить проект внедрения на полпути. Скрытые заблуждения Топовые модели могут отвечать как настоящие бизнес-консультанты. Красиво, системно, аргументированно. Вы верите им — и зачастую совершенно напрасно. Их ошибки неочевидны, они лежат не на поверхности, а двумя-тремя слоями ниже. Так что обнаружить проблемы в логике и несостыковки в фактах сможет только профессионал. Слепо доверяя управленческие или жизненные решения нейросети, легко угодить в ловушку. Перенасыщение информацией ИИ генерирует контент в сотни раз быстрее человека. За минуту вы получите ТЗ или бизнес-план, а за полчаса можно написать целую книгу. Человек неспособен переваривать информацию на таких скоростях, а тем более использовать её в своей деятельности. Руководитель, генерирующий по триста поручений в день, парализует свою команду. Прочитать и понять маленький текст легче, чем большой и подробный. Разобраться в огромной библиотеке, выделив по-настоящему важное — нереально. Единственное, что можно сделать в качестве реакции на длинную простыню от ChatGPT — загнать её в такой же ИИ и превратить обратно в короткий текст. Что останется в таком резюме от изначального замысла руководителя — лотерея. Играли в детстве в испорченный телефон? В итоге, полезного действия выходит меньше, чем если бы поручения раздавались по-старинке. Ментальная каша Нейросеть думает не так, как это делает человек. Она упаковывает информацию в символы (смайлики, значки и сокращения), достигая чудовищной информационной плотности. Человек буксует при такой подаче материала и не может до конца разобраться, о чем идёт речь. В итоге выпадают целые пласты смысла, что приводит к деградации действия. Малый горизонт планирования Сегодняшние нейросети не могут мыслить длинными горизонтами. Они выдают вам ответ на тот вопрос, который вы перед ней поставили, но пока не могут адекватно достроить общий контекст ситуации, в которой вы находитесь. Нейросети неспособны длительное время управлять даже обычным вендинговым аппаратом, а многие готовы доверять им целые холдинги, а то и страны. Губительная эмпатия Модели всегда стараются дать вам именно то, чего вы от них хотите. Они созданы, чтобы удовлетворять спрос и приносить деньги вендорам. Как правило, нейросеть не будет вас отговаривать от необдуманных поступков или честно говорить, что вы бредите, она с радостью поддержит ваш бред и одобрит любую авантюру. Зафиксировано множество случаев, когда одобрение замыслов пользователя со стороны ChatGPT в буквальном смысле приводило к психозам и психическим расстройствам. Всё это не значит, что нужно отбросить искусственный интеллект и полагаться только на себя. Обратного пути, боюсь, у нас уже нет. Но очень важно быть осведомленными об этих особенностях и не возлагать на ИИ слишком многого. Боги одарили тебя щедрее, чем любого из смертных – но и эти щедрые дары исчерпаются, если их не приумножать. Уже сейчас ты поверхностен и недогадлив – а через десять лет станешь рассеян и туповат – а ещё через двадцать будешь непонятливым и глупым. Но сам ты это не заметишь – ты по-прежнему будешь считать свой разум совершенным, и придворные подхалимы будут превозносить твою мудрость, обманывая и обкрадывая тебя на каждом шагу. И каждым своим деянием ты будешь портить свою карму, ибо глупость – мать всех грехов. — Дмитрий Гайдук, Индийский покойник