ПОСТ О НЕСБЫВАЮЩИХСЯ ОБЕЩАНИЯХ ИИ Делиться сомнениями сложно: рискуешь потерять глянец уверенности в себе. Но озвучивая трудности публично, ты делаешь шаг к их коллективному, цеховому преодолению – можно сказать, к тому, чтобы перерасти проблему вместе. Сегодня я хотел бы сказать пару слов о применении ИИ в исследованиях. Недавно у нас был пост о том, как мы поженили базу Obsidian и Cursor. Эта связка работает следующим образом: ты обращаешься к базе, размеченной вручную и машинным образом, с любым интересующим тебя вопросом, а ИИ-модель (на выбор, от Claude до Kimi) ищет для тебя подтверждения и контр-примеры с нужными цитатами. Т.е. чтобы воспользоваться знанием, тебе не нужно читать сотни страниц расшифровок – и тому, как это круто, посвящен, собственно, пост. Но у этой связки есть темная тень, которую полностью устранить не удается и чем дальше, тем сильнее уверенность, что это невозможно. Проблема заключается в том, что даже с максимально выверенными промптами модель начинает глючить и выдумывать цитаты через 2-3-n шагов. По всей видимости положиться на вероятностную природу нейросетей в принципе невозможно, и потому значительная часть усилий уходит на ручной контроль и модерацию. Что важно, эти усилия носят не творческий, а механический по сути характер: человек надзирает за работой машины. Иными словами, мы видим, что Алан Тьюринг заблуждался: машина заменила сначала хозяев а не, чем слуг. Как я писал в своем канале, правы оказываются критические исследователи ИИ, в частности, Маттео Пасквинелли, который прямо пишет о том, что по мере увеличение вычислительной мощности большие лингвистические модели автоматизируют «творческих работников» по образу и роботов. Как известно любому исследователю технологический революций, машины не «всего-навсего» облегчили труд, а изменили саму систему разделения труда. Именно такое изменение рабочего пайплайна мы видим прямо сейчас, когда аналитики вынуждены заниматься не столько созидательным трудом, сколько проверкой машинных артефактов –как я писал, под давлением императивов повышения скорости, конкурентной производительности и обработки все больших массивов данных. Это наблюдение подтверждается со стороны: в этой публикации NBC News приводит не мало веселых (но не очень) примеров о том, как креативные профессионалы (включая IT-ишников) занимаются тем, что переделывают за машиной. Это ли будущее обещал нам Сэм Альтман, впрочем, недавно признавший, что ИИ-экономика устроена как инвестиционный пузырь? Не боясь сойти за скептика, признаюсь: в происходящем я вижу очередной виток несбывшихся обещаний евангелистов техно-капитализма, которые на предыдущем повороте спирали возлагали те же надежды, которые возлагаются сейчас на ИИ, на автоматизацию. Голосов об этом становится все больше, особенно в ситуации, когда поглупение 5-го поколения ChatGPT стало чем-то вроде консенсуса – по крайней мере среди коллег. Никакой хитрой морали из этого не следует, кроме того, что, ребята, а) важность человеческого труда и человеческой же компетентности невозможно переоценить и б) необходимо приложить усилия (какие?!), чтобы эта компетентность не оказалась целиком перенаправлена на супервизию машинных артефактов, добытых из бессмысленно огромных объемов информации. Фото: Сергей Карпов / Поле