Крутая книга The AI Con про механики AI хайпа и как противостоять пропаганде. От CS/социолога Hanna и лингвиста Bender AI хайп мутировал уже аж в научные статьи и долгие подкасты. Мы долго терпели, но каждый раз новое дно и горы булшита Глава 1 Вводные - В 2023 (!) сенатор Шумер вдруг заюзал термины p(doom) и p(hope) Юдковского, в США волна арестов по ложным распознаваниям фото, аппы раздевания на 99% про женский пол, Израиль юзал AI на десятки тыс смертей в Газе, а в VC вдруг всё стало AI - AI как термину маркетинга уже лет 50, но щас - просто беспредел. Хайп стоит одновременно: 1) и на возвеличивании 2) и на FOMO и страхах Гл.2 LLM живые? - Разгон про проблески сознания в AI пошел с 2022, людьми типа Blaise Agüera y Arcas. Да, LLM это оч успешные предсказыватели символов. Да, они стали гигантские (Llama 400 млрд весов связей между перцептронами, натренены на 15 трлн слов). Но одушевлять этот autocomplete / synthesis machine?! Люди оперируют смыслами, а не перебором - Это было нужно чисто для раскрутки и как тактика продаж. А термин, кгрхм, general intelligence - взяли из IQ тестов (те уже полвека дискриминируют людей) 3 Work - Практике изъятия value от работников в пользу капиталистов - сотни лет. А всех кто против - обзывают луддитами. AI - это очередная волна и value proposition для корпоратов. Типа как мечты у отрасли роботакси, но - для всей контентной работы - Цель текущей волны агиток от OpenAI до McKinsey итп - чисто чтобы работодатели закупились AI и выкатили на весь свой штат в обязательном порядке. И всё. Как когда-то Windows и прочие vendor lock-ins - И отрасль оч. прячет сколько crowdwork, data labor, ghost work из Африки итп стоят за подготовкой датасетов и модерацией чатов 4 Social services - Тезис акселерационистов типа что AI всюду создаст изобилие. Но крякает как утка - это ещё не утка. Айтишники ловко соскочили с промышленных стандартов надежности своих агентов. Нужны тесты на реальную применимость AI в любых значимых социуму сферах: учеба, соцобеспечение, право, диагнозы, медстраховки, риски рецидивов у заключенных, ответы от госведомств итп. А не потрясание (нахера?) своими рандомными бенчмарками - Ложнопозитивные ответы отвлекают ресурс врачей, а ложноотрицательные убивают пациентов. А еще big data имеет нескончаемую историю biases и дискриминации (расовые, по уровню бедности итп) и судебных исков - Тут нужны люди, молчим уж про эмпатию 5 Арт, наука, пресса - В этих сферах больше креатива, чем логики. И миксование усредненного чужого - это не креатив. А кто отрицает, что креатив это люди - мои соболезнования - Еще AI всё потырили без а) согласий, б) упоминаний, в) оплат. Главная “ачивка" AI отрасли - почему-то удалось слить законы о копирайте. Marс Andreessen: "судебные иски обрушат цену нашего портфеля стартапов" - Науке, кстати, от AI shit (даже устанем перечислять) вреда пока больше, чем выгод. И этот процесс только начался.. 6 В AI думерстве и AI акселерационизме нет смысла - И те и другие стоят на ложных допущениях и диких фантазиях. Да еще и с bias к Западу и whites. Общее у них - тотальность и радикализм - Среди думеров есть "полезные идиоты" (честно верят) типа EA и longtermists и Max Tegmark. Думеры и e/acc были далеки от мэйнстрима пока их не взялся финансировать Sam Bankman и упоминать Musk. Думеризм, впрочем, лихо способствует safetyism и over-regulation/Антихристу. Зачем в конгрессе обсуждать бредни про p(doom)? - Климату будет хуже от гонки к датацентрам (планы жечь через лет 7 больше кВт, чем вся Индия) 7 И? - Включайте мозг, задавайте вопросы, связывайте вводные и выводы, смотрите кто выиграл и кто теряет, какие labor & data практики - Видите очеловечивание (e.g. assistant) - игнорьте. Высмеивайте genAI. И какая нафиг emergence по тому, что сделано из данных? - Нужно строже регулировать (надежность AI tech, а не бенчмарки), законы о данных/privacy (воровство затянулось), защита прав работников. Пишите конгрессменам - Tech-мафии пора заметить людей. Живых ** НЕ читать (объемно) -