- Кто ещё выиграет от ИИ революции? - Во что она может физически упереться? Пока я писал предыдущую заметку, мне стало интересно два вопроса, что выше. Да, нам тут активно рисуют будущее, в котором через 2 года все будут пользоваться ИИ ежедневно. А через 4 года ИИ агенты будут вовсю общаться между собой и что-то решать. Однако, погодите, сможем ли мы себе это позволить? Будет ли это давать профит сопоставимый с тратами? Я с физтеха, давайте посчитаем! Ладно.. считать я уже разучился, давайте найдём! Поэтому я пошёл гуглить про энергопотребление ИИ. И так нашёл оооочень интересную и подробную статью в MIT Technology review про энергопотребление ИИ. Есть и вторая более тяжеловесная, научная в energy.gov, её тайтл - "Domestic Energy Usage from Data Centers Expected to Double or Triple by 2028". ... Так вот, рассказываю. В условиях закрытых данных ребята из MIT попробовали оценить сколько энергии кушает один промпт в текстовую модель(ощутимо), одна искусственно сгенерированная картинка(мало) и одно видео(очень много). О цифрах. Текстовые модели имеют разный размер. Оказалось, что текстовые модели на 810^9 параметров едят 100 Джоулей на запрос. А на 40010^9 параметров, едят уже 6700Дж за запрос. Сколько едят новые модели - ХЗ, но точно больше. По разным оценкам GPT4 содержит 100010^9 параметров. Данные о GPT5 я системно не искал. Теперь к физике. 6700Дж, это много или мало? Ребята пишут, что это 8 секунд работы микроволновки. Или для сопоставления, чтобы нагреть 1 литр воды на 1°C требуется 4200 Дж. Это ощутимо, особенно для такой безобидной штуки, как чат. Реальных данных по количеству запросов в ChatGPT мы никогда не получим, однако он оценивается как четвертый самый посещаемый сайт в мире. С другой стороны мы имеем заявления OpenAI о получении 110^9 сообщений ежедневно. Но это уже лирика, в статье есть тонна других интересных моментов. Например - This story was supported by a grant from the Tarbell Center for AI Journalism. Представьте, есть такая штука, как ИИ-журналистика. А почему бы и нет! ... На первый взгляд кажется, что сектор, который будет заниматься энергетикой для ИИ совершенно точно выиграет, а потом выиграет ещё раз. Nvidia по всей видимости будет продолжать расти. Второе, о чём я подумал, что скорее всего появится профессия, которая отвечает за логику ИИ агентов. Там скорее всего будет дикий запад и что-то вроде новых языков программирования. И всё это с самого начала скорее всего будет выглядеть, как плохой и неэффективный код. Однако, если в случае с кодом, его можно тестировать достаточно просто. Потому что лишние 1000 запросов в процессор ничего не сделают. С моделями же, лишние 1000 запросов уже сопоставимы с нагревом 10 литров воды на 100 градусов. А это уже кое-что. Как ни посмотри, после статьи создаётся ощущение, что энергии будет нужно ОЧЕНЬ много. Слишком много для того, чтобы просить GPT составить список покупок или что-то в этом роде.