Я посмотрел это интервью Суцкевера за вас 🫡 Коротко расскажу, что я подметил и почему оно оказалось куда интереснее обычных разговоров про ИИ. Впервые Илья Суцкевер подробно объяснил, как видит текущее состояние искусственного интеллекта, почему нынешние модели буксуют, что нас ждет дальше и зачем он основал свою новую компанию SSI. 🤔 Что сейчас не так с ИИ? Если коротко, современные модели вроде GPT выглядят умными только на бумаге. Они великолепно сдают экзамены, но когда их ставишь работать с реальными задачами, все начинает буксовать. Исправляешь одну ошибку — вылезает другая. Кажется, что модели больше учат не понимать мир, а подстраиваться под то, что людям нравится видеть в ответах. Это и есть главный парадокс: тесты проходят, а реальную ценность создать не могут. Суцкевер объясняет, что предобучение дает моделям широкий взгляд на мир, потому что оно основано на настоящих данных. А вот обучение с подкреплением часто превращает нейросеть в отличника, который знает, как получить хорошую оценку, но не понимает, почему так. У него нет глубокого смысла за ответами, только подгонка под метрику. У людей есть внутренняя система ценностей. Мы учимся не только фактами, но и эмоциями. Радость подсказывает, что действие правильное. Тревога предупреждает об опасности. Стыд корректирует социальное поведение. Любопытство толкает вперед. Фактически, это встроенный механизм оценки. Он не ждет наказания, чтобы понять, что что-то не так. Вот почему человек способен осваивать мир, а не только решать задачи в рамках тестов. 😨 Конец эпохи масштабирования Суцкевер делит развитие ИИ на две эпохи: 2012–2020 — время прорывных идей и новых архитектур вроде Transformer. 2020–2025 — гонка масштабов: больше данных, больше вычислений, больше параметров. Но просто «прибавлять железа» больше не работает. Рост производительности замедляется. Чтобы сделать следующий шаг, нужно менять подходы к обучению, а не только увеличивать мощности. 🛌 Что будет дальше По его оценкам, ближайшие 5–20 лет — период, когда ИИ станет по-настоящему исследовательским. Он начнет понимать мир, физику, социальные нормы, сможет совмещать разные типы восприятия и даже заниматься саморефлексией. И когда это случится, экономика, образование и наука могут изменить правила игры. Мы войдем в эпоху совместного интеллекта — когда человек и машина будут усиливать друг друга, а не конкурировать. SSI, новая компания Суцкевера, собирается идти к этой цели постепенно. Он говорит, что будет развивать безопасный сверхразум с постоянной внешней проверкой рисков и механизмов контроля, чтобы не оказаться в ситуации, где технология растет быстрее понимания последствий. Если после этого интервью и остается вопрос, то не о том, станет ли ИИ сильнее. Вопрос в другом: сможем ли мы создать интеллект, с которым можно будет жить и работать без страха. Посмотреть интервью можно тут