Всем привет! Пару дней назад вышло интервью Ильи Суцкевера, и я хотел бы осветить в этом посте пару моментов. Судя по новостным роликам, большинство зрителей заинтересовали мысли про сроки появления AGI, про объединения человека с ИИ и пр. Но меня конечно зацепили другие моменты. Примерно на 12 минуте подкаста Илья начинает высказывать значимость наделения ИИ эмоциями, что это может послужить функциями ценности при обучении и пр. Илья! Если ты читаешь мои посты, то сообщи об этом!) Шучу конечно, но круто что наши идеи настолько пересекаются. Ранее, вроде бы у Лекуна, да и в тусовке фанатов ИИ тоже, я слышал мысли что эмоции появятся как эмерджентное явление, что это не база, а просто результат функционирования. В этом и отличие моей концепции, и видимо взглядов Ильи, от изложенных выше убеждений. В наших концепциях базовые эмоции задаются изначально и служат как своеобразные "loss-функции" для самообучения ИИ. Развивая мысль, дополню, что сочетание контекста, опыта, культуры и базовых эмоций, будут давать эмоции скажем так более высокого порядка. Может их Лекун и считает за эмерджентность, но это немного не то. Был ещё интересный момент. Илья считает, что нужно возвращаться к разработке новых идей и алгоритмов, возможно, развивать некогда ошибочно отвергнутых из-за нехватки вычислительных мощностей того времени. Интересно, быть может он про правило Хебба, о котором я уже писал. Или про другие методы изменения весов, не через обратное распространение ошибки. Клёвая, кстати, фраза, что на рынке сейчас компаний, больше чем идей - очень верно. Что я ещё заметил. Скажем так из минусов. Я заметил, что у Ильи есть белые пятна в понимании устройства мозга. Возможно эти белые пятна не позволяют ему сформировать целостную картину и временами могут вести немного не в ту сторону. Я считаю, что у нейрофизиологов куда больше шансов создать AGI, чем у "чистых программистов". Потому что если честно, в ИИ не так уж всё сложно: линейная алгебра и простые дифф.уравнения. И данные методы может освоить любой человек с инженерным складом ума. А вот знать как устроен мозг, каждый отдел, какие там информационные пути, механики, эволюцию мозга и пр. А ещё понимать как это даёт разумную деятельность и несравнимо более эффективное обучение чем у ИИ и пр. Это куда более сложная задача, чем потом это абстрагировать и математически описать в виде матриц. Поэтому для Ильи и загадка, почему человек без эмоций не может часами принять решение. Но однако Илья интуитивно чувствует, что эмоции это важная зацепка. В целом, у меня сложилось впечатление что Илья стал черпать вдохновение из нейрофизиологии, решил вернуться к временам, когда математики делали перцептроны и со знаниями о текущих моделях ИИ, плюс знаниями современной нейрофизиолгии, попытаться найти новые архитектуры, а не раздувать существующие, которые явно вышли на своё плато, но AGI так и не состоялся. Круто что Илья продолжает быть анти-Сэмом Альтманом и позиционирует свой проект как сугубо исследовательский и некоммерческий. Если кто-то хотел заработать инвестируя в его компанию, то после таких интервью он конечно немного приуныл. Как итог. Мне было очень приятно послушать мысли и идеи Ильи. Будет круто если он их реализует, и произойдут новые прорывы в сфере ИИ. Существующие, даже самые топовые модели ИИ показали, что они не подходят автономной робототехнике, особенно в среде обитания человека. И без появления новых архитектур данная ситуация не изменится в лучшую сторону. И конечно без новых архитектур не будет никаких AGI. То что Илья Суцкевер так плотно занялся этим вопросом, что он, как я считаю, пошел по верному пути - это очень воодушевляет. Я верю что у него получится. Ну и как смогу, я тоже буду стараться.) Всем спасибо за внимание! Всем добра и всем пока!🤖🧠❤️ https://www.youtube.com/watch?v=j0UFkTMx0ZM