Здравствуйте мои маленькие любители DS/ML, сегодня поговорим про то, как выглядит отбор в AIRI. Я понимаю, что вероятно это не тот трек, который интересен всем, но как мне кажется важно освещать все части нашего DS/ML комьюнити. AIRI же в свое время один из немногих передовых институтов, которые занимаются интересными задачами. Всего было 3 этапа отбора. 1 отбор - DL теория. Что спрашивали? Сначала мы поговорили про то, как работает backprop. Про его проблемы и как с ними бороться. Как бороться с проблемой изменения распределения при использовании ReLU и как оно изменяется? Также меня спросили про то, как выглядит геометрически Adam (отвечал уже в посте про Spectrals) и какие проблемы он решает. Далее мы перешли к RL. Спросили про Offline / Online алгоритмы, а также про Off-Policy и On-Policy алгоритмы - в чем разница (Sarsa / Q-Learning)? Закончили мы обсуждение распределенным обучением и техникам оптимизации инференса (квантизации, спекулятивный декодинг) + оптимизации обучений (ZeRo / FlashAttention). На этом собес закончился, мне показалось, что вопросы интересные и достаточно сложные. Тем не менее я справился без проблем и прошел в следующий этап. 2 отбор - ML Code. Надо было внезапно написать KNN. Мне просто дали отрывок статьи и я имплементил. Написал за 40 минут + дебажил какие-то кринжовые моменты. Прогнали на выборке и вроде интервьюера все устроило. Мне лично мешала плохая связь соединения. Этот этап я также прошел. 3 отбор - Engineering Fit. Тут было проще всего - спрашивали про Docker/Git/Bash всякую базу. Также дали кейс - нужно спроектировать рекомендательную систему и предложить колд-старт, лосс и RL подход в задаче. Тут я немного замекашлся, предложил два решения, но как мне показалось не самых оптимальных (если интересна вся задача - пишите комменты, раскрою идею). Сейчас жду фидбека, но вроде все отборы прошел. В целом отборы были очень плотные и интересные, советую всем попробовать сюда отобраться - опыт полезый. Пишите комментарии, ставьте лайки! @zadachi_ds