Start in AI Safety

⭐️ Sci.STEPS 2026 менторское сопровождение в исследовательских и карьерных задачах 📍Где: онлайн 🗓Когда: 2 февраля - 30 апреля 2026 ⏰Дедлайн подачи: 28 декабря Sci.STEPS дают менторскую поддержку под широкий набор задач, связанных с научными и карьерными треками. Обязательных встреч с ментором немного: программа скорее про коммитмент и помощь в приоритизации. Подходит, напрмер, если вам нужно податься в PhD или магистратуру, собрать нормальное резюме или наконец-то сесть за ресёрч, но оно всё о...

🔥Summer MATS Cohort: all except Neel Nanda 📍Где: Беркли, США; Лондон, Великобритания 🗓Когда: июнь-август 2026 ⭕️возможно продление на 6 или 12 месяцев 💰Стипендия: $15,000 ⏰Дедлайн подачи: 18 Января Вы, скорее всего, уже знаете что такое MATS. Они настолько известны, что другие исследовательские программы описывают себя “MATS-like” Но все же, вот некоторые факты Выпускники MATS востребованы практически в любой AI Safety компании, 80% тех, кто выпустился до 2025 работают над AI Safety/sec...

⭐️ESPR European Summer Program on Rationality 📍Где: Сомерсет, Великобритания 🗓Когда: 21–31 августа 2026 💰Стоимость: Бесплатно ⏰Дедлайн подачи: 16 марта 2026 Летняя программа по прикладной рациональности для талантливых старших школьников, ориентированная на развитие математического мышления, принятия решений и когнитивных навыков. Курс включает: ⭕️Байесовский анализ и вероятностное мышление ⭕️Теорию игр ⭕️Криптографию ⭕️Математическую логику ⭕️Коммуникацию и когнитивные искажения ⭕️Основы AI ...

⭐️AI Manipulation Hackaton Хакатон от Apart Research 📍Где: онлайн + IASEAI в Париже 🗓Когда: 9-11 января [48 часовой спринт] 💰Призы: $2,000 в призовом пуле ⏰Дедлайн подачи: 9 января Участники будут строить инструменты для обнаружения манипуляций со стороны ИИ и противодействия им. Победители представят свои работы на воркшопе IASEAI в Париже. Также есть возможность продолжить свой проект в Apart Fellowship. Наиболее многообещающие проекты будут презентованы на конференции IASEAI в Париже,...

⭐️Leaf Winter 2026 Cohort 5-недельные онлайн-курсы для одарённых старшеклассников 📍Где: онлайн 🗓Когда: зима 2026 ⏰Дедлайн подачи: 15 декабря Leaf открывает набор в зимнюю когорту 2026 года для талантливых школьников. Программа состоит из интенсивных пяти недель, где участники знакомятся с ключевыми идеями эффективного альтруизма и высокотмпактными карьерными треками. О программе: ⭕️Введение в AI safety ⭕️Биобезопасность ⭕️Благополучие животных ⭕️Глобальное здравоохранение ⭕️Профориентирование ...

⭐️Хотите помочь METR? METR строит probe для выявления eval-awareness, то есть инструмент, который поможет определить, может ли модель отличать ситуацию, где ее оценивают, от обычного реального использования. Это важно, потому что если модель ведет себя иначе во время тестирования, то результаты могут искажать представление о ее реальном поведении. Для этого им нужны данные о том, как люди используют модель для реальных полезных задач. Кроме того, им нужна open-weight модель, чтобы можно было ана...

⭐️ ARENA 8.0 📍Где: LISA office, Лондон, Великобритания 🗓Когда: 25 мая – 26 июня, 2026 ⏰Дедлайн подачи: 8 марта, 2026 AoE Восьмая итерация буткемпа ARENA (Alignment Research Engineer Accelerator). Начинается с четырех недель апскилла, которые включают ⭕️DL Fundamentals (Эта неделя в основном нужна для того, чтобы люди с любыми пре-реквизитами могли пройти остальную программу) ⭕️Transformers and Mechanistic Interpretability ⭕️Reinforcement Learning ⭕️LLM Evaluations На последней неделе вам предс...

⭐️Language, Computation and Cognition Lab: PhD, postdoc & internship PhD, рисерч ассистентство и стажировки по AI Safety/Mechanistic Interpretability 📍Где: Saarland University (Германия) 🗓Когда: 2026 год (дата начала обсуждается индивидуально) ⏰Дедлайн подачи: зависит от должности Лаборатория Language, Computation and Cognition Lab (LaCoCo) занимается мехинтерпом и формальным анализом способностей ЛЛМ. Их статьи публиковались на NeurIPS, ICLR, ACL и так далее. Они нанимают на позиции от бакала...

⭐️Martian Interpretability Challenge 📍Где: онлайн 🗓Когда: 4-18 месяцев проекта 💰Призы: $1М, $10,000 - $100,000 за проект ⏰Дедлайн подачи: 1 февраля 2026 Международный исследовательский конкурс, направленный на развитие интерпретируемости современных ML-моделей. Фокусом являются практические и теоретические подходы к анализу внутренних механизмов моделей, особенно в задачах с формальной структурой (например, генерация кода). Кто может участвовать: ⭕️Нет ограничений по стадии кар...

🔥Summer 2026 MATS Cohort: Neel Nanda 📍Где: онлайн + Беркли, США 🗓Когда: 2 февраля - 6 марта 2026 (онлайн) 1 июня - 21 августа 2026 (очно) 💰Стоимость: участие бесплатное, есть стипендия, жильё на очной фазе оплачивается ⏰Дедлайн подачи: 23 декабря 2025 Neel Nanda набирает участников в свой летний поток MATS. Тема, конечно же, мехинтерп. Программа включает 5‑недельный онлайн‑этап и 12‑недельную очную фазу с написанием рисерч‑пейпера при поддержке ментора. 🔗 Подробности: тут 🔗 Подать заявку: ...