Журнал / герои

«Я чувствую себя на своём месте»: что говорят исследователи о программе ML Residency в Яндексе

Куда идти после университета, если ты увлечён наукой? Как искать новые идеи для исследования? Может ли студент написать статью, которая будет представлена на NeurIPS — одной из ведущих конференций по машинному обучению? Участники ML Residency рассказывают, как попали на программу, чему на ней научились и как изменилась их жизнь.

Михаил Дискин

Исследователь в Yandex Research

Я учусь на факультете компьютерных наук НИУ ВШЭ. До того как пойти на программу ML Residency, я работал ML-исследователем в большой международной компании, но там мне было скучновато. В Яндексе мне нравится: тут адекватные люди и интересные задачи.

Я узнал о существовании Yandex Research давно, но не планировал идти на программу. Позднее в Research устроились мои знакомые, занимающиеся deep learning на том уровне, который мне был интересен. Я написал одному из них, моему бывшему преподавателю, и спросил, есть ли в Research что-нибудь, чем я могу заниматься. Так я пришел на программу под его руководством.

Отбор на программу ML Residency выглядит так: нужно заполнить заявку на сайте, ответить на несколько вопросов и проанализировать статью на выбор из списка, предложив идею исследования. Следующий этап — собеседования. Я поговорил сначала с одним, потом с другим сотрудником Yandex Research, послушал про условия, зарплату и сказал, что меня всё устраивает.

Я пришёл в Yandex Research с несколькими целями: развить свои навыки как исследователь, глубже разобраться в современном ML и научиться эффективнее работать. Все эти цели сейчас достигнуты: я гораздо лучше разбираюсь не только в своей области, но и в смежных; постоянно общаюсь с коллегами и хожу на семинары, где коллеги делятся интересными статьями. Это помогает оставаться в тонусе и хорошо понимать, что происходит вокруг.

В отделе Research мы, помимо прочего, разрабатываем библиотеку, которая помогает людям обучать огромные ML-модели вместе. «Вместе» означает, что если кому-то одному не хватает вычислительных ресурсов для обучения, он может без труда объединиться с другими людьми и решить задачу.

Самое ценное для меня — это мои отношения с руководителем. Во-первых, он крайне терпим к моему графику: я могу приходить и работать, когда хочу. Во-вторых, это первый в моей жизни случай, когда я могу доверять руководителю. Наверное, многие и не догадываются, насколько это важно и нужно. В любой момент я могу спросить его мнение и получить честный ответ про себя, про проект, про жизнь, про что угодно. И я могу быть уверен, что он не сочтёт меня глупым, не отнесётся снисходительно и не отделается дежурными фразами.

Кому стоит идти в Yandex Research. Область, в которой я работаю, называется «распределённое обучение». Это не типичное машинное обучение, а интересная комбинация: можно переключаться между инжинирингом, написанием кода, ML и ML-экспериментами. Думаю, многим это может быть интересно. В других отделах Yandex Research занимаются всем, что есть в современном ML: компьютерным зрением, генерацией программ, всевозможной математикой, обработкой текстов на естественном языке и так далее.

Если говорить чуть более формально, в Yandex Research стоит идти тем, кто либо заканчивает бакалавриат, либо учится в магистратуре, хочет написать хороший диплом и заниматься компьютерными науками.

Ну и, конечно, Yandex Research — это то место, которое делает половину научных публикаций по машинному обучению в России. Соответственно, если вы хотите получить настоящий опыт в исследованиях, двигающих науку вперёд, а не просто затеянных ради красивого PR-хода, — вам сюда.

Дмитрий Баранчук

Исследователь в Yandex Research

Я пришёл в Yandex Research в конце третьего курса ВМК МГУ. Программы ML Residency тогда ещё не было, я подавался на стажировку. 

Началось всё так: я зашёл на сайт стажировок, заглянул в отдел исследований, увидел вакансию и заполнил анкету. Решил три-четыре несложные математические задачи и детально разобрал одну статью из предложенного списка: нужно было её проанализировать, предложить решение проблемы, описать всё на английском языке и отправить. Как правило, каждая статья «прикрепляется» к человеку, который набирает людей под своё научное менторство.

Затем — собеседования. Я выбрал статью, «прикреплённую» к девушке, которая, как оказалось, занималась более теоретическими исследованиями. Если честно, я был в этом не силён. Мы поговорили — и меня перенаправили к моему нынешнему руководителю. После собеседования с ним меня позвали на секцию с кодом, где я решил несколько задач на доске. Так я попал на стажировку.

Мне хотелось заниматься исследованиями на уровне сильнейших лабораторий мира, но я был неопытным студентом, который не знал, как искать тему исследования, как быстро определять, какие из идей имеют право на жизнь, а какие нет. У меня был прекрасный ментор, с которым мы тесно работали в команде. На первых порах он задавал направление и активно предлагал идеи, которые я старался быстро проверить. Постепенно и от меня начали исходить разумные мысли, которые вносили хоть и небольшой, но вклад. Под его руководством я прошёл логичный путь от стажёра до исследователя.

Yandex Research — это спектр возможностей. Я попробовал себя во многих областях машинного обучения, поучаствовал в успешных проектах, которые выливались в публикации. Помню свою первую конференцию ICML в Лос-Анджелесе — это была фантастика! Я себя чувствовал суперзвездой. Представьте: вы — обычный студент, парнишка, приезжаете в Лос-Анджелес и вещаете на огромную аудиторию, перед умнейшими людьми планеты. Выступил я, конечно, так себе. Но опыт совершенно незабываемый, как и масштаб научно-академического мира, который меня поразил... Вне Яндекса я бы шёл к этому гораздо дольше.

Сейчас я занимаюсь исследованием передовых моделей для генерации картинок — учусь с их помощью решать практические задачи в компьютерном зрении. Например, моя последняя работа заключалась в следующем: заглянуть внутрь одной из таких моделей и узнать, насколько хорошо она понимает структуру и семантику картинок, которые генерирует. Оказалось, что вполне неплохо, и это знание можно использовать для выделения семантически похожих объектов на реальных изображениях. И самое важное — она делает это, имея лишь несколько размеченных картинок. 

Кому стоит идти в Yandex Research: людям, которые любят постоянно генерировать новые идеи и которым интересно разбираться во всём до глубочайших деталей, людям, которым не хватает опыта, но очень хочется стать частью научного сообщества и делиться своими идеями и мыслями с широкой аудиторией.  

Иван Рубачёв

ML Resident

Я занимаюсь наукой в Yandex Research второй год. Параллельно заканчиваю магистратуру на факультете компьютерных наук НИУ ВШЭ, где и узнал об этой программе.

Всё началось случайно. Под конец моего четвёртого курса, в разгар самоизоляции, мы с однокурсниками и руководителем бакалаврской программы собрались в Zoom — поговорить о наших планах после бакалавриата. Должен сказать, мысль про науку вертелась у меня в голове ещё со второго курса, но так и не вылилась во что-то осмысленное. И вот заканчивается четвёртый курс, я сижу на встрече, и выясняется, что можно одновременно пойти и в магистратуру, куда я планировал, и в Yandex Research — на программу научной практики (сейчас — ML Residency). Я решил, что настал тот самый момент. 

Я прошёл стандартный отбор: одновременно поступил в магистратуру и пришёл в Yandex Research — это обычная практика. Заполнил заявку на сайте, получил список статей, выбрал одну из них. Нужно было прочитать статью, написать на неё рецензию, порассуждать.

Следующий этап — несложные технические собеседования, по крайней мере, мне они такими показались. Перед тем как пойти в Yandex Research, я стажировался в Поиске и Картах, поэтому уже сталкивался с похожими техническими разговорами.

Затем — ещё пара разговоров с командой, где спрашивают, чем ты хочешь заниматься. Я ответил, что мне нравится компьютерное зрение, и стал резидентом в Yandex Research.

О сложностях. Начало моей работы было очень тугим, проблемным и интровертным. Я сидел на карантине и не видел коллег. Тогда я не понимал, как сильно самоизоляция влияет на работу: когда ты сидишь дома, кажется, твой руководитель — сверхчеловек, а ты — маленький практикант, студент, который должен выполнять задачи. Это неправильная схема. Когда я наконец добрался до офиса, всё перевернулось и пошла классная совместная работа, которая мне нравится.

Я себя чувствую на своём месте. Благодаря Yandex Research у меня появились механические полевые навыки: как правильно поставить эксперимент, как ускорить процесс, как написать статью, как лучше написать код. Если бы не программа, не случилось бы нашей статьи на NeurIPS и я не начал бы вести семинары по deep learning в НИУ ВШЭ. 

Сейчас я заканчиваю магистратуру, то есть можно сказать, что программа в классическом её понимании подходит к концу. Я доволен своими результатами. В самом начале, когда я пришёл, я был действительно стажёром. Помню, я спросил себя: «Какие в науке есть простые метрики? Надо писать статьи. Будет классно, если напишу статью!» Сейчас у нас с командой их две, и я доволен. 

Кому стоит идти в Yandex Research. Если у вас, как и у меня, крутятся в голове мысли про науку, если вы чувствуете, что у вас горит внутренний огонёк, — не стоит откладывать, прислушайтесь к себе и дерзайте.