Principal Research Scientist, Trust & Safety Alignment

Huawei Consumer Business Group является лидером в области ИИ для всех сценариев. Она охватывает смартфоны, ПК и планшеты, носимые устройства, устройства мобильной широкополосной связи, семейные устройства и облачные сервисы для устройств. Huawei Consumer Business Group стремится предоставлять потребителям новейшие технологии. Мы верим в создание безопасных, ориентированных на конфиденциальность и высококачественных продуктов с отличным пользовательским опытом для наших потребителей.

Миссия лаборатории контентной безопасности в Исследовательском центре Хельсинки — продвижение технологий для обеспечения онлайн-безопасности мобильных пользователей Huawei в экосистеме Harmony OS. Мы создаем передовые решения для обеспечения безопасности и соответствия принципам ИИ, чтобы гарантировать надежность, устойчивость и безопасность больших языковых моделей (LLM), визуально-языковых моделей (VLM) и агентных систем ИИ. Наши исследования сосредоточены на таких областях, как непрерывное обучение LLM/VLM, пост-обучение и выравнивание, обучение с подкреплением и управляемое обучение, редактирование нейронных сетей, интерпретируемость моделей, безопасность агентного ИИ и машинное забывание (machine unlearning).

Мы ищем увлеченного и технически сильного лидера в области исследований с подтвержденным опытом решения сложных задач в области ИИ, продвижения передовых технологий и преобразования новаторских исследований в масштабируемые производственные решения. Идеальный кандидат сочетает глубокую экспертизу в области фундаментальных моделей с сильными исследовательскими способностями в области непрерывного/пост-обучения и выравнивания, обучения с подкреплением, архитектуры и проектирования нейронных сетей, редактирования моделей, обратного проектирования и интерпретируемости.

Обязанности

Руководство исследованиями и разработкой передовых решений по обеспечению соответствия принципам ИИ и безопасности для LLM, VLM и агентных систем ИИ с акцентом на непрерывное/пост-обучение, обучение с подкреплением и согласование поведения моделей с человеческими ценностями и требованиями безопасности.

Исследование и разработка новых подходов к архитектуре и проектированию алгоритмов нейронных сетей, редактированию нейронных сетей, интерпретируемости моделей, их объяснимости и обратному проектированию с целью понимания, модификации и улучшения поведения моделей.

Определение направлений исследований и вклад в дорожную карту исследований в области безопасности ИИ и онлайн-безопасности, выявление новых возможностей для продвижения передовых технологий.

Проектирование, прототипирование и оценка новых подходов посредством практических исследований и экспериментов, а также преобразование успешных исследований в надежные, эффективные и масштабируемые производственные решения.

Обеспечение технического лидерства и налаживание сотрудничества с университетами, исследовательскими институтами и кросс-функциональными командами. Четкое донесение сложных исследовательских концепций как техническим, так и нетехническим заинтересованным сторонам.

Требования

PhD в области компьютерных наук, машинного обучения, глубокого обучения, математики или смежной области.

8+ лет опыта исследований в области ИИ/МО, безопасности ИИ, кибербезопасности или тесно связанной области с сильным послужным списком исследований.

Глубокая экспертиза в области непрерывного/пост-обучения и выравнивания LLM/VLM, включая обучение с подкреплением, оптимизацию предпочтений, RLHF, состязательное обучение (adversarial training) или связанные методы.

Подтвержденный опыт в области архитектуры нейронных сетей, проектирования алгоритмов, оптимизации моделей и фундаментальных моделей, в идеале включая разработку или развертывание крупномасштабных моделей.

Глубокое понимание или практический опыт в области редактирования нейронных сетей, интерпретируемости моделей, объяснимого ИИ и обратного проектирования моделей или алгоритмов ИИ.

Опыт использования нейросимволического ИИ для точного, основанного на фактах вывода, улучшения устойчивости моделей, снижения галлюцинаций является большим плюсом.

Опыт применения передовых методов ИИ в таких областях, как безопасность ИИ, обнаружение рисков, рассуждение, устойчивость, машинное забывание (machine unlearning), обнаружение угроз безопасности или злоупотреблений, справедливость или прозрачность, высоко ценится.

Сильный послужной список публикаций на конференциях высшего уровня, таких как NeurIPS, ICML, ICLR, AAAI, ACL, CVPR, ICCV, EMNLP или NAACL.

Способность руководить сложными исследовательскими инициативами, эффективно сотрудничать в мультикультурных командах и преобразовывать исследовательские идеи в практические, высокоэффективные решения.

Это позиция штатного сотрудника с полным рабочим днем, базирующаяся в Руохолахти, Хельсинки.

Почему стоит присоединиться к нам?

Определяйте направление исследований: В качестве ведущего научного сотрудника вы будете помогать формировать исследовательскую стратегию Huawei в области выравнивания ИИ, доверия и безопасности, машинного забывания (machine unlearning) и LLM/VLM нового поколения, а также агентных систем ИИ.

Работайте на стыке исследований и реального воздействия: Ваши исследования будут выходить за рамки публикаций и переходить к крупномасштабному развертыванию, помогая формировать принципы выравнивания, защиты, интерпретации и управления фундаментальными моделями.

Руководите передовыми исследованиями: Работайте над сложными задачами в области обучения с подкреплением, пост-обучения и выравнивания, редактирования нейронных сетей, архитектуры моделей, обратного проектирования и интерпретируемости моделей.

Присоединяйтесь к международной исследовательской среде: Работайте бок о бок с опытными исследователями и инженерами в нашей лаборатории безопасности ИИ в Хельсинки, имеющей тесные связи с университетами и исследовательскими группами по всему миру.

Развивайте долгосрочные исследовательские программы: Руководите сотрудничеством с ведущими университетами и талантливыми исследовательскими группами и вносите вклад в смелые, многолетние исследовательские инициативы.

Оказывайте реальное влияние: Ваша работа будет способствовать созданию более безопасных и надежных систем ИИ, используемых в значительном масштабе, помогая защитить миллионы пользователей Huawei.

О Huawei

Huawei — ведущий мировой поставщик инфраструктуры информационно-коммуникационных технологий (ИКТ) и интеллектуальных устройств. Интегрируя решения в четырех ключевых областях — телекоммуникационные сети, ИТ, интеллектуальные устройства и облачные сервисы — мы стремимся привнести цифровые технологии каждому человеку, дому и организации для создания полностью подключенного, интеллектуального мира.

В Huawei инновации сосредоточены на потребностях клиентов. Мы вкладываем значительные средства в фундаментальные исследования, концентрируясь на технологических прорывах, которые двигают мир вперед. У нас 207 000 сотрудников, и мы работаем более чем в 170 странах и регионах. Основанная в 1987 году, Huawei является частной компанией, полностью принадлежащей своим сотрудникам.

Huawei продолжает инвестировать в фундаментальные исследования и открытые инновации, проявляя открытость к потребностям клиентов и направляя их с помощью науки и технологий. Мы также создали гибкие бизнес-модели и поощряем множество отраслей к принятию широкого спектра моделей и приложений. Благодаря этим инициативам мы привносим цифровые технологии каждому человеку, дому и организации для создания полностью подключенного, интеллектуального мира.

Мы ищем и вознаграждаем таланты! В Huawei, если вы преданы творчеству, готовы принимать технические риски и добиваться целевых результатов, ваши усилия будут вознаграждены выдающимися карьерными перспективами.

О Huawei Finland R&D

Имея 28 площадок по всей Европе и более 2000 исследователей, Европейский исследовательский институт Huawei (ERI) осуществляет надзор за фундаментальными и прикладными технологическими исследованиями, проектами сотрудничества в области академических исследований и стратегическим техническим планированием в нашей сети европейских научно-исследовательских центров.

Huawei Finland Research Center был основан в 2012 году. На наших площадках в Хельсинки и Тампере у вас будет выдающаяся возможность принять участие в ведущих исследованиях и разработках будущих интеллектуальных устройств. Мы предлагаем карьеру в дальновидной команде промышленных исследований с солидным послужным списком в области инноваций, публикаций и воплощения их результатов в фактический вклад в существующие на рынке устройства.