Research Scientist, Safety Post Training

Компенсация (Пожалуйста, ознакомьтесь с подзаголовком вакансии, чтобы узнать, где будет располагаться эта должность. В целях прозрачности оплаты труда, вилка базовой заработной платы для этой штатной должности в Сан-Франциско, Нью-Йорке, Сиэтле составляет:): 216 000 – 270 000 долларов США в год

Scale Labs, Научный сотрудник — Посттренировочная безопасность

Будучи ведущим партнером в области данных и оценки для передовых компаний в области ИИ, Scale играет неотъемлемую роль в понимании возможностей и обеспечении безопасности моделей и систем ИИ. Опираясь на этот опыт, Scale Labs запустила новую команду, специализирующуюся на политических исследованиях, чтобы преодолеть разрыв между исследованиями в области ИИ и мировыми политиками для принятия обоснованных, научных решений о рисках и возможностях ИИ.

Наши исследования направлены на решение сложнейших проблем в области устойчивости агентов, протоколов управления ИИ и оценки рисков ИИ, чтобы помочь правительствам, промышленности и общественности понять и смягчить риски ИИ, максимизируя при этом внедрение ИИ. Эта команда широко сотрудничает с промышленностью, государственным сектором и академическими кругами и регулярно публикует результаты своих исследований. Мы активно ищем талантливых исследователей, которые присоединятся к нам в формировании этого видения.

В качестве научного сотрудника, работающего над посттренировочной безопасностью, вы будете разрабатывать и применять посттренировочные методы и методы интерпретируемости, чтобы сделать передовые системы ИИ более безопасными и лучше понятными исследователям и политикам. Например, вы можете:

• Разрабатывать и запускать посттренировочные конвейеры для изучения того, как выбор обучения влияет на безопасность, устойчивость и соответствие модели;
• Разрабатывать оценки, основанные на интерпретируемости, которые раскрывают, как и почему модели демонстрируют небезопасное, обманчивое или иное нежелательное поведение, и использовать эти сведения для направленных мер по смягчению последствий;
• Сотрудничать с политиками, инженерами и другими исследователями для преобразования результатов посттренировочных исследований и исследований интерпретируемости в действенные стандарты безопасности, эталоны оценки и лучшие практики.

Желательно, чтобы у вас было:

• Приверженность нашей миссии продвижения безопасного, надежного и заслуживающего доверия внедрения ИИ в промышленности по мере развития передовых возможностей ИИ.
• Опыт работы с посттренировочными методами и методами обучения с подкреплением, такими как RLHF, DPO, GRPO и аналогичные подходы.
• Результаты опубликованных исследований в области машинного обучения, особенно в области генеративного ИИ.
• Минимум три года опыта решения сложных задач машинного обучения, будь то в исследовательских условиях или при разработке продуктов.
• Отличные навыки письменного и устного общения для работы в кросс-функциональной команде.

Приятно иметь:

• Опыт работы с механистической интерпретируемостью, зондированием или другими методами понимания внутренней работы моделей.
• Знакомство с красным тестированием (red-teaming) или состязательной оценкой посттренированных моделей.
• Опыт изучения сбойных режимов, вызванных или скрытых посттренировкой, таких как обман вознаграждения, угодничество или фальсификация соответствия.

Наши исследовательские собеседования разработаны для оценки практических навыков кандидатов в прототипировании и отладке машинного обучения, их понимания исследовательских концепций и их соответствия организационной культуре. Мы не будем задавать никаких вопросов в стиле LeetCode. Если вы заинтересованы в продвижении безопасности ИИ и внесении вклада в нашу миссию, мы призываем вас подать заявку, даже если ваш опыт не полностью соответствует каждому требованию.

Пакет компенсации в Scale для соответствующих ролей включает базовую заработную плату, акции и льготы. Диапазон, отображаемый в каждом объявлении о вакансии, отражает минимальную и максимальную целевую зарплату для новых сотрудников на этой должности и может включать несколько карьерных уровней в Scale; он будет определяться в процессе собеседования в зависимости от места работы и дополнительных факторов, включая связанные с работой навыки, опыт, квалификацию, результаты собеседования и соответствующее образование или обучение. Сотрудникам Scale на соответствующих должностях также предоставляется вознаграждение в виде акций, подлежащее одобрению Советом директоров. Ваш рекрутер может предоставить более подробную информацию о конкретном диапазоне заработной платы для предпочитаемого вами местоположения в процессе найма и подтвердить, будет ли нанятая должность иметь право на получение акций. Вы также получите льготы, включая, но не ограничиваясь: комплексное медицинское, стоматологическое и офтальмологическое страхование, пенсионные льготы, стипендию на обучение и развитие, а также щедрую оплачиваемую отпускную политику. Кроме того, эта должность может давать право на дополнительные льготы, такие как стипендия на проезд.

Пожалуйста, ознакомьтесь с подзаголовком объявления о вакансии, чтобы узнать, где будет располагаться эта должность. В целях прозрачности оплаты труда, вилка базовой заработной платы для этой штатной должности в Сан-Франциско, Нью-Йорке, Сиэтле составляет:

216 000 — 270 000 долларов США

ПОЖАЛУЙСТА, ОБРАТИТЕ ВНИМАНИЕ: Наша политика требует 90-дневного периода ожидания перед повторным рассмотрением кандидатов на ту же должность. Это позволяет нам обеспечить справедливую и тщательную оценку всех кандидатов.

О нас:

В Scale наша миссия — разрабатывать надежные системы ИИ для самых важных решений в мире. Наши продукты предоставляют высококачественные данные и полнофункциональные технологии, которые обеспечивают работу ведущих мировых моделей и помогают предприятиям и правительствам создавать, развертывать и контролировать приложения ИИ, которые приносят реальную пользу. Мы тесно сотрудничаем с лидерами отрасли, такими как Meta, Ernst & Young, Mayo Clinic, Time Inc., правительством Катара и государственными учреждениями США, включая Армию и ВВС. Мы расширяем нашу команду, чтобы ускорить разработку приложений ИИ.

Мы верим, что каждый человек может быть самим собой на работе, поэтому мы гордимся тем, что являемся инклюзивной и равной возможностью для трудоустройства. Мы стремимся к равному трудоустройству, независимо от расы, цвета кожи, происхождения, религии, пола, национальности, сексуальной ориентации, возраста, гражданства, семейного положения, инвалидности, гендерной идентичности или статуса ветерана.

Мы обязуемся работать и предоставлять разумные приспособления кандидатам с физическими и умственными недостатками. Если вам нужна помощь и/или разумное приспособление в процессе подачи заявки или найма из-за инвалидности, пожалуйста, свяжитесь с нами по адресу контакт рекрутера. Пожалуйста, ознакомьтесь с постером Департамента труда США "Знайте свои права" для получения дополнительной информации.

Мы соблюдаем Положение о прозрачности оплаты труда Департамента труда США.

ПОЖАЛУЙСТА, ОБРАТИТЕ ВНИМАНИЕ: Мы собираем, храним и используем персональные данные в профессиональных деловых целях, в том числе для уведомления вас о возможностях трудоустройства, которые могут представлять интерес, и для обмена информацией с нашими аффилированными лицами. Мы ограничиваем сбор персональных данных теми, которые, по нашему мнению, являются подходящими и необходимыми для удовлетворения потребностей заявителей, предоставления наших услуг и соблюдения применимых законов. Любая информация, которую мы собираем в связи с вашей заявкой, будет обрабатываться в соответствии с нашими внутренними политиками и программами, разработанными для защиты персональных данных. Пожалуйста, ознакомьтесь с нашей политикой конфиденциальности для получения дополнительной информации.