Jed Foundation («JED») — некоммерческая организация, которая занимается защитой эмоционального здоровья и предотвращением самоубийств среди подростков и молодых людей. Предоставляя отдельным лицам, семьям, школам и сообществам навыки, знания и поддержку для укрепления психического благополучия, JED стремится обеспечить, чтобы все молодые люди имели ресурсы, необходимые им для процветания.
Обзор должности
Jed Foundation (JED) ищет специалиста по безопасности и благополучию в области ИИ для развития растущей деятельности JED на стыке искусственного интеллекта, новых технологий, психического здоровья и профилактики самоубийств. ИИ стремительно меняет то, как люди учатся, общаются, создают, ищут информацию и поддержку, формируют отношения и ориентируются в окружающем мире. Работа JED в этой области охватывает консультирование технологических компаний; сотрудничество в области безопасности, оценки и бенчмаркинга ИИ; партнерство с исследовательскими организациями и организациями, действующими в общественных интересах; общее лидерство мнений и руководство; а также усилия по пониманию и формированию как рисков, так и потенциальных преимуществ новых технологий. Подотчетный старшему вице-президенту по стратегиям для молодежи и главному специалисту по взаимодействию, Директор будет развивать ключевые направления работы, ориентированные на новые технологии ИИ и их влияние на психическое здоровье и профилактику самоубийств, безопасность и оценку ИИ, консультирование по технологиям, а также разработку позиций, фреймворков и рекомендаций JED. Успешный кандидат должен обладать значительным опытом в области технологий ИИ и их безопасности или оценки, а также опытом применения технологий, безопасности, исследований или оценки в области психического здоровья, здравоохранения, общественного здравоохранения, благополучия или безопасности детей и подростков, или в другом контексте, связанном с высокими ставками для человека. Роль требует понимания психического здоровья и профилактики самоубийств для эффективной работы с экспертами и партнерами JED, а также технической грамотности для авторитетного взаимодействия с исследователями ИИ, командами по безопасности и оценке, инженерами и руководителями продуктов.
Кандидатам из района Залива, Бостона и Нью-Йорка предлагается подать заявку!
- Поддерживать глубокое понимание разработок в области технологий ИИ и оценивать их влияние на психическое здоровье и профилактику самоубийств, включая новые формы взаимодействия человека и ИИ, такие как разговорный и реляционный ИИ, мультимодальные системы, агенты, память и персонализация, амбиентные и носимые технологии, а также воплощенный ИИ.
- Развивать работу JED в области безопасности, оценки, бенчмаркинга, стандартов ИИ и связанных с этим усилий по формированию отрасли, работая с партнерами из сферы технологий, исследований, психического здоровья, профилактики самоубийств и общественными партнерами для включения актуальных приоритетов в оценочные фреймворки, сценарии, конструкты, меры и другие подходы.
- Применять знания о поведении моделей и систем, оценках безопасности, тестировании на проникновение (red-teaming), мерах защиты и смягчения последствий, режимах отказов и методологии оценки для выявления сильных сторон текущих подходов и существующих пробелов.
- Развивать подходы, учитывающие не только сбои в плане безопасности, но и более широкие вопросы, связанные с отношениями и зависимостью, связью и принадлежностью, агентностью, преодолением трудностей, поиском помощи, защитными факторами, возрастными различиями и полезным использованием ИИ.
- Управлять значимой работой по консультированию технологических компаний, оценивая продукты, функции и подходы к безопасности ИИ, а также разрабатывая действенные рекомендации, касающиеся поведения моделей и продуктов, безопасности, оценки, соответствия возрастным особенностям, путей поиска помощи и действий в кризисных ситуациях, динамики взаимоотношений и ответственного развертывания.
- Разрабатывать позиции, фреймворки, принципы, рекомендации и руководства JED по ИИ и новым технологиям, опираясь на технические разработки и исследования, консультации экспертов, опыт JED и знания, полученные в ходе внешних взаимодействий.
- Определять новые проблемы, пробелы в данных и возможности, требующие участия JED посредством консультирования, руководства, партнерства, оценки, формирования отрасли или других стратегических действий.
- Строить и поддерживать значимые отношения с технологическими компаниями, организациями, занимающимися безопасностью и оценкой ИИ, академическими и независимыми исследовательскими институтами, общественными организациями, филантропическими организациями, а также организациями, работающими в сфере психического здоровья и профилактики самоубийств.
- Сотрудничать с командами JED по знаниям и консультированию, политике, программам, маркетинговым коммуникациям и другими командами для привнесения соответствующего опыта в работу и соединения выводов из партнерств и консультирования по ИИ с более широкими усилиями JED.
- Представлять JED в соответствующих коллаборациях, рабочих группах, экспертных процессах, совещаниях и внешних форумах, а также вносить вклад в разработку новых инициатив, партнерств, предложений и возможностей финансирования.
Требуется
- Примерно 7+ лет соответствующего профессионального опыта, включая значительную работу в области ИИ, безопасности ИИ, ответственного ИИ, оценки ИИ, взаимодействия человека и ИИ или в смежной области. Будут рассмотрены исключительные кандидаты с другим карьерным путем, но с эквивалентной глубиной опыта.
- Глубокое понимание современных технологий ИИ, включая генеративный ИИ, большие языковые модели, мультимодальные системы, разговорный ИИ, агенты, память/персонализацию и новые интерфейсы человек-ИИ.
- Подтвержденные знания в области безопасности и оценки ИИ, включая поведение моделей и систем, оценку и бенчмаркинг, тестирование на проникновение (red-teaming), режимы отказов, меры защиты и смягчения последствий, а также сильные и слабые стороны текущих подходов.
- Опыт применения технологий, безопасности, оценки, исследований или смежной экспертизы в критически важной для человека области, такой как психическое здоровье, профилактика самоубийств, здравоохранение, общественное здравоохранение, благополучие или безопасность детей и подростков, защита детей, безопасность в Интернете, предотвращение насилия или другая смежная область.
- Рабочее знание психического здоровья, профилактики самоубийств, поведенческого здоровья, общественного здравоохранения или смежной области, достаточного для осмысленного взаимодействия с экспертами в данной области и понимания последствий систем ИИ для людей, испытывающих стресс или уязвимость.
- Техническая грамотность, достаточная для авторитетного и самостоятельного взаимодействия с исследователями ИИ, инженерами, командами по оценке и безопасности, а также продуктовыми командами. Эта роль не требует от кандидата быть инженером машинного обучения.
- Подтвержденная способность связывать технические разработки с их последствиями для поведения человека, безопасности, благополучия, продуктов, институтов или общества.
- Отличные аналитические способности, умение синтезировать информацию, писать и общаться, с опытом разработки фреймворков, стратегии, рекомендаций, руководств или идей для широкой аудитории.
- Отличные суждения и комфорт в работе между техническими и нетехническими дисциплинами в области, где технологии, доказательства, практика и регулирование быстро развиваются.
- Опыт продвижения сложной работы, включающей множество внутренних и внешних заинтересованных сторон, с сильными навыками построения отношений и сотрудничества.
Настоятельно предпочтительно
- Прямой опыт работы в области психического здоровья, профилактики самоубийств, поведенческого здоровья, цифрового психического здоровья или тесно связанной с ними области.
- Опыт работы, ориентированный на детей, подростков, семьи, развитие или уязвимые группы населения.
- Опыт прямой работы с командами разработчиков, специалистов по безопасности, оценке или исследователей в технологических компаниях.
- Опыт разработки или применения бенчмарков, оценок, фреймворков безопасности, стандартов или подходов к тестированию на проникновение (red-teaming).
- Опыт перевода технических исследований для широкой аудитории, продуктовой, политической, практической или другой нетехнической аудитории.
- Ученая степень в области компьютерных наук, HCI, информатики, поведенческих или социальных наук, общественного здравоохранения или другой соответствующей дисциплины может быть ценной, но не является обязательной.
