AI Safety Manager

Slingshot AI

Slingshot AI — это команда, стоящая за Ash, первым ИИ, разработанным для психического здоровья. Наша миссия — сделать поддержку более доступной и помочь людям изменить свою жизнь так, как они хотят.

Мы создаем команду мирового уровня, предоставляя людям автономию, гибкость и поддержку, необходимые для достижения наилучших результатов. Мы мечтаем масштабно, быстро итерируем и глубоко заботимся. Если это звучит как вы, мы будем рады услышать от вас.

Наша команда охватывает машинное обучение, разработку продуктов, инженерию, разговорный дизайн, клиническую практику, развитие и операционную деятельность. Офисы расположены как в Нью-Йорке, так и в Лондоне.

Мы — хорошо финансируемая компания на стадии Series A, привлекшая 93 миллиона долларов от Andreessen Horowitz, Radical Ventures, Forerunner Ventures, а также от ведущих технологических инвесторов, участвовавших в ElevenLabs, Captions, Shopify, Plaid, Notion, Canva, Twitch, Airtable и многих других.

РОЛЬ

Мы ищем лидера, который поможет сформировать наш подход к доверию и безопасности в Ash, в нашей модели и в нашем продукте.

Люди делятся с Ash очень личными вещами. Это порождает сложные вопросы о том, как должен вести себя продукт, как мы реагируем, когда что-то идет не так, и как мы защищаем людей, уважая их конфиденциальность и автономию. Вы будете работать вместе с психологами, исследователями и инженерами машинного обучения над разработкой новых систем для ИИ в чувствительной области.

Вы поможете нам ответить на сложные, неоднозначные вопросы о политике нашей модели, проводить расследования, исследования, разрабатывать новые политики, внедрять их и четко доносить их как внутренней, так и внешней аудитории.

Эта роль сочетает в себе стратегию, практическую операционную деятельность и коммуникацию. Возможно, один день вы будете заниматься сложным решением по безопасности с нашими клиническими и юридическими командами, на следующий — разрабатывать процесс обработки пользовательских отчетов, а на третий — писать объяснение нашего подхода для общественности.

Мы ищем вдумчивого специалиста широкого профиля, который быстро учится, добивается результатов и глубоко заботится о том, чтобы все было сделано правильно.

ЧТО ВЫ БУДЕТЕ ДЕЛАТЬ

• Разрабатывать наши принципы и политики. Решать вопросы, где безопасность, конфиденциальность, автономия пользователя и полезность продукта вступают в противоречие. Исследовать проблему, привлекать экспертное мнение и давать обоснованные рекомендации. Вы будете работать с нашей командой, нашими консультантами, экспертами и другими специалистами для разработки принципов принятия решений.

• Превращать неоднозначные вопросы в четкие решения. Расследовать пользовательские отчеты, возникающие риски и новые требования. Определять, что нам известно, что остается неясным и что следует предпринять дальше.

• Обеспечивать практическую реализацию реагирования. Разрабатывать четкие процессы для сортировки, расследования, эскалации и последующих действий. Определять, кто что делает, создавать необходимые инструменты и документацию, а также самостоятельно заниматься операционными деталями.

• Превращать полученные знания в улучшения продукта. Работать с коллегами из инженерного отдела, отдела машинного обучения, клинического отдела и юридического отдела для преобразования результатов в изменения Ash и связанных с ним систем.

• Быстро создавать, тестировать и улучшать. Для новых систем внедрять рабочую первую версию, учиться на реальных случаях и дорабатывать ее. Согласовывать темп и уровень проверки с последствиями принятого решения.

• Четко писать, как внутри компании, так и за ее пределами. Создавать политики, практические руководства и общедоступные объяснения нашего подхода к безопасности. Помогать доносить наши оценки и выводы, включая их ограничения. Вы будете разрабатывать инициативы или эталоны, которыми мы сможем поделиться с внешним миром, чтобы помочь нам и всей отрасли стать лучше.

• Представлять наши идеи. Объяснять и отстаивать наш подход с партнерами, клиницистами и другими аудиториями. Серьезно относиться к критике и использовать полученные знания в работе.

О ВАС

• У вас отличное чувство ответственности. Вы можете разобраться в сложном вопросе, взвесить конкурирующие соображения и рекомендовать курс действий, не делая вид, что на каждый вопрос есть однозначный ответ.

• Вы отличный писатель и коммуникатор. Вы можете превратить сложные идеи в ясную, точную прозу. Вам нравится проводить исследования и разрабатывать аргументацию так же сильно, как и писать финальный текст. Вы можете хорошо выступать и понимаете, как донести нашу работу до внешнего мира.

• Вы что-то создали и улучшили. Это может быть продукт, операционный процесс, программа или независимый проект. Вы можете продемонстрировать, как вы перешли от нечеткой проблемы к чему-то, чем пользовались люди, а затем улучшили это на основе обратной связи.

• Вы находчивы и готовы действовать. Вы готовы расследовать отдельные случаи, координировать людей, писать чек-листы и добиваться выполнения работы.

• Вы ищете экспертные знания, не ожидая, что кто-то другой предоставит вам все ответы. Вы знаете, когда следует проконсультироваться с клиницистом, инженером, юристом или исследователем, и можете превратить их вводные данные в практическое решение.

• Вы интеллектуально любопытны и готовы менять свое мнение. Вы можете рассказать о случае, когда факты бросили вызов вашим предположениям и изменили ваш подход.

• Вы бережно обращаетесь с конфиденциальной информацией и сохраняете вдумчивость под давлением. Вы понимаете, что эта роль будет регулярно включать работу со сложными темами, включая насилие, расстройства пищевого поведения, суицид и смерть. Вы можете зрело подходить к этим темам и знаете, как управлять своим психическим здоровьем, при необходимости обращаясь за поддержкой.

• Вы глубоко заботитесь о психическом здоровье людей и о возможностях, которые перед нами открываются. Вы хотите, чтобы больше людей имели доступ к качественной поддержке, и вы берете на себя ответственность за доверие, которое это влечет за собой.

Вы можете прийти из сферы разработки продуктов, операционной деятельности, консалтинга, юриспруденции, политики, психологии, когнитивных наук или другой области, которая научила вас строго мыслить, хорошо писать и добиваться результатов. Наличие клинической квалификации и предыдущего опыта в области доверия и безопасности полезно, но ни то, ни другое не требуется.