AI Researcher

Должность: AI Researcher Местоположение: Тель-Авив, Израиль / OnSite

О Irregular

Irregular — это первая в мире лаборатория по безопасности на передовых рубежах, миссия которой — защита мира в эпоху все более мощных и изощренных систем ИИ. Мы создаем защитные системы нового поколения с помощью высокоточных исследовательских платформ, которые моделируют и отслеживают реальные сценарии безопасности ИИ.

По мере того как системы ИИ становятся все более мощными, мы фокусируемся на опережении возникающих угроз и уязвимостей, гарантируя, что эти преобразующие технологии могут быть развернуты безопасно и надежно.

О роли

В качестве исследователя ИИ в Irregular вы будете находиться на переднем крае исследований передовых возможностей моделей и поведения агентов, а также помогать формировать будущее оценки и смягчения последствий рисков безопасности ИИ. На этой должности вы будете продвигать передовые знания в области ИИ и агентных фреймворков, методов оценки их возможностей и мер по смягчению опасных возможностей.

Типичные проекты:

• Исследование методов выявления возможностей для повышения производительности моделей в оценках.
• Исследование методологий для оценки обобщения и охвата в фреймворках оценки возможностей моделей.
• Участие в академических публикациях и представление результатов исследований клиентам.
• Создание уникальных решений для смягчения сценариев потери контроля или несоответствия ИИ.
• Консультирование и поддержка разработки продуктов, которые мы создаем.

Вы можете нам подойти, если:

• У вас есть сильный исследовательский опыт в области машинного обучения, особенно с передовыми моделями ИИ.
• Вы можете разрабатывать и внедрять новые исследовательские подходы для решения возникающих задач в области ИИ.
• Вы хорошо работаете в междисциплинарной команде и можете адаптироваться к быстро меняющимся исследовательским вопросам.
• У вас есть опыт публикаций в рецензируемых научных журналах высшего уровня (например, AAAI, ACL, EMNLP, ICLR, ICML, Nature, NeurIPS, Science или аналогичных).
• Вас волнуют социальные последствия вашей работы.