tl;dr: research engineer + research scientist, non-profit, full-time or short-term for NeurIPS submission, $60k-250k, remote

Посадили как-то нейроученого, биолога и правоведа писать статьи по безопасности ИИ — а она им как раз 🎩

📘 Нейроученый обнаружил, что когда модель лжёт — это видно по внутренним активациям — ICML 2024. 🪐 Биолог в компании теорфизиков доказал, что трансформеры строят что-то вроде модели мира, чтобы предсказать следующий токен — NeurIPS 2024. ✏️ Профессор права расписал, как по уже существующим законам можно привлекать разработчиков ИИ к ответственности за катастрофический ущерб. Об этом написал Vox 🎩

Как вы уже поняли, это не юмореска. Это нонпрофит Principles of Intelligence (PIBBSS). Они платят стипендии ресёрчерам из разных сфер, а те взамен пишут статьи по сейфти. Ученым нравится — настолько, что они потом часто меняют профиль и идут работать в Anthropic или DeepMind. Организацию спонсирует Open Philantropy, и за два года грант от них увеличился в 7 раз.

Скоро дедлайн NeurIPS, и PIBBSS хотят успеть к нему несколько новых статей в своем mech interpretability подразделении. Поэтому можно подписаться на короткий контракт до 11 мая, а можно — сразу на долгий фуллтайм. Темы — реверс-инжиниринг моделей, интерпретируемость на этапе обучения и интерпретируемые из коробки архитектуры. Ищут два профиля: ** Research Engineer:** 🔸 Сильный SWE-бэкграунд; 🔹 Опыт с ML; 🔵 Сможете запустить эвалы на LLM. 🔸 Плюсом будут: GPU-программирование (CUDA/Triton), распределённые вычисления, курсы по AI Safety вроде ARENA. ** Research Scientist:** 🔸 PhD или несколько лет исследовательского опыта в CS, математике, физике или экономике; ▫️ Публикации в ML или смежных областях. Идеально, если в interpretability, но PIBBSS — междисциплинарные и умеют работать с разными направлениями. ▪️ Плюсом будет: если вы лидили исследовательские проекты по ML.

Как мы уже сказали, можно вписаться в контракт на пару месяцев с возможностью перейти потом на фуллтайм — а можно сразу решиться на фуллтайм. Платят** $60k-$180k в год** для инженеров, и $80k-$250k — для ресёрчеров, в зависимости от вашей локации и опыта.

Пишите Даше: @d_shteinardt 💌