NLP-разработчик (LLM)

Описание

Локация: Москва
Компания
Яндекс развивает семейство AI-моделей Alice, доступных в одноимённом сервисе.
Что делать

Проводить и анализировать вычислительно тяжёлые эксперименты с претрейн-моделями.
Проверять гипотезы о развитии способностей к рассуждению в разных доменах.
Строить, масштабировать и оптимизировать пайплайны сбора, синтеза, обработки и фильтрации обучающих данных.
Модифицировать обучающий процесс и оценивать влияние изменений на качество модели.
Обучать модели-верификаторы, генераторы обучающих данных и модели-фильтры.
Исследовать законы скейлинга качества с точки зрения данных и вычислений.

Требования

Глубокое понимание NLP.
Опыт разработки на Python.
Интерес к улучшению претрейн-моделей и развитию reasoning-способностей LLM.

Хорошо, если есть

Опыт обучения претрейн-моделей в NLP, CV, аудио или рекомендациях.
Опыт построения эффективных CPU/GPU-пайплайнов.
Погружение в RL, архитектуры языковых моделей или данные для LLM.

Культура и преимущества

Работа над моделями Alice AI, которыми пользуются более 24 миллионов человек еженедельно.
Исследовательские задачи на стыке языковых моделей, данных и вычислений.
Возможность развивать reasoning-способности модели в математике, коде, агентных сценариях и других доменах.