Senior LLM-Engineer

Мы - динамично развивающийся стартап, решающий различные задачи AI в соревновательном формате: генерация текста, аудио и видео, обогащение данных, предиктивная аналитика. Мы осуществляем полный цикл работы над продуктом: от анализа бизнес-задачи до вывода в продакшен полноценного решения. Находимся в поиске эксперта по обучению LLM.

Чем предстоит заниматься:

• fine-tuning LLM: Cross-domain generalization, Trajectory fine-tuning, Behavior Cloning

• эксперименты с различными способами обучения: SFT, DPO, PPO, GRPO, RLHF, PEFT, Knowledge distillation

• Сбор, очищение данных

• Выбор архитектур и pre-trained моделей

• Объединение моделей и адаптеров

Требования к кандидату:

• Опыт обучения LLM (fine-tuning / pre-training) от 2 лет

• Опыт применения различных методов обучения LLM

• Опыт с различными pre-trained моделями

• Опыт работы с экосистемой huggingface: transformers, datasets, peft, trl

• Хорошее понимание теоретической базы: NLP, transformers, LLM.

• Понимание всех циклов предобучения и файнтюнинга

• RL, classic ML

• Опыт коммерческой разработки с нуля

• Опыт работы от 6 лет

• Высшее образование в области компьютерных технологий / прикладной математики и (или) прикладной информатики;

Будет плюсом:

• Научные исследования по Computer Science

• Призовые места в соревнованиях (kaggle, boosters), опыт участия в хакатонах

• ШАД / Школа 21

Что мы предлагаем:

• Участие в разработке динамично развивающегося продукта, работающего на рынке в реальном времени;

• Справедливую заработную плату по результатам собеседования и вашей квалификации в вилке 8.000$-15.000$;

• Возможность прокачивать свою экспертизу за счет работы с топовыми коллегами и обучения в моменте;

• Классный молодой коллектив профессионалов, заряженных на результат.

• Ценим порядочность, честность и открытость;

• Возможность реализовывать смелые и амбициозные инициативы;

• Горизонтальную структуру, отсутствие бюрократии и синдромов «больших начальников»;

• Мы за результат, а не процесс. У всех наших сотрудников удобный график и полностью удаленная работа.