Senior Data Scientist безопасного ИИ

Описание:

Команда строит систему управления операционными рисками экосистемы Сбера на основе агентного ИИ и определяет архитектуру безопасного ИИ для повышения надёжности и устойчивости банка.

Задачи:

• Создавать системы защиты для AI-агентов на базе GigaPlatform и open-source LLM: защищать от промпт-инъекций, фильтровать токсичность, контролировать галлюцинации и валидировать ответы;
• Адаптировать и дообучать LLM с помощью Prompt Tuning, LoRA, SFT и GRPO для устойчивости к вредоносным воздействиям и формирования безопасных ответов;
• Изучать новые технологии и современные подходы к безопасности ИИ;
• Делиться опытом и развивать культуру R&D в команде;
• Участвовать в выводе защитных механизмов в продакшн;
• Работать на оборудовании с 8–16 A100 80 GB.

Требования:

• Опыт работы в DS или MLE от 2 лет, желательно с фокусом на безопасности ИИ или защите LLM;
• Высшее техническое образование и глубокое понимание алгоритмов и структур данных;
• Опыт обучения нейросетей — от классических RNN до трансформеров;
• Понимание уязвимостей LLM: промпт-инъекций, джейлбрейков, отравления данных и галлюцинаций, а также способов защиты от них;
• Опыт построения защитных механизмов на основе правил, ML или гибридного подхода и/или участия в red teaming LLM;
• Умение писать качественный код;
• Знание Clean Architecture, SOLID и Git Flow;
• Будет плюсом опыт в соревнованиях уровня Kaggle Expert+, участие в open-source проектах по безопасности ИИ, публикации или доклады по теме.

Условия:

• Гибридный или удалённый формат работы;
• Комфортный современный офис рядом с м. Кутузовская;
• Ежегодный пересмотр зарплаты и годовая премия;
• Корпоративный спортзал и зоны отдыха;
• Более 400 образовательных программ СберУниверситета для профессионального и карьерного развития;
• Расширенный ДМС и льготное страхование для семьи;
• Льготный дисконт по ипотечному кредиту, равный 1/3 ключевой ставки ЦБ;
• Бесплатная подписка СберПрайм+ и скидки на продукты компаний-партнёров;
• Вознаграждение за рекомендацию друзей в команду Сбера.