Модели как исследовательские артефакты
Машинное обучение в основном использовалось в исследованиях, специализированных продуктах и статистике. Операционные проблемы существовали, но обычно не были отдельной карьерой.
Инженер МЛОпс · Создает системы, которые обучают, развертывают, контролируют и управляют моделями машинного обучения в производстве.
Вехи по порядку. Это история, не недельная сетка.
Чем темнее клетка, тем выше балл по этому показателю.
МеньшеБольше
Последняя проверка Источники и титрыМедиа-кредитыМетодология
Инженер MLOps превращает эксперименты машинного обучения в повторяемые и контролируемые услуги. Они создают конвейеры данных и обучения, упаковывают модели, развертывают их в облачных или периферийных средах, отслеживают версии, контролируют производительность и создают процедуры отката. В небольших командах они также могут писать код приложения; в более крупных они управляют общей платформой для многих команд по анализу данных.
Ученые, работающие с данными, обычно сосредотачиваются на постановке проблем, анализе данных и разработке моделей. MLOps фокусируется на том, чтобы сделать модели воспроизводимыми, развертываемыми и наблюдаемыми с течением времени. Различие не является абсолютным: сильные команды сотрудничают в вопросах оценки и качества данных, а инженерам MLOps необходимо достаточно знаний в области машинного обучения, чтобы понять, почему модель может выйти из строя после развертывания.
Нет. Степень в области компьютерных наук, инженерии или работы с данными является обычным явлением, но практический опыт работы с программным обеспечением, облаками и платформами данных может иметь большее значение, чем диплом продвинутого исследования. Должности, создающие новые модели, могут предпочесть аспирантуру; Роли, управляющие платформами ML, обычно так же высоко ценят технологию производства, инфраструктуру и тщательное экспериментирование.
Python распространен, потому что его использует большинство экосистем машинного обучения. SQL необходим для работы с данными, а Docker, YAML и конфигурации «инфраструктура как код» — повседневные инструменты. Некоторые команды разработчиков платформ также используют Go, Java, Scala или TypeScript. Важная возможность заключается не в верности одному языку, а в том, чтобы сделать конвейер тестируемым, версионным и наблюдаемым.
Смещение модели означает, что развернутая модель становится менее полезной из-за изменения мира, поведения пользователей, входных данных или результатов. Модель мошенничества, обученная на прошлогодних шаблонах, может пропустить новую аферу. Мониторинг распределения входных данных, качества прогнозирования и бизнес-результатов помогает командам обнаружить отклонения до того, как незаметное снижение станет вредным решением.
MLOps заимствует идеи DevOps — автоматизацию, контроль версий, непрерывную доставку и совместное владение, — но добавляет проблемы с данными и моделями. Модель может измениться, поскольку обучающие данные изменяются, даже если код приложения не меняется. Команды должны создавать версии наборов данных, оценивать поведение модели, управлять экспериментами и отслеживать качество прогнозов, а также состояние серверов.
MLOps — это новое название старой операционной проблемы: модель, которая работает в контролируемом эксперименте, может потерпеть неудачу, когда она соответствует меняющимся данным, реальным пользователям и производственному бюджету. Эта профессия сочетает в себе исследовательскую культуру машинного обучения с дисциплиной доставки и эксплуатации программного обеспечения.
Таким образом, его история связана с разработкой данных, облачными вычислениями и DevOps. Эта роль стала отчетливой в конце 2010-х годов, когда организации перешли от изолированных моделей к паркам моделей, данными, поведением и соответствием которых необходимо было постоянно управлять.
Фраза MLOps распространилась по мере того, как облачные платформы и команды машинного обучения столкнулись с расходами на техническое обслуживание производства. В статье исследователей Google «Скрытый технический долг в системах машинного обучения» в 2015 году был дан широко цитируемый словарь зависимостей, циклов обратной связи и операционной сложности, которые превращают модель в долгоживущую систему.
Сэмюэл описывает машинное обучение в работе над самосовершенствующейся программой для шашек, помогая дать название этой области, позже запущенной в производство.
Рейтинг в веб-масштабе показывает, как модели и инфраструктура данных могут стать центральной инфраструктурой продукта.
Amazon Web Services делает эластичные вычисления и хранилище доступными в виде операционных сервисов, а не собственного оборудования.
Успех AlexNet в ImageNet делает обучение на базе графического процессора центральным элементом многих программ машинного обучения.
Исследователи Google объясняют, почему системы машинного обучения накапливают зависимости и бремя обслуживания, выходящее за рамки их модельного кода.
Внедрение Kubernetes создает общий операционный уровень для упаковки и выполнения распределенных рабочих нагрузок.
Google представляет TFX как производственно-ориентированную платформу для сквозных конвейеров машинного обучения.
Поставщики облачных технологий и стартапы формализуют инструменты для отслеживания экспериментов, конвейеров, реестров моделей и развертывания.
Команды все чаще рассматривают проверку данных, управление функциями и мониторинг моделей как производственные требования.
Базовые модели создают новые потребности в оценке, поиске, контроле затрат, оперативном управлении и управлении ИИ.
Машинное обучение в основном использовалось в исследованиях, специализированных продуктах и статистике. Операционные проблемы существовали, но обычно не были отдельной карьерой.
Эластичная инфраструктура, распределенная обработка и платформы с открытым исходным кодом сделали возможным более масштабное обучение и обслуживание моделей.
Производственные группы осознали, что зависимости данных, мониторинг и переобучение могут стоить дороже, чем исходная модель.
Отслеживание экспериментов, реестры моделей, хранилища функций и шаблоны CI/CD стали узнаваемыми строительными блоками MLOps.
Приложения LLM расширяют работу до оценки, поиска, контроля доступа, наблюдения и ответственного развертывания.
Neighbouring trades that no longer exist — absorbed, automated or regulated away.
Исследователь отправлял по электронной почте серийную модель и инструкции команде разработчиков. Реестры, артефакты с версионированием и конвейеры развертывания заменили неформальную передачу.
Команды записывали прогоны, параметры и показатели в локальные файлы или электронные таблицы. Системы отслеживания экспериментов теперь централизованно сохраняют артефакты, версии кода и сравнения.
Оперативный персонал периодически запускал сценарии для составления прогнозов. Запланированные рабочие процессы, управляемые платформы и автоматизированные проверки качества поглотили повторяющееся выполнение.
MLOps возникли потому, что срок полезного использования модели начинается после обучения. Эта дисциплина берет на себя операционные вопросы, которые прототипы могут отложить — управление версиями, сбои, стоимость, предвзятость и откат — и превращает их в первоклассную инженерную работу.
Следующий этап будет зависеть не столько от того, смогут ли организации использовать модель, сколько от того, смогут ли они доказать, что она остается полезной, безопасной и контролируемой после запуска.
Защищает системы, данные и людей, обнаруживая, предотвращая и реагируя на цифровые атаки.
AI-resistant 63 🧫Использует данные клинических исследований, исследований и системы здравоохранения для получения надежных данных для более безопасного ухода, исследований и операционных решений.
AI-resistant 68 🔌Разрабатывает и производит транзисторы внутри каждого компьютера, телефона и оружия, используя настолько точные станки, что их могут эксплуатировать лишь несколько заводов на Земле.
AI-resistant 60 🦾Разрабатывает машины, которые чувствуют, принимают решения и действуют в физическом мире, где сложной проблемой является не интеллект, а сам мир.
AI-resistant 65 🌿Руководит стратегией, измерениями и отчетностью, которые помогают организациям снизить экологический и социальный ущерб при выполнении деловых обязательств.
AI-resistant 66 👔Консультирует клиентов, составляет документы, обязывающие их, и аргументирует их дело, когда оно доходит до суда, неся личную юридическую ответственность, если совет окажется неверным.
AI-resistant 58Пишет, тестирует и поддерживает код, который управляет современной жизнью, и является одной из первых профессий, наблюдающих, как ИИ автоматизирует свою повседневную работу.
AI-resistant 35 🤖Разрабатывает и тестирует алгоритмы, лежащие в основе машинного интеллекта, в области, которая сейчас стремится автоматизировать растущую долю собственного исследовательского процесса.
AI-resistant 50 🛰️Проектирует, анализирует и сертифицирует летательные аппараты, ракеты и космические корабли, отрывающиеся от земли, работая с запасом безопасности, не оставляющим места для догадок.
AI-resistant 74 🌉Профессия, превращающая реки, скалы и гравитацию в мосты, дороги и чистую воду — тихая несущая сила цивилизации со времен Имхотепа.
AI-resistant 72 🔌Разрабатывает и производит транзисторы внутри каждого компьютера, телефона и оружия, используя настолько точные станки, что их могут эксплуатировать лишь несколько заводов на Земле.
AI-resistant 60 🦾Разрабатывает машины, которые чувствуют, принимают решения и действуют в физическом мире, где сложной проблемой является не интеллект, а сам мир.
AI-resistant 65 🔐Защищает системы, данные и людей, обнаруживая, предотвращая и реагируя на цифровые атаки.
AI-resistant 63 🌬️Проектирует, строит и совершенствует ветровые, солнечные, накопительные и сетевые системы, которые превращают возобновляемые ресурсы в надежную электроэнергию.
AI-resistant 72