Skip to content Перейти к разделу

📦Origins & Evolution

Инженер МЛОпс · Создает системы, которые обучают, развертывают, контролируют и управляют моделями машинного обучения в производстве.

Одним взглядом
Лента времени

Вехи по порядку. Это история, не недельная сетка.

1959 Артур Сэмюэл дает определение машинному обучению1998 PageRank Google выделяет системы, управляемые данными2006 Облачные вычисления становятся мейнстримом2012 Прорыв ImageNet ускоряет глубокое обучение2015 Назван скрытый технический долг2016 Kubeflow и эра оркестрации контейнеров2017 Анонсирован TensorFlow Extended2019 MLOps становится распространенным отраслевым термином2020 Стандарты жизненного цикла машинного обучения уже разработаны2023–2024 Генеративный ИИ расширяет рабочую поверхность
  1. Артур Сэмюэл дает определение машинному обучению
  2. PageRank Google выделяет системы, управляемые данными
  3. Облачные вычисления становятся мейнстримом
  4. Прорыв ImageNet ускоряет глубокое обучение
  5. Назван скрытый технический долг
  6. Kubeflow и эра оркестрации контейнеров
  7. Анонсирован TensorFlow Extended
  8. MLOps становится распространенным отраслевым термином
  9. Стандарты жизненного цикла машинного обучения уже разработаны
  10. Генеративный ИИ расширяет рабочую поверхность
Плотность баллов

Чем темнее клетка, тем выше балл по этому показателю.

Последняя проверка Источники и титрыМедиа-кредитыМетодология

Короткие ответы

Чем занимается инженер MLOps?

Инженер MLOps превращает эксперименты машинного обучения в повторяемые и контролируемые услуги. Они создают конвейеры данных и обучения, упаковывают модели, развертывают их в облачных или периферийных средах, отслеживают версии, контролируют производительность и создают процедуры отката. В небольших командах они также могут писать код приложения; в более крупных они управляют общей платформой для многих команд по анализу данных.

Чем MLOps отличается от науки о данных?

Ученые, работающие с данными, обычно сосредотачиваются на постановке проблем, анализе данных и разработке моделей. MLOps фокусируется на том, чтобы сделать модели воспроизводимыми, развертываемыми и наблюдаемыми с течением времени. Различие не является абсолютным: сильные команды сотрудничают в вопросах оценки и качества данных, а инженерам MLOps необходимо достаточно знаний в области машинного обучения, чтобы понять, почему модель может выйти из строя после развертывания.

Нужна ли мне степень магистра для MLOps?

Нет. Степень в области компьютерных наук, инженерии или работы с данными является обычным явлением, но практический опыт работы с программным обеспечением, облаками и платформами данных может иметь большее значение, чем диплом продвинутого исследования. Должности, создающие новые модели, могут предпочесть аспирантуру; Роли, управляющие платформами ML, обычно так же высоко ценят технологию производства, инфраструктуру и тщательное экспериментирование.

Какие языки программирования используют инженеры MLOps?

Python распространен, потому что его использует большинство экосистем машинного обучения. SQL необходим для работы с данными, а Docker, YAML и конфигурации «инфраструктура как код» — повседневные инструменты. Некоторые команды разработчиков платформ также используют Go, Java, Scala или TypeScript. Важная возможность заключается не в верности одному языку, а в том, чтобы сделать конвейер тестируемым, версионным и наблюдаемым.

Что такое дрейф модели?

Смещение модели означает, что развернутая модель становится менее полезной из-за изменения мира, поведения пользователей, входных данных или результатов. Модель мошенничества, обученная на прошлогодних шаблонах, может пропустить новую аферу. Мониторинг распределения входных данных, качества прогнозирования и бизнес-результатов помогает командам обнаружить отклонения до того, как незаметное снижение станет вредным решением.

MLOps — это то же самое, что DevOps?

MLOps заимствует идеи DevOps — автоматизацию, контроль версий, непрерывную доставку и совместное владение, — но добавляет проблемы с данными и моделями. Модель может измениться, поскольку обучающие данные изменяются, даже если код приложения не меняется. Команды должны создавать версии наборов данных, оценивать поведение модели, управлять экспериментами и отслеживать качество прогнозов, а также состояние серверов.

Начать с этого раздела - Origins & Evolution

Открыть лабораторию сравнения

Share

MLOps — это новое название старой операционной проблемы: модель, которая работает в контролируемом эксперименте, может потерпеть неудачу, когда она соответствует меняющимся данным, реальным пользователям и производственному бюджету. Эта профессия сочетает в себе исследовательскую культуру машинного обучения с дисциплиной доставки и эксплуатации программного обеспечения.

Таким образом, его история связана с разработкой данных, облачными вычислениями и DevOps. Эта роль стала отчетливой в конце 2010-х годов, когда организации перешли от изолированных моделей к паркам моделей, данными, поведением и соответствием которых необходимо было постоянно управлять.

Where it began

2015–2019Глобальная индустрия облачных вычислений

Фраза MLOps распространилась по мере того, как облачные платформы и команды машинного обучения столкнулись с расходами на техническое обслуживание производства. В статье исследователей Google «Скрытый технический долг в системах машинного обучения» в 2015 году был дан широко цитируемый словарь зависимостей, циклов обратной связи и операционной сложности, которые превращают модель в долгоживущую систему.

Timeline

1959Артур Сэмюэл дает определение машинному обучению

Сэмюэл описывает машинное обучение в работе над самосовершенствующейся программой для шашек, помогая дать название этой области, позже запущенной в производство.

1998PageRank Google выделяет системы, управляемые данными

Рейтинг в веб-масштабе показывает, как модели и инфраструктура данных могут стать центральной инфраструктурой продукта.

2006Облачные вычисления становятся мейнстримом

Amazon Web Services делает эластичные вычисления и хранилище доступными в виде операционных сервисов, а не собственного оборудования.

2012Прорыв ImageNet ускоряет глубокое обучение

Успех AlexNet в ImageNet делает обучение на базе графического процессора центральным элементом многих программ машинного обучения.

2015Назван скрытый технический долг

Исследователи Google объясняют, почему системы машинного обучения накапливают зависимости и бремя обслуживания, выходящее за рамки их модельного кода.

2016Kubeflow и эра оркестрации контейнеров

Внедрение Kubernetes создает общий операционный уровень для упаковки и выполнения распределенных рабочих нагрузок.

2017Анонсирован TensorFlow Extended

Google представляет TFX как производственно-ориентированную платформу для сквозных конвейеров машинного обучения.

2019MLOps становится распространенным отраслевым термином

Поставщики облачных технологий и стартапы формализуют инструменты для отслеживания экспериментов, конвейеров, реестров моделей и развертывания.

2020Стандарты жизненного цикла машинного обучения уже разработаны

Команды все чаще рассматривают проверку данных, управление функциями и мониторинг моделей как производственные требования.

2023–2024Генеративный ИИ расширяет рабочую поверхность

Базовые модели создают новые потребности в оценке, поиске, контроле затрат, оперативном управлении и управлении ИИ.

The eras

1950–2005 гг.

Модели как исследовательские артефакты

Машинное обучение в основном использовалось в исследованиях, специализированных продуктах и ​​статистике. Операционные проблемы существовали, но обычно не были отдельной карьерой.

2006–2014

Облака и фонды больших данных

Эластичная инфраструктура, распределенная обработка и платформы с открытым исходным кодом сделали возможным более масштабное обучение и обслуживание моделей.

2015–2018

Технический долг становится видимым

Производственные группы осознали, что зависимости данных, мониторинг и переобучение могут стоить дороже, чем исходная модель.

2019–2022

Платформы и инструменты жизненного цикла

Отслеживание экспериментов, реестры моделей, хранилища функций и шаблоны CI/CD стали узнаваемыми строительными блоками MLOps.

2023 – настоящее время

Модели фонда и управление

Приложения LLM расширяют работу до оценки, поиска, контроля доступа, наблюдения и ответственного развертывания.

What this job replaced

Neighbouring trades that no longer exist — absorbed, automated or regulated away.

Передача модели вручную

2000–2010-е годы

Исследователь отправлял по электронной почте серийную модель и инструкции команде разработчиков. Реестры, артефакты с версионированием и конвейеры развертывания заменили неформальную передачу.

Трекер экспериментов с электронными таблицами

2010-е годы

Команды записывали прогоны, параметры и показатели в локальные файлы или электронные таблицы. Системы отслеживания экспериментов теперь централизованно сохраняют артефакты, версии кода и сравнения.

Разовый пакетный скоринговый оператор

2000–2010-е годы

Оперативный персонал периодически запускал сценарии для составления прогнозов. Запланированные рабочие процессы, управляемые платформы и автоматизированные проверки качества поглотили повторяющееся выполнение.

Trades that vanished →

MLOps возникли потому, что срок полезного использования модели начинается после обучения. Эта дисциплина берет на себя операционные вопросы, которые прототипы могут отложить — управление версиями, сбои, стоимость, предвзятость и откат — и превращает их в первоклассную инженерную работу.

Следующий этап будет зависеть не столько от того, смогут ли организации использовать модель, сколько от того, смогут ли они доказать, что она остается полезной, безопасной и контролируемой после запуска.

Similar professions

🔐

Специалист по кибербезопасности

Защищает системы, данные и людей, обнаруживая, предотвращая и реагируя на цифровые атаки.

AI-resistant 63
🧫

Специалист по клиническим данным

Использует данные клинических исследований, исследований и системы здравоохранения для получения надежных данных для более безопасного ухода, исследований и операционных решений.

AI-resistant 68
🔌

Инженер-полупроводник

Разрабатывает и производит транзисторы внутри каждого компьютера, телефона и оружия, используя настолько точные станки, что их могут эксплуатировать лишь несколько заводов на Земле.

AI-resistant 60
🦾

Инженер-робототехника

Разрабатывает машины, которые чувствуют, принимают решения и действуют в физическом мире, где сложной проблемой является не интеллект, а сам мир.

AI-resistant 65
🌿

Менеджер по устойчивому развитию

Руководит стратегией, измерениями и отчетностью, которые помогают организациям снизить экологический и социальный ущерб при выполнении деловых обязательств.

AI-resistant 66
👔

Адвокат

Консультирует клиентов, составляет документы, обязывающие их, и аргументирует их дело, когда оно доходит до суда, неся личную юридическую ответственность, если совет окажется неверным.

AI-resistant 58

Continue exploring

Keep exploring

More in Engineering & Technology

💻

Инженер-программист

Пишет, тестирует и поддерживает код, который управляет современной жизнью, и является одной из первых профессий, наблюдающих, как ИИ автоматизирует свою повседневную работу.

AI-resistant 35
🤖

Исследователь искусственного интеллекта

Разрабатывает и тестирует алгоритмы, лежащие в основе машинного интеллекта, в области, которая сейчас стремится автоматизировать растущую долю собственного исследовательского процесса.

AI-resistant 50
🛰️

Аэрокосмический инженер

Проектирует, анализирует и сертифицирует летательные аппараты, ракеты и космические корабли, отрывающиеся от земли, работая с запасом безопасности, не оставляющим места для догадок.

AI-resistant 74
🌉

Инженер-строитель

Профессия, превращающая реки, скалы и гравитацию в мосты, дороги и чистую воду — тихая несущая сила цивилизации со времен Имхотепа.

AI-resistant 72
🔌

Инженер-полупроводник

Разрабатывает и производит транзисторы внутри каждого компьютера, телефона и оружия, используя настолько точные станки, что их могут эксплуатировать лишь несколько заводов на Земле.

AI-resistant 60
🦾

Инженер-робототехника

Разрабатывает машины, которые чувствуют, принимают решения и действуют в физическом мире, где сложной проблемой является не интеллект, а сам мир.

AI-resistant 65
🔐

Специалист по кибербезопасности

Защищает системы, данные и людей, обнаруживая, предотвращая и реагируя на цифровые атаки.

AI-resistant 63
🌬️

Инженер по возобновляемым источникам энергии

Проектирует, строит и совершенствует ветровые, солнечные, накопительные и сетевые системы, которые превращают возобновляемые ресурсы в надежную электроэнергию.

AI-resistant 72