Skip to content

🤖Origins & Evolution

Исследователь искусственного интеллекта · Разрабатывает и тестирует алгоритмы, лежащие в основе машинного интеллекта, в области, которая сейчас стремится автоматизировать растущую долю собственного исследовательского процесса.

Share

Исследования искусственного интеллекта — это область, которая постоянно заявляет о своем рождении, а затем возрождается. Ее основатели в 1950-х годах ожидали, что искусственный интеллект появится в течение одного поколения; когда идея не поступала, финансирование прекращалось не один, а два раза, и каждый раз небольшая группа исследователей, которые не отказались от нейронных сетей, поддерживала идею в течение многих лет, которую большая часть области считала тупиковой.

Всю эту историю пронизывают две нити: философский спор о том, можно ли свести интеллект к символам и правилам или его необходимо изучать статистически на основе данных, и практический спор о том, правильно ли предсказали чемпионы в этой области или ее скептики, насколько быстро наступит прогресс. Оба аргумента остаются неразрешенными, но второй неоднократно развивался быстрее, чем ожидали критики.

Where it began

1956Дартмутский колледж, Ганновер, Нью-Гэмпшир, США

В предложении о финансировании Фонда Рокфеллера в 1955 году математик Джон Маккарти и трое его соавторов — Марвин Мински, Натаниэль Рочестер и Клод Шеннон — придумали фразу «искусственный интеллект» для описания летнего семинара, который они хотели провести, основанного на гипотезе, что каждый аспект обучения в принципе может быть описан настолько точно, что можно создать машину для его моделирования. Фонд Рокфеллера профинансировал лишь около половины запрошенных 14 000 долларов. Тем летом около десяти исследователей собрались в Дартмуте примерно на восемь недель; Встреча не привела ни к одному техническому прорыву, но сознательно выбранное название – и названная им область – пережили все, что на самом деле там обсуждалось.

Timeline

1943Маккалок и Питтс математически моделируют нейрон.

Уоррен Маккаллок и Уолтер Питтс публикуют «Логическое исчисление идей, имманентных нервной деятельности», показывая, что сети упрощенных нейронов по принципу «все или ничего» в принципе могут вычислять любую логическую функцию — теоретическое зерно, которое позже считается прародителем искусственной нейронной сети.

1950Тьюринг предлагает игру в имитацию

В книге «Вычислительная техника и интеллект», опубликованной в журнале Mind, Алан Тьюринг обходит вопрос «могут ли машины думать» и предлагает вместо этого практический тест, предсказывая, что через пятьдесят лет машина с примерно миллиардом бит памяти будет обманывать среднего следователя по крайней мере в 30% случаев.

1956Семинар в Дартмуте дает название области

Джон Маккарти, Марвин Мински, Натаниэль Рочестер и восьминедельный летний семинар Клода Шеннона в Дартмуте вводят термин «искусственный интеллект» и объединяют около десяти исследователей, которые впоследствии основали большую часть ранней исследовательской программы в этой области.

1958Розенблатт строит персептрон

Персептрон Фрэнка Розенблатта, сначала реализованный в программном обеспечении, а затем в специальном оборудовании в Корнелле, учится классифицировать простые изображения, регулируя собственные веса соединений — первая рабочая демонстрация обучаемой искусственной нейронной сети.

1969–1974Начинается первая зима ИИ

Книга Марвина Мински и Сеймура Паперта «Персептроны» 1969 года математически доказывает, что однослойные сети не могут решать простые задачи, такие как XOR, а в британском отчете Лайтхилла 1973 года делается вывод, что ИИ не смог выполнить свои обещания; Финансирование исследований нейронных сетей и общего искусственного интеллекта прекращается по обе стороны Атлантики.

1986Обратное распространение ошибки популяризируется

Дэвид Румелхарт, Джеффри Хинтон и Рональд Уильямс публикуют в журнале Nature «Обучение представлений с помощью обратного распространения ошибок», показывая, что многослойные нейронные сети можно эффективно обучать путем обратного распространения сигналов ошибок — этот алгоритм до сих пор используется для обучения почти каждой нейронной сети, созданной с тех пор.

1987–1993Вторая зима ИИ

Рынок специализированных машин на Лиспе рушится почти в мгновение ока, поскольку более дешевые рабочие станции общего назначения догоняют его, а основанные на правилах экспертные системы оказываются слишком хрупкими и дорогостоящими для поддержания в больших масштабах; Снова заключаются контракты на финансирование ИИ, и многие исследователи незаметно отказываются от этого термина в своей работе.

1989ЛеКун доказывает работу сверточных сетей — на реальных проверках

Сверточная нейронная сеть Яна Лекуна, разработанная в Bell Labs, вскоре будет использоваться в коммерческих целях для чтения рукописных цифр на чеках; к концу 1990-х годов системы, построенные на его архитектуре, считывают значительную долю чеков, обрабатываемых в Соединенных Штатах, что является редким работающим развертыванием глубокого обучения задолго до массового прорыва в этой области.

2012AlexNet побеждает ImageNet и начинает бум глубокого обучения

Глубокая сверточная сеть Алекса Крижевского, Ильи Суцкевера и Джеффри Хинтона побеждает в конкурсе ImageNet с коэффициентом ошибок 15,3% против 26,2% у следующей лучшей работы, причем разница настолько велика, что почти за одну ночь убеждает большую часть специалистов в том, что глубокое обучение решило главный тест компьютерного зрения.

2017–2022Трансформеры и эпоха масштабирования

Исследователи Google публикуют книгу «Внимание — это все, что вам нужно», в которой с тех пор представлена ​​архитектура Transformer, лежащая в основе почти всех основных языковых моделей; GPT-3 (2020 г.) и ChatGPT (2022 г.) компании OpenAI затем демонстрируют, что масштабирование той же архитектуры с использованием большего количества данных и вычислений продолжает создавать новые возможности, запуская общеотраслевую гонку по созданию еще более крупных моделей.

The eras

1943–1956

Идея и название

Работа Уоррена Маккалока и Уолтера Питтса в 1943 году, моделирующая нейроны как простые логические переключатели, дала более поздним исследователям математическую отправную точку, а предложение Алана Тьюринга в 1950 году о практическом тесте машинного интеллекта придало этому вопросу публичную форму. Обе идеи легли в основу семинара в Дартмуте 1956 года, где Джон Маккарти и трое его коллег придумали «искусственный интеллект» для летней встречи, которая привела к гораздо меньшему техническому прогрессу, чем надеялись ее организаторы, но навсегда определила область, которую они только что основали.

1957–1973

Персептроны и первая зима

«Персептрон» Фрэнка Розенблатта (1958) показал, что машина может научиться классифицировать простые закономерности, регулируя свои собственные веса соединений, и ранний оптимизм был настолько высок, что некоторые исследователи предсказывали, что машинный интеллект уровня человека будет достигнут через поколение. Книга Марвина Мински и Сеймура Пейперта «Персептроны» 1969 года затем математически доказала, что одноуровневые сети, подобные сети Розенблатта, не могут решить основные проблемы, а в британском отчете Лайтхилла 1973 года был сделан вывод, что исследования ИИ не принесли результатов, что привело к глубоким сокращениям финансирования по обе стороны Атлантики и первой «зиме» в этой области.

Иллюстрация, представляющая экспертную систему, основанную на правилах, коммерческую технологию искусственного интеллекта 1980-х годов.
Symbolics3640.JPG : Michael L. Umbricht and Carl R. Friend / Retro-Computing Society of Rhode Island Native name Retro-Computing Society of Rhode Island Location Providence Coordinates 41° 49′ 06.92″ N, 71° 26′ 45.82″ W Established 1994 Website rcsri.org Authority file : Q18857750 institution QS:P195,Q18857750 derivative work: Ubcule ( talk ) · CC BY-SA 3.0 · Wikimedia Commons
1974–1993

Экспертные системы, бум и спад

Эта область обрела второе дыхание в основанных на правилах «экспертных системах», которые кодировали знания специалиста в виде тысяч правил «если-то». Сообщается, что XCON компании Digital Equipment Corporation экономила компании десятки миллионов долларов в год при настройке компьютерных заказов. Для их запуска возникли специализированные компании по производству аппаратного обеспечения для Lisp-машин, а амбициозный японский проект «Компьютерные системы пятого поколения» обеспечил государственное финансирование этого подхода на протяжении 1980-х годов. Правила оказались слишком хрупкими и дорогими, чтобы их поддерживать в больших масштабах, рынок Lisp-машин рухнул почти в мгновение ока в 1987 году, и наступила вторая зима ИИ.

1994–2011

Тихий статистический поворот

Вдали от общественного внимания центр тяжести этой области сместился от писанных правил к статистическому машинному обучению — машины опорных векторов, байесовские методы и нейронные сети, поддерживаемые в основном исследователями, включая Джеффри Хинтона, Янна Лекуна и Йошуа Бенджио, которые продолжали совершенствовать подход на протяжении многих лет, когда «нейронная сеть» была немодной фразой в заявке на грант. IBM Deep Blue победила чемпиона мира по шахматам Гарри Каспарова в 1997 году, используя грубый поиск, а не обучение, что является напоминанием о том, что узкие, основанные на правилах методы все еще имеют реальную силу, даже когда эта область незаметно восстанавливает свою статистическую основу для того, что будет дальше.

Схема архитектуры сверточной нейронной сети AlexNet, выигравшей конкурс ImageNet 2012 года.
Zhang, Aston and Lipton, Zachary C. and Li, Mu and Smola, Alexander J. · CC BY-SA 4.0 · Wikimedia Commons
2012 – настоящее время

Глубокое обучение, преобразователи и эра масштабирования

Алекс Крижевский, Илья Суцкевер и AlexNet Джеффри Хинтона выиграли конкурс ImageNet 2012 года с огромным отрывом, почти за одну ночь убедив большую часть специалистов в том, что глубокое обучение работает. Архитектура Transformer, разработанная исследователями Google в 2017 году, затем предоставила подходу конструкцию, которая необычайно хорошо масштабируется с большим количеством данных и вычислений, а GPT-3 от OpenAI (2020) и ChatGPT (2022) продемонстрировали, что масштабирование той же самой архитектуры продолжает создавать новые возможности, а не уменьшать отдачу, запуская общеотраслевую гонку, подкрепленную беспрецедентным капиталом, по созданию еще более крупных моделей.

What this job replaced

Neighbouring trades that no longer exist — absorbed, automated or regulated away.

Инженер по знаниям

1970–1990-е годы

Специалисты, которые брали интервью у экспертов-людей — врачей, геологов, химиков — и вручную переводили свои ноу-хау в тысячи правил «если-то» для таких экспертных систем, как MYCIN и XCON. Эта работа практически исчезла, когда экспертные системы оказались слишком хрупкими и дорогими в обслуживании, а статистическое машинное обучение заменило рукописные правила правилами, автоматически извлекаемыми из данных.

Инженер по функциям ручной работы

1990–2012 гг.

До глубокого обучения правильная работа системы компьютерного зрения или речи зависела от того, как исследователи вручную разработали правильные входные функции — детекторы границ, такие как SIFT и HOG для изображений, кепстральные коэффициенты для звука — это само по себе специализированное ремесло. Сети, которые изучают свои собственные функции непосредственно на основе необработанных данных, сделали большую часть этой проектной работы устаревшей в течение нескольких лет после 2012 года.

Лисп-машиностроитель

в. 1975–1988 гг.

Такие компании, как Symbolics и Lisp Machines Inc., создавали и продавали специализированные рабочие станции, оптимизированные для работы с языком программирования Lisp, от которого зависели исследования ИИ, и нанимали инженеров для их проектирования, продажи и обслуживания. К концу 1980-х годов более дешевые рабочие станции общего назначения потеряли свою производительность, а вся индустрия Lisp-машин рухнула примерно за два года — символ второй зимы ИИ.

Trades that vanished →

Каждый крах в этой истории имеет одну закономерность: конкретное, переоцененное обещание не выполняется в срок, спонсоры резко отступают, а меньшинство исследователей продолжает работать годами, когда ярлык «искусственный интеллект» активно вредит заявке на грант.

Люди, читающие этот профиль сейчас, живут в условиях третьего великого бума в этой области, построенного на масштабе, а не на одной новой идее. Завершится ли он так же, как предыдущие два, или на этот раз окажется иначе, это живой аргумент, лежащий в основе всего остального в этом профиле.

Similar professions

🔌

Инженер-полупроводник

Разрабатывает и производит транзисторы внутри каждого компьютера, телефона и оружия, используя настолько точные станки, что их могут эксплуатировать лишь несколько заводов на Земле.

AI-resistant 60
📦

Инженер МЛОпс

Создает системы, которые обучают, развертывают, контролируют и управляют моделями машинного обучения в производстве.

AI-resistant 54
🩺

Врач

Диагностирует болезнь и следит за здоровьем в течение многих лет с помощью осмотров и доказательств, а не одной операции — универсальный и долгосрочный справочник медицины.

AI-resistant 67
🧠

Психиатр

Диагностика и лечение психических заболеваний с помощью лекарств и терапии, одна из единственных медицинских специальностей, имеющих законное право удерживать пациента в критическом состоянии.

AI-resistant 73
👔

Адвокат

Консультирует клиентов, составляет документы, обязывающие их, и аргументирует их дело, когда оно доходит до суда, неся личную юридическую ответственность, если совет окажется неверным.

AI-resistant 58
🔐

Специалист по кибербезопасности

Защищает системы, данные и людей, обнаруживая, предотвращая и реагируя на цифровые атаки.

AI-resistant 63

Continue exploring

Keep exploring

More in Engineering & Technology

💻

Инженер-программист

Пишет, тестирует и поддерживает код, который управляет современной жизнью, и является одной из первых профессий, наблюдающих, как ИИ автоматизирует свою повседневную работу.

AI-resistant 35
🛰️

Аэрокосмический инженер

Проектирует, анализирует и сертифицирует летательные аппараты, ракеты и космические корабли, отрывающиеся от земли, работая с запасом безопасности, не оставляющим места для догадок.

AI-resistant 74
🌉

Инженер-строитель

Профессия, превращающая реки, скалы и гравитацию в мосты, дороги и чистую воду — тихая несущая сила цивилизации со времен Имхотепа.

AI-resistant 72
🔌

Инженер-полупроводник

Разрабатывает и производит транзисторы внутри каждого компьютера, телефона и оружия, используя настолько точные станки, что их могут эксплуатировать лишь несколько заводов на Земле.

AI-resistant 60
🦾

Инженер-робототехника

Разрабатывает машины, которые чувствуют, принимают решения и действуют в физическом мире, где сложной проблемой является не интеллект, а сам мир.

AI-resistant 65
🔐

Специалист по кибербезопасности

Защищает системы, данные и людей, обнаруживая, предотвращая и реагируя на цифровые атаки.

AI-resistant 63
📦

Инженер МЛОпс

Создает системы, которые обучают, развертывают, контролируют и управляют моделями машинного обучения в производстве.

AI-resistant 54
🌬️

Инженер по возобновляемым источникам энергии

Проектирует, строит и совершенствует ветровые, солнечные, накопительные и сетевые системы, которые превращают возобновляемые ресурсы в надежную электроэнергию.

AI-resistant 72