Skip to content

🤖Origins & Evolution

Chercheur en IA · Conçoit et teste les algorithmes derrière l'intelligence artificielle, dans un domaine qui s'efforce désormais d'automatiser une part croissante de son propre processus de recherche.

Partager cette page

La recherche en IA est un domaine qui ne cesse de se déclarer né puis renaître. Ses fondateurs dans les années 1950 attendaient l’intelligence artificielle en une génération ; lorsqu'elle n'est pas arrivée, le financement s'est effondré non pas une mais deux fois, et à chaque fois, un petit groupe de chercheurs qui n'avaient pas abandonné les réseaux neuronaux a maintenu l'idée en vie pendant des années, la plupart du domaine étant considéré comme une impasse.

Deux fils conducteurs parcourent toute l'histoire : un argument philosophique sur la question de savoir si l'intelligence peut être réduite à des symboles et des règles ou doit être apprise statistiquement à partir de données, et un argument pratique sur la question de savoir si les champions du domaine ou ses sceptiques ont correctement prédit la rapidité des progrès. Les deux arguments restent en suspens, mais le second a souvent fait avancer les champions bien plus vite que ne l'espéraient les critiques.

Where it began

1956Dartmouth College, Hanovre, New Hampshire, États-Unis

Dans une proposition de financement adressée en 1955 à la Fondation Rockefeller, le mathématicien John McCarthy et trois co-auteurs – Marvin Minsky, Nathaniel Rochester et Claude Shannon – ont inventé l'expression « intelligence artificielle » pour décrire un atelier d'été qu'ils souhaitaient organiser, fondé sur l'hypothèse que chaque aspect de l'apprentissage pouvait en principe être décrit avec une telle précision qu'une machine pouvait être conçue pour le simuler. La Fondation Rockefeller n'a financé qu'environ la moitié des 14 000 $ demandés. Environ dix chercheurs se sont réunis à Dartmouth pendant environ huit semaines cet été-là ; la réunion n’a produit aucune avancée technique unique, mais le nom délibérément choisi – et le domaine qu’il désignait – a survécu à tout ce qui y avait été discuté.

Timeline

1943McCulloch et Pitts modélisent mathématiquement le neurone

Warren McCulloch et Walter Pitts publient « Un calcul logique des idées immanentes à l'activité nerveuse », montrant que des réseaux de neurones simplifiés, tout ou rien, pourraient en principe calculer n'importe quelle fonction logique - une graine théorique reconnue plus tard comme l'ancêtre du réseau neuronal artificiel.

1950Turing propose le jeu de l'imitation

Dans « Computing Machinery and Intelligence », publié dans la revue Mind, Alan Turing élude la question « les machines peuvent-elles penser » et propose plutôt un test pratique, prédisant que d’ici cinquante ans, une machine dotée d’environ un milliard de bits de stockage tromperait un interrogateur moyen au moins 30 % du temps.

1956L'atelier de Dartmouth nomme le champ

L'atelier d'été de huit semaines organisé par John McCarthy, Marvin Minsky, Nathaniel Rochester et Claude Shannon à Dartmouth invente le terme « intelligence artificielle » et rassemble une dizaine de chercheurs qui seront à l'origine d'une grande partie des premiers programmes de recherche dans ce domaine.

1958Rosenblatt construit le Perceptron

Le Perceptron de Frank Rosenblatt, d'abord implémenté dans un logiciel puis dans un matériel personnalisé chez Cornell, apprend à classer des images simples en ajustant ses propres poids de connexion - la première démonstration fonctionnelle d'un réseau neuronal artificiel entraînable.

1969-1974Le premier hiver de l’IA commence

Le livre Perceptrons de Marvin Minsky et Seymour Papert de 1969 prouve mathématiquement que les réseaux monocouches ne peuvent pas résoudre des problèmes simples comme XOR, et le rapport Lighthill britannique de 1973 conclut que l'IA n'a pas tenu ses promesses ; le financement de la recherche sur les réseaux neuronaux et sur l’IA en général s’effondre des deux côtés de l’Atlantique.

1986La rétropropagation est popularisée

David Rumelhart, Geoffrey Hinton et Ronald Williams publient « Apprentissage des représentations par rétropropagation des erreurs » dans Nature, montrant que les réseaux neuronaux multicouches peuvent être entraînés efficacement en propageant les signaux d'erreur vers l'arrière - l'algorithme encore utilisé pour entraîner presque tous les réseaux neuronaux construits depuis.

1987-1993Le deuxième hiver de l’IA

Le marché des machines Lisp spécialisées s'effondre presque du jour au lendemain, à mesure que les postes de travail à usage général moins chers rattrapent leur retard et que les systèmes experts basés sur des règles s'avèrent trop fragiles et coûteux à maintenir à grande échelle. Le financement de l’IA se contracte à nouveau, et de nombreux chercheurs abandonnent discrètement ce terme de leurs travaux.

1989LeCun prouve que les réseaux convolutifs fonctionnent – sur de vrais contrôles

Le réseau neuronal convolutif de Yann LeCun, développé aux Bell Labs, est bientôt déployé commercialement pour lire les chiffres manuscrits sur les chèques ; à la fin des années 1990, les systèmes construits sur son architecture lisent une part significative des chèques traités aux États-Unis, un rare déploiement d'apprentissage profond qui fonctionne bien avant la percée généralisée du domaine.

2012AlexNet remporte ImageNet et lance le boom du deep learning

Le réseau convolutif profond d'Alex Krizhevsky, Ilya Sutskever et Geoffrey Hinton remporte le concours ImageNet avec un taux d'erreur de 15,3 % contre 26,2 % pour le deuxième meilleur candidat, une marge si grande qu'elle convainc la plupart des acteurs, presque du jour au lendemain, que l'apprentissage profond a résolu le critère central de la vision par ordinateur.

2017-2022Les transformateurs et l'ère de la mise à l'échelle

Les chercheurs de Google publient « Attention Is All You Need », présentant l'architecture Transformer derrière presque tous les principaux modèles de langage depuis ; GPT-3 (2020) et ChatGPT (2022) d'OpenAI démontrent ensuite que la mise à l'échelle de cette même architecture avec plus de données et de calcul continue de produire de nouvelles capacités, lançant une course à l'échelle de l'industrie pour créer des modèles toujours plus grands.

The eras

1943-1956

L'idée et le nom

L'article de 1943 de Warren McCulloch et Walter Pitts modélisant les neurones comme de simples commutateurs logiques a donné aux chercheurs ultérieurs un point de départ mathématique, et la proposition d'Alan Turing en 1950 d'un test pratique pour l'intelligence artificielle a donné à la question une forme publique. Ces deux idées ont alimenté l'atelier de Dartmouth de 1956, où John McCarthy et trois collègues ont inventé « l'intelligence artificielle » pour une réunion d'été qui a produit beaucoup moins de progrès techniques que ne l'espéraient ses organisateurs, mais qui ont nommé de manière permanente le domaine qu'ils venaient de fonder.

1957-1973

Les perceptrons et le premier hiver

Le Perceptron de Frank Rosenblatt (1958) a montré qu'une machine pouvait apprendre à classer des modèles simples en ajustant ses propres poids de connexion, et l'optimisme initial était suffisamment élevé pour que certains chercheurs prédisent une intelligence machine au niveau humain en une génération. Le livre de 1969 de Marvin Minsky et Seymour Papert, « Perceptrons », a ensuite prouvé mathématiquement que les réseaux monocouches comme celui de Rosenblatt ne pouvaient pas résoudre les problèmes fondamentaux, et le rapport Lighthill de 1973 de la Grande-Bretagne a conclu que la recherche sur l'IA n'avait pas donné de résultats, déclenchant de profondes coupes de financement des deux côtés de l'Atlantique et le premier « hiver » dans ce domaine.

Illustration représentant un système expert basé sur des règles, la technologie commerciale d'IA des années 1980
Symbolics3640.JPG : Michael L. Umbricht and Carl R. Friend / Retro-Computing Society of Rhode Island Native name Retro-Computing Society of Rhode Island Location Providence Coordinates 41° 49′ 06.92″ N, 71° 26′ 45.82″ W Established 1994 Website rcsri.org Authority file : Q18857750 institution QS:P195,Q18857750 derivative work: Ubcule ( talk ) · CC BY-SA 3.0 · Wikimedia Commons
1974-1993

Systèmes experts, boom et récession

Ce domaine a trouvé un second souffle dans les « systèmes experts » basés sur des règles qui codaient les connaissances d'un spécialiste humain sous forme de milliers de règles « si-alors » : XCON de Digital Equipment Corporation aurait permis à l'entreprise d'économiser des dizaines de millions de dollars par an en configurant les commandes d'ordinateurs. Des sociétés spécialisées dans le matériel informatique Lisp ont vu le jour pour les gérer, et l'ambitieux projet japonais de systèmes informatiques de cinquième génération a injecté des fonds gouvernementaux dans cette approche tout au long des années 1980. Les règles se sont révélées trop fragiles et coûteuses à maintenir à grande échelle, le marché des machines Lisp s'est effondré presque du jour au lendemain en 1987 et un deuxième hiver de l'IA s'est installé.

1994-2011

Le tournant statistique tranquille

Loin des yeux du public, le centre de gravité du domaine s'est déplacé des règles manuscrites vers l'apprentissage automatique statistique - des machines à vecteurs de support, des méthodes bayésiennes et des réseaux de neurones maintenus en vie principalement par des chercheurs comme Geoffrey Hinton, Yann LeCun et Yoshua Bengio, qui ont continué à affiner l'approche au fil des années lorsque « réseau de neurones » était une expression démodée dans une proposition de subvention. Deep Blue d'IBM a battu le champion du monde d'échecs Garry Kasparov en 1997 en utilisant la recherche par force brute plutôt que l'apprentissage, rappelant que les méthodes étroites et basées sur des règles avaient toujours un réel pouvoir, même si le domaine reconstruisait tranquillement ses fondations statistiques pour ce qui allait suivre.

Schéma de l'architecture de réseau neuronal convolutif AlexNet qui a remporté le concours ImageNet 2012
Zhang, Aston and Lipton, Zachary C. and Li, Mu and Smola, Alexander J. · CC BY-SA 4.0 · Wikimedia Commons
2012-présent

Apprentissage profond, transformateurs et ère de mise à l'échelle

AlexNet d'Alex Krizhevsky, Ilya Sutskever et Geoffrey Hinton ont remporté le concours ImageNet 2012 avec une énorme marge, convainquant presque du jour au lendemain que l'apprentissage profond fonctionnait. L'architecture Transformer 2017 des chercheurs de Google a ensuite donné à l'approche une conception qui s'est exceptionnellement bien évolutive avec plus de données et de calcul, et GPT-3 (2020) et ChatGPT (2022) d'OpenAI ont démontré que la mise à l'échelle de cette même architecture continuait à produire de nouvelles capacités plutôt que de diminuer les rendements – lançant une course à l'échelle de l'industrie, soutenue par un capital sans précédent, pour construire des modèles toujours plus grands.

What this job replaced

Neighbouring trades that no longer exist — absorbed, automated or regulated away.

Ingénieur des connaissances

Années 1970-1990

Des spécialistes qui ont interrogé des experts humains – médecins, géologues, chimistes – et ont traduit manuellement leur savoir-faire en milliers de règles « si-alors » pour des systèmes experts comme MYCIN et XCON. Ce travail a en grande partie disparu lorsque les systèmes experts se sont révélés trop fragiles et coûteux à entretenir, et que l’apprentissage automatique statistique a remplacé les règles écrites à la main par des règles apprises automatiquement à partir des données.

Ingénieur de fonctionnalités conçu à la main

Années 1990-2012

Avant l'apprentissage en profondeur, le bon fonctionnement d'un système de vision par ordinateur ou de parole dépendait de la conception manuelle par les chercheurs des bonnes fonctionnalités d'entrée - des détecteurs de bords comme SIFT et HOG pour les images, des coefficients cepstraux pour l'audio - un métier spécialisé en soi. Les réseaux qui apprennent leurs propres fonctionnalités directement à partir de données brutes ont rendu la plupart de ce travail de conception obsolète en quelques années seulement après 2012.

Ingénieur machine Lisp

c. 1975-1988

Des entreprises comme Symbolics et Lisp Machines Inc. ont construit et vendu des postes de travail spécialisés optimisés pour exécuter le langage de programmation Lisp dont dépendait la recherche sur l'IA, employant des ingénieurs pour les concevoir, les vendre et les entretenir. Les stations de travail polyvalentes moins chères ont rattrapé leurs performances brutes à la fin des années 1980, et l’ensemble de l’industrie des machines Lisp s’est effondrée en deux ans environ – symbole du deuxième hiver de l’IA.

Trades that vanished →

Chaque effondrement de cette histoire partage un schéma : une promesse spécifique et survendue n'est pas tenue dans les délais, les bailleurs de fonds se retirent fortement et une minorité de chercheurs continuent de travailler pendant des années où l'étiquette « intelligence artificielle » a activement nui à une demande de subvention.

Les personnes qui lisent ce profil vivent aujourd'hui à l'intérieur du troisième grand boom du domaine, un boom construit à grande échelle plutôt que sur une seule nouvelle idée. Que cela se termine comme les deux précédents, ou que cela se révèle différent cette fois, c'est l'argument en direct qui se cache sous tout le reste de ce profil.

Métiers proches

Voisins les plus proches sur le profil à six scores — pas seulement le même champ.

Continuer à explorer

Keep exploring

More in Engineering & Technology