深層学習以前、コンピュータビジョンや音声システムをうまく動かすには、研究者が適切な入力特徴量――画像用のSIFTやHOGといったエッジ検出器、音声用のケプストラム係数――を手で設計する必要があり、それ自体が専門技能だった。生データから自ら特徴量を学習するネットワークが登場すると、2012年から数年のうちにこの設計作業の大半は不要になった。
手作り特徴量エンジニアはもう存在しない。何がこの仕事を消し、どの職業がその席を取ったかを整理した。
アイデアと名前
1943年、ウォーレン・マカロックとウォルター・ピッツはニューロンを単純な論理スイッチとしてモデル化した論文で、後の研究者に数学的な出発点を与えた。1950年、アラン・チューリングは機械知能を検証する実践的なテストを提案し、この問いに公共の輪郭を与えた。この二つのアイデアはいずれも1956年のダートマス会議に流れ込み、ジョン・マッカーシーと同僚3人が「人工知能」を作り出した。会議は主催者が望んだほどの技術的進展はもたらさなかったが、たった今立ち上げたばかりの分野に永続的な名前を与えた。
同じ時期に起きていたこと
『Mind』誌に掲載された「計算する機械と知能」の中で、アラン・チューリングは「機械は考えられるか」という問いを回避し、代わりに実践的なテストを提案した。彼は50年以内に約10億ビットの記憶容量を持つ機械が、平均的な尋問者を少なくとも30%の確率で欺くだろうと予測した。
ジョン・マッカーシー、マーヴィン・ミンスキー、ネイサニエル・ロチェスター、クロード・シャノンによる8週間のダートマス夏季ワークショップが「人工知能」という言葉を生み、後にこの分野の初期研究の方向性の多くを築くことになる約10人の研究者を集めた。
フランク・ローゼンブラットのパーセプトロンは、まずソフトウェアで、次いでコーネル大学の専用ハードウェアで実装され、自らの結合重みを調整することで単純な画像を分類することを学んだ――訓練可能な人工ニューラルネットワークの初めての実働デモンストレーションだった。
マーヴィン・ミンスキーとシーモア・パパートの1969年の著書『パーセプトロン』は、単層ネットワークがXORのような単純な問題すら解けないことを数学的に証明し、1973年の英国ライトヒル報告書はAIが期待に応えられなかったと結論づけた。大西洋の両岸でニューラルネットワークと汎用AI研究への資金が枯渇した。