AI研究者 · 機械知能を支えるアルゴリズムを設計・検証する仕事。今やその研究プロセス自体の自動化を競う分野になりつつある。
AI研究は、何度も自らの誕生と再生を宣言し続けてきた分野だ。1950年代の創始者たちは一世代のうちに機械知能が実現すると期待していた。それが実現しなかったとき、資金は一度ならず二度も枯渇した。そのたびに、ニューラルネットワークをあきらめなかった少数の研究者たちが、分野の大半が行き止まりとみなしていた年月の間、その考えを生かし続けた。
この物語全体には二つの筋が通っている。一つは、知能は記号とルールに還元できるのか、それともデータから統計的に学習されねばならないのかという哲学的な論争。もう一つは、進歩がどれほど速く来るかを、この分野の擁護者と懐疑派のどちらが正しく予測してきたかという実際的な論争だ。どちらも決着はついていないが、二つ目の論争は批判者が予想したよりも繰り返し擁護者の側に傾いてきた。
1955年、ロックフェラー財団への資金提案の中で、数学者ジョン・マッカーシーと共著者3名――マーヴィン・ミンスキー、ネイサニエル・ロチェスター、クロード・シャノン――は、開催を望む夏季ワークショップを説明するために「人工知能」という言葉を作った。その根底には、学習のあらゆる側面は原理上厳密に記述できるため、機械にそれをシミュレートさせることができるはずだという仮説があった。ロックフェラー財団は要求額1万4000ドルの約半分しか助成しなかった。その夏、約10人の研究者がダートマスに集まり約8週間を過ごした。会議自体は単一の技術的ブレイクスルーを生まなかったが、あえて選ばれたその名前――そしてそれが名付けた分野――は、そこで実際に議論されたどの内容よりも長く生き残った。
ウォーレン・マカロックとウォルター・ピッツが「神経活動に内在する観念の論理計算」を発表し、単純化されたオンオフ型ニューロンのネットワークが原理上あらゆる論理関数を計算できることを示した――後に人工ニューラルネットワークの祖とされる理論的な種となった。
『Mind』誌に掲載された「計算する機械と知能」の中で、アラン・チューリングは「機械は考えられるか」という問いを回避し、代わりに実践的なテストを提案した。彼は50年以内に約10億ビットの記憶容量を持つ機械が、平均的な尋問者を少なくとも30%の確率で欺くだろうと予測した。
ジョン・マッカーシー、マーヴィン・ミンスキー、ネイサニエル・ロチェスター、クロード・シャノンによる8週間のダートマス夏季ワークショップが「人工知能」という言葉を生み、後にこの分野の初期研究の方向性の多くを築くことになる約10人の研究者を集めた。
フランク・ローゼンブラットのパーセプトロンは、まずソフトウェアで、次いでコーネル大学の専用ハードウェアで実装され、自らの結合重みを調整することで単純な画像を分類することを学んだ――訓練可能な人工ニューラルネットワークの初めての実働デモンストレーションだった。
マーヴィン・ミンスキーとシーモア・パパートの1969年の著書『パーセプトロン』は、単層ネットワークがXORのような単純な問題すら解けないことを数学的に証明し、1973年の英国ライトヒル報告書はAIが期待に応えられなかったと結論づけた。大西洋の両岸でニューラルネットワークと汎用AI研究への資金が枯渇した。
デビッド・ラメルハート、ジェフリー・ヒントン、ロナルド・ウィリアムズが『Nature』誌に「誤差逆伝播による表現の学習」を発表し、誤差信号を逆方向に伝播させることで多層ニューラルネットワークを効率的に訓練できることを示した――以来ほぼすべてのニューラルネットワークの訓練に使われ続けているアルゴリズムだ。
より安価な汎用ワークステーションが性能に追いつくにつれ、専用のLispマシン市場はほぼ一夜にして崩壊した。ルールベースのエキスパートシステムは大規模に維持するには脆弱すぎ、コストがかかりすぎることが判明した。AI予算は再び縮小し、多くの研究者は「AI」という言葉を静かに自分の研究から外した。
ヤン・ルカンがベル研究所で開発した畳み込みニューラルネットワークは、まもなく手書き数字を読み取って小切手処理を行う商用システムとして展開された。1990年代後半までに、彼のアーキテクチャに基づくシステムは米国で処理される小切手の相当な割合を読み取っていた――分野の主流ブレイクスルーよりずっと前に実運用にたどり着いた稀有な深層学習の事例だ。
アレックス・クリジェフスキー、イリヤ・サツケヴァー、ジェフリー・ヒントンによる深層畳み込みネットワークが、次点のエラー率26.2%に対して15.3%という圧倒的な差でImageNetコンペティションに優勝した。その差はあまりにも大きく、分野のほぼすべての人にほぼ一夜にして深層学習がコンピュータビジョンの中心的ベンチマークを解決したと確信させた。
Googleの研究者が「注意機構こそがすべて」を発表し、以来ほぼすべての主要な言語モデルの背後にあるトランスフォーマーアーキテクチャを導入した。OpenAIのGPT-3(2020年)とChatGPT(2022年)は、同じアーキテクチャをより多くのデータと計算量でスケールさせ続けることが新しい能力を生み出し続けることを示し、業界を挙げてますます大きなモデルを構築する競争を引き起こした。
1943年、ウォーレン・マカロックとウォルター・ピッツはニューロンを単純な論理スイッチとしてモデル化した論文で、後の研究者に数学的な出発点を与えた。1950年、アラン・チューリングは機械知能を検証する実践的なテストを提案し、この問いに公共の輪郭を与えた。この二つのアイデアはいずれも1956年のダートマス会議に流れ込み、ジョン・マッカーシーと同僚3人が「人工知能」を作り出した。会議は主催者が望んだほどの技術的進展はもたらさなかったが、たった今立ち上げたばかりの分野に永続的な名前を与えた。
フランク・ローゼンブラットのパーセプトロン(1958年)は、機械が自らの結合重みを調整することで単純なパターンを分類することを学べることを示し、初期の楽観論は一部の研究者に一世代のうちに人間並みの機械知能が実現すると予測させるほど高まった。だが1969年のマーヴィン・ミンスキーとシーモア・パパートの著書『パーセプトロン』は、ローゼンブラットのような単層ネットワークが基本的な問題を解けないことを数学的に証明し、1973年の英国ライトヒル報告書はAI研究が期待に応えられなかったと結論づけた――大西洋の両岸で深刻な予算削減を招き、分野の最初の「冬」を引き起こした。
この分野は、人間の専門家の知識を数千のif-thenルールとして符号化するルールベースの「エキスパートシステム」の中に第二の追い風を見出した――ディジタル・イクイップメント社のXCONは、コンピュータ注文の設定作業で年間数千万ドルを節約したと伝えられる。それらを動かす専用のLispマシンハードウェア企業が次々と生まれ、日本の野心的な第五世代コンピュータプロジェクトは1980年代を通じてこのアプローチに政府資金をつぎ込んだ。だがルールは大規模に維持するには脆弱すぎ、コストがかかりすぎることが判明し、1987年にLispマシン市場はほぼ一夜にして崩壊、第二のAIの冬が訪れた。
世間の目が届かないところで、この分野の重心は手書きルールから統計的機械学習――サポートベクターマシン、ベイズ手法、そしてジェフリー・ヒントン、ヤン・ルカン、ヨシュア・ベンジオらによって生かされ続けたニューラルネットワーク――へと移っていった。「ニューラルネットワーク」という言葉が助成金申請書で流行遅れとされていた年月の間、彼らはこのアプローチを磨き続けた。1997年、IBMのディープ・ブルーが学習ではなく力任せの探索を用いて世界チェス王者ガルリ・カスパロフを破ったことは、次に来るもののために統計的な基盤を静かに再構築していたこの時期にも、狭くルールベースの手法が実際の力を持ち続けていたことを思い出させた。
アレックス・クリジェフスキー、イリヤ・サツケヴァー、ジェフリー・ヒントンによるAlexNetが2012年のImageNetコンペティションで大差の勝利を収め、分野のほぼすべての人にほぼ一夜にして深層学習が有効だと確信させた。2017年のGoogle研究者によるトランスフォーマーアーキテクチャは、より多くのデータと計算量で異例なほどうまくスケールする設計をこのアプローチに与えた。OpenAIのGPT-3(2020年)とChatGPT(2022年)は、同じアーキテクチャをスケールさせ続けても収穫逓減ではなく新しい能力を生み出し続けることを示し、前例のない資本に支えられたますます大きなモデルの構築競争を業界全体で引き起こした。
Neighbouring trades that no longer exist — absorbed, automated or regulated away.
医師、地質学者、化学者といった人間の専門家に聞き取りを行い、その知識を手作業でMYCINやXCONのようなエキスパートシステム向けの数千のif-thenルールに翻訳する専門家。エキスパートシステムが大規模維持には脆弱すぎコストがかかりすぎることが判明し、統計的機械学習が手書きルールをデータから自動的に学習されるルールに置き換えるにつれ、この職種はほぼ消滅した。
深層学習以前、コンピュータビジョンや音声システムをうまく動かすには、研究者が適切な入力特徴量――画像用のSIFTやHOGといったエッジ検出器、音声用のケプストラム係数――を手で設計する必要があり、それ自体が専門技能だった。生データから自ら特徴量を学習するネットワークが登場すると、2012年から数年のうちにこの設計作業の大半は不要になった。
シンボリクスやリスプマシーンズ社のような企業は、AI研究が依存していたLispプログラミング言語を動かすために最適化された専用ワークステーションを構築・販売し、それらを設計・販売・保守するエンジニアを雇用した。1980年代後半までに安価な汎用ワークステーションが生の性能で追いつき、Lispマシン産業全体が約2年のうちに崩壊した――第二のAIの冬の象徴だった。
この歴史の中の崩壊にはすべて共通のパターンがある。特定の、過大に宣伝された約束が予定通りには実現せず、資金提供者が大きく手を引き、少数の研究者が「人工知能」というラベルが助成金申請の妨げにしかならなかった年月の間も研究を続ける。
この記事を今読んでいる人々は、単一の新しいアイデアではなく規模の拡大に基づく、この分野の第三の大ブームのただ中にいる。それが過去の二つと同じように終わるのか、それとも今回は違うのか――それがこのプロフィール全体の下で今も進行中の議論である。
現代生活を動かすコードを書き、テストし、保守する仕事であり、AIが自分自身の日々の作業を自動化していく様子を最初に目の当たりにしている職業の一つでもある。
AI-resistant 35 🛰️地上を離れる航空機・ロケット・宇宙船を設計・解析・認証する仕事で、推測の余地を残さない安全マージンを守り続ける。
AI-resistant 74 🌉川と岩と重力を橋・道路・清潔な水に変える職業――イムホテプ以来、文明を静かに支え続ける仕事。
AI-resistant 72 🔌自動車のブレーキから核ミサイルの誘導システムまで、あらゆるコンピュータや携帯電話の中にあるトランジスタを設計・製造する。地球上でごく一部の工場しか動かせないほど精密な機械を使う仕事だ。
AI-resistant 60 🦾感知し、判断し、物理世界で行動する機械を設計する仕事。真の難問は知能ではなく、世界そのものだった。
AI-resistant 65