AI研究者、2012年の深層学習、トランスフォーマー、スケーリング時代

多くの日は、最近の論文を読むこと、訓練コードを書いてデバッグすること、長時間走らせた実験の結果を待って分析すること、同僚と発見を議論することに費やされる。世間のイメージとは裏腹に、仕事の大部分はゼロから新しいアーキテクチャを発想することではなく、なぜモデルの性能が振るわないのか、なぜ結果が再現しないのかを突き止めることだ。 大学やトップクラスの産業研究所で独立した研究職に就くには、事実上必要だ。免許試験が存在しないため、博士号がこの分野の実質的な資格であり続けている。博士号を持たない優秀なエンジニアが、企業のレジデンシープログラムや、オープンソースでの実績・被引用プレプリントの公開記録を通じて参入するケースは増えているが、「リサーチサイエンティスト」といった肩書きは依然として博士号保持者に大きく偏っている。

一部は明らかにそうだ。文献の要約、定型的な実験コード、関連研究セクションの下書きはすでにAIの助けを借りるのが日常的になっており、研究所は自ら実験を提案し実行するシステムを公然と試している。だが、ある結果が実際に何を意味するのかを解釈すること、そして公表した主張に責任を持つことは、はるかに引き渡しにくいことが分かっている。 雇用主や経験年数によって大きく異なる。米国のより広い「コンピュータ・情報科学研究者」区分の中央値は2024年で年14万910ドルだったが、大手テクノロジー企業の研究所に入る新博士はそれをはるかに上回る額から始まることが多く、2024〜2025年の採用競争では、フロンティアAI研究所の一部の上級研究者が7桁から8桁ドルに及ぶ総報酬パッケージを提示されたと報じられている。

境界は絶えず曖昧になっているが、大まかな区分はある。研究者の成果は通常、論文や新しい手法、あるいはなぜそれがうまくいくのかについての洞察であり、査読によって評価される。エンジニアの成果は通常、実運用で動くシステムであり、それが実際にリリースされ実使用に耐えるかどうかで評価される。キャリアの中で両方をこなす人も多い。 が主流で、深層学習フレームワークと組み合わせて使われる。研究の現場ではが最も一般的で、大規模な計算や系の研究ではJAXが人気だ。コード以外では、研究者は共有のGPU/TPU計算クラスタ、 & のような実験管理ツール、そして正式な査読の何カ月も前に新しい成果がプレプリントとして出回るに依存している。