Skip to content 跳到章节

🤖起源与演变

AI Researcher · 设计并测试了机器智能背后的算法,在一个领域,现在竞相将自己研究过程中越来越大的份额自动化.

一眼看清
年表

按时间排列的节点,不是每周活动格。

1943 McCulloch和皮特斯在数学上模拟神经元1950 图灵提议模仿游戏1956 达特茅斯工场命名场1958 罗森布拉特建造了佩西德龙1969–1974 第一个AI冬天开始1986 反传播被普及1987–1993 The second AI winter1989 LeCun证明了革命网络在实际检查方面的工作2012 AlexNet 赢得ImageNet 并开始深入学习的繁荣2017–2022 变形器和缩放时代
  1. McCulloch和皮特斯在数学上模拟神经元
  2. 图灵提议模仿游戏
  3. 达特茅斯工场命名场
  4. 罗森布拉特建造了佩西德龙
  5. 第一个AI冬天开始
  6. 反传播被普及
  7. The second AI winter
  8. LeCun证明了革命网络在实际检查方面的工作
  9. AlexNet 赢得ImageNet 并开始深入学习的繁荣
  10. 变形器和缩放时代
指标浓度

格子越深,表示该主题在这项指标上越高。

最近审阅 来源与署名媒体署名方法说明

简短问答

一个人工智能研究员每天做什么?

大部分时间会分读近期论文,写作和调试训练代码,等待和分析长期实验的结果,并与合作者讨论发现. 与流行形象相反,很大一部分工作正在诊断一个模型为什么表现不佳或者结果不会复制,而不是从零开始集思广益的新建筑.

我需要博士才能成为AI研究员吗?

对于大学或顶级工业实验室的独立研究角色来说,实际上是的——博士仍然是该领域真正的证书,因为没有许可证考试。 但“研究科学家”等称号仍然对博士生有很大影响。

AI的研究本身是否面临AI的风险?

其部分明显是: 文献总结,锅炉板实验代码和第一稿相关工作部分已经是例行AI辅助,实验室正在公开实验提出和运行自己实验的系统. 确定结果的实际含义,并对公布的索赔承担责任,证明移交困难得多。

人工智能研究人员能赚多少钱?

雇主和资历差别很大。 2024年,美国“计算机和信息研究科学家”类别的中位数为140,910美元,但加入一个大型技术公司研究实验室的新博士往往比这个高得多,据报道,在2024年至2025年的招聘竞赛中,前沿AI实验室的少数高级研究人员得到了价值7或8位数字的总包。

AI研究员和机器学习工程师有什么区别?.

线条不断模糊,但粗略的区别在于:研究者的产出通常是论文,新方法或对东西为什么起作用的洞察力,通过同行评审判断;工程师的产出通常是生产中的工作系统,根据它是否船只和是否被实际使用来判断. 很多人在职业生涯中都是这样

AI研究使用哪些编程语言和工具?

Python主导,与深层学习框架配对——PyTorch现在是研究中最常见的,JAX流行于大型和Google附属作品. 代码之外,研究人员依赖于共享的GPU或TPU计算集群,Weights & Biases等实验跟踪工具,以及arXiv,其中大多数新结果在正式同行评审前几个月作为预印流通.

打开对比实验室

分享本页

AI研究是一个不断宣布自己出生,然后再生的领域. 它在1950年代的创始人期望在一代人之内有机器智能;当它没有到达时,资金不是一次而是两次崩溃,每次有一小群没有在神经网络上放弃的研究人员将这个想法维持了多年,大部分领域都认为是死胡同.

贯穿整个故事的两条线索:一条是哲学争论,关于智能是否可以被缩减为符号和规则,还是必须从数据中从统计学来学习,另一条是实际争论,关于球场的冠军或其怀疑者是否正确地预言了进展会有多快. 这两个论点仍未解决,但第二个论点一再超越了冠军们预期的速度.

起源之地

1956美国新罕布什尔州汉诺威达特茅斯学院

在1955年向洛克菲勒基金会提出的资助提案中,数学家约翰·麦卡锡和三位合著者——马文·明斯基,纳撒尼尔·罗切斯特和克劳德·香农(英语:Claude Rochester)——创作了"人工智能"这一短语来描述他们想要举办的暑期工作坊,基于一种猜想,即学习的每个方面原则上都可以如此精确地描述,以至于可以制造一台机器来模拟它. 洛克菲勒基金会只资助了所要求的14 000美元的一半。 大约10名研究人员在达特茅斯聚集了大约8个星期;会议没有产生任何单一的技术突破,而是有意选择的名字——以及它命名的领域——超过了那里实际讨论的一切。

时间线

1943McCulloch和皮特斯在数学上模拟神经元

Warren McCulloch 和 Walter Pitts 出版的"神经活动思想的逻辑计算"(A Logical Calculus of the Immanent in Nervous Activity)表明,简化的,全神经元或无神经元的网络原则上可以计算任何逻辑功能——这个理论种子后来被誉为人工神经网络的祖先.

1950图灵提议模仿游戏

在杂志Mind发表的"计算机械与情报"中,艾伦·图灵回避了问题"机器可以思考",而是提出一个实用的测试,预测在50年内,拥有大约十亿比特存储量的机器至少会愚弄一个平均审讯者30%的时间.

1956达特茅斯工场命名场

John McCarthy,Marvin Minski,Nathaniel Rochester和Claude Shannon8周的达特茅斯暑期工作坊将“人工智能”一词铸成硬币,并聚集了大约10名研究人员,他们将继续寻找这个领域早期的研究议程。

1958罗森布拉特建造了佩西德龙

弗兰克·罗森布拉特的Perceptron首先在软件中实施,然后在康奈尔的定制硬件中实施,通过调整自己的连接权重来学习对简单的图像进行分类——这是可训练人工神经网络的第一个工作演示.

1969–1974第一个AI冬天开始

Marvin Minski和Seymour Papert1969年的著作"Perceptrons"在数学上证明,单层网络无法解决像XOR这样的简单问题,英国1973年的Lighthill报告得出结论,AI没有兑现承诺;为神经网络和一般AI研究在大西洋两侧崩溃提供资金.

1986反传播被普及

David Rumelhart,Geoffrey Hinton和Ronald Williams在"自然"中发表了"通过背向传播错误来学习表现",显示多层神经网络可以通过向后传播错误信号来有效训练——这个算法仍然用来训练自此建立的几乎所有神经网络.

1987–1993The second AI winter

Lisp专用机器的市场几乎在一夜之间崩溃,因为便宜的通用工作站赶上了,基于规则的专家系统证明过于简陋,成本太高,无法维持规模;AI再次资助合同,许多研究人员悄悄地从工作上放弃了这一期限.

1989LeCun证明了革命网络在实际检查方面的工作

Yann LeCun在贝尔实验室开发的进化神经网络很快被商业部署,在检查时读到手写数字;到1990年代末,在他的架构上构建的系统正在读取在美国处理的检查中有意义的部分,这是外地在主流突破之前很早的罕见的工作深入学习部署.

2012AlexNet 赢得ImageNet 并开始深入学习的繁荣

Alex Krizhevsky,Ilya Sutskever和Geoffrey Hinton的深度革命网络以15.3%的误差率赢得了ImageNet的竞争,而次佳的入围率为26.2%,这一差幅如此之大,几乎一夜之间说服了大部分领域,深层学习解决了计算机视觉的中心基准.

2017–2022变形器和缩放时代

Google研究者出版了"Attenty Is All You Need,",在此后几乎所有主要语言模型背后引入了变形器架构;OpenAI的GPT-3(2020年)和ChatGPT(2022年)之后证明,用更多的数据来放大同样的架构,并计算不断产生新的能力,发起了全行业范围的竞赛,以构建更大的模型.

时代脉络

1943–1956

The idea and the name

Warren McCulloch和Walter Pitts的1943年纸模神经元作为简单的逻辑开关给后来的研究者一个数学起点,艾伦·图灵的1950年关于对机器智能进行实际测试的建议给了这个问题一个公开的形状. 这两个想法都反馈到1956年的达特茅斯研讨会上,约翰·麦卡锡和三位同事为一次夏季会议铸造了"人工智能",其产生的技术进展远低于其组织者所希望的,但永久地命名了他们刚刚建立的这个领域.

1957–1973

感觉和第一个冬天

弗兰克·罗森布拉特的Perceptron(1958年)显示一台机器可以通过调整自身的连接权重来学习分类简单的图案,早期的乐观情绪运行得足够高,以至于一些研究者预测了一代之内的人级机器智能. 马文·明斯基(Marvin Minski)和塞摩尔·帕斯特(Seymour Papert)1969年的著作"Perceptrons(英语:Perceptrons)"随后在数学上证明,像罗森布拉特(英语:Rosenblatt)这样的单层网络无法解决基本问题,英国1973年的Lighthill Report(英语:Lighthill Report)得出结论,AI的研究未能提供结果——引发大西洋两岸资金的深度削减,以及这个领域的第一个‘冬'.

说明1980年代商业AI技术,即基于规则的专家系统
Symbolics3640.JPG : Michael L. Umbricht and Carl R. Friend / Retro-Computing Society of Rhode Island Native name Retro-Computing Society of Rhode Island Location Providence Coordinates 41° 49′ 06.92″ N, 71° 26′ 45.82″ W Established 1994 Website rcsri.org Authority file : Q18857750 institution QS:P195,Q18857750 derivative work: Ubcule ( talk ) · CC BY-SA 3.0 · Wikimedia Commons
1974–1993

专家系统,繁荣和崩溃

球场在基于规则的"专家系统"中发现了第二股风,将人类专家的知识编码为"万一规则"——据报道数字设备公司的XCON每年节省了数千万美元的计算机订单. 专业的Lisp-机器硬件公司涌现出来运行,日本雄心勃勃的第五代计算机系统项目通过1980年代将政府资金注入到这个方法中. 事实证明,这些规则过于简陋和昂贵,无法维持规模,利斯普机器市场在1987年几乎一夜之间崩溃,第二个AI冬天进入。

1994–2011

安静的统计转弯

远离公众视线,现场的引力中心从手写规则转向统计机器学习——支持矢量机,贝叶斯方法,以及神经网络维持生存,主要由研究人员,包括杰弗里·欣顿(Geoffrey Hinton),扬·勒昆(Yann LeCun)和约斯华·本吉奥(Yoshua Bengio)等,他们不断完善这个方法,这几年来,"神经网络"在赠款提案中是一个不时髦的短语. IBM在1997年的深蓝击败世界国际象棋冠军加里·卡斯帕罗夫(Garry Kasparov)时,使用了野蛮武力的搜索而不是学习,提醒人们,狭隘、有章可循的方法仍然具有真正的力量,即使这个领域悄悄地重建了其统计基础,以了解接下来的情况。

AlexNet革命神经网络架构图 赢得2012年ImageNet比赛
Zhang, Aston and Lipton, Zachary C. and Li, Mu and Smola, Alexander J. · CC BY-SA 4.0 · Wikimedia Commons
2012–present

深入学习、变压器和缩放时代

Alex Krizhevsky,Ilya Sutskever和Geoffrey Hinton's AlexNet在2012年的ImageNet比赛中以巨大优势夺冠,几乎一夜之间说服了大部分球场深层学习奏效. Google研究人员的2017年变形器架构随后给了这个方法一个设计,用更多的数据进行异常的放大和计算,OpenAI的GPT-3(2020年)和ChatGPT(2022年)都表明,这个架构的缩放持续产生新的能力,而不是降低回报——在前所未有的资本支持下,发起了一场全行业范围的竞赛,以构建更大的模型.

被它取代的行当

已不存在的邻近职业——被吸收、自动化或法规抹去。

Knowledge engineer

1970s–1990s

访谈了人类专家——医生、地质学家、化学家——的专家,并手译了他们的专门知识,为MYCIN和XCON等专家系统制定了数千条当时的规则。 当专家系统证明过于简陋和昂贵,无法维持时,这项工作基本上消失了,统计机器学习用自动从数据中学习的规则取代了手写规则。

手工特写工程师

1990s–2012

在深入学习之前,计算机视觉或语音系统能否良好工作取决于研究人员手动设计正确的输入特征——像SIFT和HOG这样的边缘探测器用于图像,音频的cepstral系数——这本身就是一种专门的工艺. 直接从原始数据中学习自身特征的网络使得这一设计工作在2012年的几年内大部分被淘汰.

Lisp machine engineer

c. 1975–1988

Symbics和Lisp Machines Inc.等公司建造和出售了最优化的专用工作站,以运行Lisp编程语言AI的研究依赖于,雇用工程师来设计,销售和维护. 廉价的通用工作站到1980年代后期陷入原始性能的困扰,整个Lisp机器工业在大约两年内崩溃——这是第二个AI冬季的标志.

消失的行当 →

历史上每一次崩溃都有一个模式:一个具体的,超旧的许诺如期未实现,资助者用力退缩,少数研究者在‘人工智能'的标签积极伤害赠款申请时持续工作多年.

阅读这个简介的人现在生活在现场的第三大繁荣中,一个建立在规模上,而不是一个单一的新想法. 无论是结束前两者的做法,还是这次证明不同,都是本剖面图中其他一切下面的现场辩论。

相近职业

不限同一领域,六项评分最接近的职业。

继续探索

继续探索

工程·技术领域的其他职业