成就GPU遗址的AlexNet，开源了

发布日期：2025-03-23 17:40    点击次数：168

（原标题：成就GPU遗址的AlexNet，开源了）

如若您但愿不错频繁碰头，接待标星保藏哦~

着手：骨子来自spectrum，谢谢。

AlexNet 于 2012 岁首度发布，激发了东谈主工智能和磋议机视觉规模的一场转变。

杰弗里·辛顿（Geoffrey Hinton）上图 和他的研究生亚历克斯·克里热夫斯基（Alex Krizhevsky）和伊利亚·苏茨克弗（Ilya Sutskever）于 2012 年发布了具有创始性的 AlexNet，一种用于图像识别的神经鸠合。

磋议机历史博物馆与Google和洽，发布了AlexNet 的源代码。AlexNet 是一个神经鸠合，于 2012 年开启了现在流行的 AI 关节。该源代码可在CHM 的 GitHub 页面上以开源相貌获取。

什么是 AlexNet？

AlexNet 是一个东谈主工神经鸠合，用于识别像片骨子。它由那时的多伦多大学研究生Alex Krizhevsky和Ilya Sutskever以及他们的导师Geoffrey Hinton于 2012 年树立。

深度学习的发祥

辛顿被以为是深度学习 之父之一，深度学习是一种使用神经鸠合的东谈主工智能，亦然现在主流东谈主工智能的基础。20 世纪 50 年代末，康奈尔大学研究员弗兰克·罗森布拉特初度构建了简略的三层神经鸠合，其中惟有一层自妥贴权重，但自后发现它们存在局限性。此解释器箝制先容了神经鸠合的职责旨趣。 非常是，研究东谈主员需要具有多层自妥贴权重的鸠合，但莫得很好的关节来测验它们。到 20 世纪 70 年代初，神经鸠合已被东谈主工智能研究东谈主员平淡隔断。

弗兰克·罗森布拉特（左，与查尔斯·怀特曼合影）于 1957 年树立了第一个东谈主工神经鸠合，即感知器。

20 世纪 80 年代，加州大学圣地亚哥分校的融会科学家在东谈主工智能社区之外以“聚拢倡导”为新称呼报酬了神经鸠合研究。1978 年，Hinton 在爱丁堡大学得回博士学位后，成为加州大学圣地亚哥分校的博士后研究员，在那边他与David Rumelhart和Ronald Williams和洽。三东谈主从头发现了用于测验神经鸠合的反向传播算法，并于 1986 年发表了两篇论文，证据该算法不错使神经鸠合学习多层特征，以完成言语和视觉任务。反向传播是现在深度学习的基础，它使用鸠合现时输出和期许输出之间的各异来调节每一层的权重，从输出层向后调节到输入层。

1987 年，Hinton 加入多伦多大学。隔离传统东谈主工智能中心，Hinton 过火研究生的职责使多伦多成为异日几十年深度学习研究中心。Hinton 的一位博士后学生是Yann LeCun ，他现在是Meta的首席科学家。在多伦多职责时刻，LeCun 展示了当反向传播用于“卷积”神经鸠合时，股票配资世界它们在识别手写数字方面变得相称出色。

ImageNet 和GPU

尽管取得了这些越过，但神经鸠合无法永恒优于其他类型的机器学习 算法。它们需要东谈主工智能之外的两项发展来铺平谈路。第一是大批测验数据的出现，这些数据可通过鸠合得回。第二是实足的磋议智商来实行这种测验，即 3D图形芯片（称为 GPU）。到 2012 年，AlexNet 的时机也曾熟识。

李飞飞的 ImageNet 图像数据集于 2009 年完成，是测验 AlexNet 的环节。图中，李飞飞 右 在磋议机历史博物馆与 Tom Kalil 交谈。

测验 AlexNet 所需的数据来自ImageNet，该神情由斯坦福大学证据李飞飞发起并指点。从 2006 年开动，李飞飞一反传统不雅点，设念念了一个涵盖英语中所有这个词名词的图像数据集。她和她的研究生开动采集在互联网上找到的图像，并使用WordNet提供的分类法对它们进行分类，WordNet 是一个单词过火互相干连的数据库。鉴于任务的奋勉性，李飞飞和她的和洽者最终使用亚马逊的 Mechanical Turk 平台将标识图像的任务众包给了零工。

ImageNet 于 2009 年完成，比之前的任何图像数据集齐大几个数目级。李飞飞但愿它的出现能带来新的冲破，并于 2010 年发起了一场竞赛，华泰配资饱读吹研究团队改良他们的图像识别算法。但在接下来的两年里，最佳的系统只取得了眇小的越过。

神经鸠合收效的第二个必要条款是经济地获取大批磋议。神经鸠合测验触及大批肖似的矩阵乘法，最佳是并行完成，而 GPU 便是为此而野心的。由首席实行官黄仁勋 (Jensen Huang )共同创立的NVIDIA在 21 世纪率先使 GPU 更具通用性和可编程性，可用于 3D 图形除外的期骗，尤其是在 2007 年发布的CUDA 编程系统。

ImageNet 和CUDA就像神经鸠合相同，齐是超越小众的树立后果，它们正在恭候相宜的环境来大放异彩。2012 年，AlexNet 初度将这些元素（深度神经鸠合、大数据集和 GPU）消释在沿路，并取得了创始性的后果。这三个元素互相依存。

AlexNet 是奈何创建的

到 2000 年代后期，Hinton 在多伦多大学的研究生开动使用 GPU 来测验神经鸠合，用于图像和语音识别。他们的第一个收效来自语音识别，但在图像识别方面的收效标明深度学习可能是 AI 的通用惩办决议。别称学生 Ilya Sutskever 以为，神经鸠合的性能将跟着可用数据量的增多而扩张，而 ImageNet 的出现提供了这个契机。

2011 年，Sutskever 劝服了研究生同学 Alex Krizhevsky（Alex Krizhevsky 对充分发挥 GPU 的性能有着利害的智商）为 ImageNet 测验卷积神经鸠合，Hinton 则担任首席研究员。

AlexNet 使用NVIDIA GPU 运行在 ImageNet 数据集上测验的 CUDA 代码。NVIDIA 首席实行官黄仁勋因其对磋议机图形芯片和 AI 的孝敬而被评为 2024 年 CHM 研究员。

Krizhevsky 也曾使用 NVIDIA GPU 编写了卷积神经鸠合的 CUDA 代码，称为cuda-convnet ，在小得多的CIFAR-10 图像数据集上进行测验。他扩张了 cuda-convnet，使其解救多个 GPU 和其他功能，并在 ImageNet 上对其进行了从头测验。测验是在 Krizhevsky 父母家中卧室的一台装有两张 NVIDIA 卡的磋议机上进行的。在接下来的一年里，他不休调节鸠合的参数并从头测验，直到它的性能优于竞争敌手。该鸠合最终以 Krizhevsky 的名字定名为 AlexNet。Geoff Hinton这么转头 AlexNet 神情：“Ilya 以为咱们应该作念这件事，Alex 让它收效了，我得回了诺贝尔奖。”

Krizhevsky、Sutskever 和 Hinton 撰写了一篇对于 AlexNet 的论文，该论文于 2012 年秋季发表，并于 10 月由 Krizhevsky 看庞大利佛罗伦萨举行的磋议机视觉会议上进行了展示。资深磋议机视觉研究东谈主员并不屈气，但参预会议的 LeCun 晓喻这是东谈主工智能的编削点。他是对的。在 AlexNet 之前，险些莫得一篇起初的磋议机视觉论文使用神经鸠合。在它之后，险些所有这个词论文齐会使用神经鸠合。

AlexNet 仅仅一个开动。在接下来的十年里，神经鸠合将不休越过，不错合成着实的东谈主类声息、打败围棋冠军选手并生成艺术作品，最终由Sutskever 共同创办的公司 OpenAI于 2022 年 11 月发布了ChatGPT 。

发布 AlexNet 源代码

2020 年，我辩论了 Krizhevsky，商议是否不错允许 CHM 发布 AlexNet 源代码，因为它具有历史趣味趣味。他把我先容给了那时在谷歌职责的 Hinton。谷歌收购了 Hinton、Sutskever 和 Krizhevsky 共同领有的公司 DNNresearch，从而领有了 AlexNet。Hinton 通过将 CHM 与谷歌的相宜团队辩论起来，鼓吹了事情的发展。CHM 与谷歌团队和洽了五年，就发布事宜进行了谈判。该团队还匡助咱们细则了要发布的 AlexNet 源代码的具体版块——多年来，AlexNet 有过很多版块。GitHub 上还有其他名为 AlexNet 的代码存储库，但其中很多齐是基于知名论文而不是原始代码的从头创作。

CHM 很庆幸梗概展示 2012 年版 AlexNet 的源代码，该版块透顶改变了东谈主工智能规模。您不错在CHM 的 GitHub 页面上打听源代码。

https://spectrum.ieee.org/alexnet-source-code

半导体杰作公众号保举

专注半导体规模更多原创骨子

怜惜群众半导体产业动向与趋势

*免责声明：本文由作家原创。著述骨子系作家个东谈主不雅点，半导体行业不雅察转载仅为了传达一种不同的不雅点，不代表半导体行业不雅察对该不雅点赞同或解救，如若有任何异议，接待辩论半导体行业不雅察。

今天是《半导体行业不雅察》为您共享的第4071期骨子，接待怜惜。

『半导体第一垂直媒体』

及时 专科 原创 深度

公众号ID：icbank

可爱咱们的骨子就点“在看”共享给小伙伴哦

• 意志
• 成就
• AlexNet
• 开源
• GPU