我看见的世界——人工智能领域的好奇、探索与发现
李飞飞 · 2024
这几年也算是通过公开课自学了点 Machine Learning 的三脚猫功夫,也因此知道了李飞飞的大名,与其挂钩的其一是著名的让世人开始见识到神经网络巨大潜力的 ImageNet 图片数据集,其二则是 Stanford 大学的顶级公开课 CS231n: Deep Learning for Computer Vision(虽然一直躺在收藏夹里也没正经看完过哪怕一个 Lecture)。半个月前在公共图书馆转悠时看到了这部自出版后就一直有所耳闻的李飞飞自传,顺手就借回来了。说来也巧,上周 AMD 82 亿美刀收购李飞飞的初创公司 World Labs 的新闻满天飞,也就趁着刚读完的新鲜劲来写点记录和随想。
读此书之前,不知何故我一直默认李飞飞是自小在美国长大的二代移民,万万没想到她的早年生活如此波折——出于对时局的考虑,父母于90年代选择举家移民美国,曾经拥有的一切物质条件全都从零开始,在李飞飞成名之前,她们全家可谓都是在斩杀线边缘艰难地维持生计,甚至直到李飞飞读研究生时期,她依然需要去餐厅打工、给自家的洗衣店搭手。她也有过短暂的迷茫,但靠着自身的好奇心的趋势,始终坚定地追逐着那颗引领她成为一名科学家的北极星。生活中从未经历过太多波折的我,恐怕除了报以十分的敬意,也很难深切体会她经历的重重困难,只能感概她这一路真的是太不容易了。
书中有很大的篇幅写到了李飞飞的成名作 ImageNet,一个精细标注的涵盖2万多类别、上千万图片的数据集。早在2006年,李飞飞就超前地认识到数据对于训练人工智能系统的重要性,在主流学术界不看好的背景下,只能得到非常有限的圈内支持的情况。后来大家熟知的将 ImageNet 开源并举办 ImageNet 竞赛,几乎就是当时四处碰壁的李飞飞团队想要抓住的最后一根稻草。她的坚持耕耘终于等到了2012年,AlexNet 在第三年的 ImageNet 竞赛中大放光彩,她的工作才终于开始受到重算法而轻数据的同行们的重视。
同样一跃来到聚光灯下的还有被冷落多年的神经网络(Neural Networks)算法。曾经 Geoffrey Hinton 在80年代就提出的反向传播算法建立起了训练神经网络的理论基础,在90年代 Yann LeCun 基于卷积神经网络(Convolutional Neural Network)组建起的 LeNet,在识别手写数字的工作上也证实了神经网络的应用价值,但是苦于硬件和数据的限制,神经网络的真正潜力并没有被完全释放。伴随着 ImageNet 这样真正的大规模数据集横空出世,同样基于卷积神经网络的 AlexNet 以碾压之态向世人证明了神经网络在拥有了足够丰富的训练样本后可以迸发出的惊人潜力。在此之后的故事就变得更为人熟知了,ImageNet 和基于神经网络的人工智能系统架构可谓互相成就,深度学习一夜之间成为了大家竞相追逐的热点。开发 AlexNet 的三人团队中,Alex Krizhevsky 不久后转行去做了 AI 风险投资公司的合伙人;Ilya Sutskever 联合创立了 OpenAI,推动了系列 GPT 模型的研发;这俩人当时的导师 Geoffrey Hinton,后来集齐了包括 Turing 奖和 Nobel 物理学奖等诸多重要奖章,是公认的 AI 领域的旗帜性人物。李飞飞也因她在计算机视觉和深度学习作出的重要工作,如今被誉为 AI 教母(尽管她本人多次表示并不喜欢这个称呼)。当时这些计算机视觉的早期研究工作也为现今的人脸识别、自动驾驶技术奠定了基础。
书中打动人心的,既有她对父母的描写,也有对她初到美国迷茫之际给以极大帮助的 Mr. Sabella 一家的回忆。正是身后有这样的坚实后盾,李飞飞才能够坚定地追逐梦想。这些幕后真情实感的故事,一定程度也塑造了李飞飞的世界观,也加深了她要用技术保护珍贵人性的想法。 李飞飞过去的十多年时间内做了不少 AI 应用于提升人类福祉的研究工作,包括应用计算机视觉的技术辅助医务工作者的工作、保证患者处于有效的监控,也包括创办 AI4All 的非营利组织,帮助年轻人和边缘群体有更多接触到 AI 教育的机会,以及创立 Stanford Human-Centered Artificial Intelligence 研究所,即倡导以人为本的 Stanford HAI。书中也写了不少她针对 AI 伦理、AI 霸权这样的潜在问题的思考,并在大型公开场合呼跨跨学科的参与,呼吁政策法规的跟进,从而更好地利用 AI 技术为人类服务。
出于好奇,我也了解了下这次被 AMD 重金收购的 World Lab 的工作。有兴趣的读者可以自己去 World Lab 的网站(https://www.worldlabs.ai/blog/atlas)去获取一手的咨询,网站上有很多非常酷的展示。不同于基于文本的大语言模型(Large Language Model),World Lab 想要研发的是基于视觉的空间智能(Spatial Intelligence):展示寥寥几张图片,系统能够重构三维世界的场景,并从任意视角去模拟运动变化,这显然是比大语言模型通用性更广的一种愿景。
大语言模型仅仅从文字的统计规律中就反向学到了常识、因果、技术原理还有各种错综复杂的关系,而这些从文字世界中还原出来的信息只是丰富的自然世界的一个子集而已。由此我们可以畅想,智能算法又能从没有经过压缩过滤的关于这个世界的海量图像中学到多少东西!回想 ChatGPT 也不过是在2022年底才正式上线,而随手写下这些读后感的2026年,AI Agents——这些在大语言模型基础上被赋予了调用 API、编写并运行代码、读写文件等能力的智能体——也不过是在最近一年内普及开来,我自己工作圈子内比较相关的比如各种互动教学演示、智能题库、复习助手、信息管理工具层出不穷,以前被专业软件使用门槛挡在门外的外行们,借助 AI 就可以直接把对任务需求的描述转换为实打实可落地的应用,在提升生产力方面肉眼可见无数新的可能。如果接下来几年的时间内,World Lab 尝试突破的可交互的三维世界的生成能力真的迎来 ChatGPT 当年这样的突破,那么空间智能可以变革影视特效和游戏开发流程、可以为智能机器人提供完美虚拟训练场的愿景也是值得期待的。
将时间拉回到2012年,当时的 AlexNet 不过是在 Alex Krizhevsky 自家台式机的两块 3GB 显存的 NVIDIA GeForce GTX 580 游戏显卡上跑起来的,而现在的 OpenAI、Claude、Google 们推出的最新模型的训练早已突破成千上万张高性能显卡的规模。在过去十年多的 AI 浪潮中,NVIDIA 凭借2006年推出的可以让 GPU 被通用程序调用的 CUDA(Compute Unified Device Architecture)提前布局,快速发展起来的 PyTorch / TensorFlow 这些主流深度学习框架可以丝滑地跑在 NVIDIA 显卡上,NVIDIA 凭借其芯片性能和软件栈的优势抢占了无可替代的生态位,在迎来大模型爆发性增长的十年间接住了这波海量算力的需求,垄断了 AI 基础设施的同时也迅速成长为全球市值第一的公司。那如果空间智能真的成为了下一轮的风口,谁又能清楚地预判计算平台的新需求会出现在哪里?AMD 吃下 World Labs 也是赌一把孵化下一代技术过程中能够更早地看到瓶颈,抢先设计可以满足新算力需求的芯片和系统,把握未来计算的脉搏。我现在经常感到现在的技术发展快得不可思议,World Lab 和 AMD 的发展究竟如何,我等凡人也就拭目以待吧。