DH3G游戏资讯网

TensorFlow 技术主管皮特・沃登离职,重返斯坦福读博:我在谷歌“太难了”!

发表于:2024-12-22 作者:创始人
编辑最后更新 2024年12月22日,又一技术大咖离开业界,前往高校攻关科研!据 Pete Warden(皮特沃登)本人推特消息,他将离开谷歌公司,重返斯坦福大学攻读计算机博士学位。皮特沃登是谷歌公司 Tensorflow 面向移动和嵌入

又一技术大咖离开业界,前往高校攻关科研!

据 Pete Warden(皮特沃登)本人推特消息,他将离开谷歌公司,重返斯坦福大学攻读计算机博士学位

皮特沃登是谷歌公司 Tensorflow 面向移动和嵌入式设备部分的技术主管,也是 Tensorflow 团队的创始成员之一。著有《TinyML》一书,希望让机器学习不再囿于云端超级计算机,而是可以被隐藏于众多小到可以被忽视的电子零件中。

至于离开谷歌的原因,皮特沃登说:在谷歌推出新的硬件设备"太难了",因为一旦失败会对大公司声誉造成非常大的影响。

it's very costly and time-consuming to launch new hardware devices at Google, because the downsides of a failed or buggy launch to any large company's reputation are so high.

据悉,皮特沃登已经离开校园二十年了,此次重返校园虽然有些冒险,但对"自己能够构建一些东西"有帮助。

皮特沃登还在个人博客写了一篇文章,表达了离开谷歌的前因后果:

我在谷歌工作了 7 年,这段时间里,很幸运也很自豪能够和一些了不起的人一起研究 TensorFlow 等项目。在过去几年里,我一直在说"你可以用 TensorFlow Lite Micro 实现所有美好的 TinyML 项目",现在我自己终于也可以随心所欲的尝试构建自己的东西了。

在谷歌我也尝试过,但在谷歌推出新的硬件设备是非常昂贵和耗时的,因为一旦失败会对其声誉造成非常大的影响。因此,时隔二十多年,我决定重返校园,去斯坦福大学攻读计算机科学博士学位。

过去几年,我在斯坦福大学教授 EE292D 课程,在这过程中,我从学生对新技术渴望的热情中收获了很多,而且也从 Zain Asgar、Sachin Katti、 Boris Murmann 等教师身上学到了很多。现在我很高兴能够有更多的时间从校园中度过。

TensorFlow Lite Micro 在 Advait Jain 和团队其他成员的带领下非常出色,使用量和人数在过去几年持续增长,所以我对它的未来非常乐观。过段时间,我会公布更多细节,但我现在能够使用将框架部署到"我从项目一开始就梦想的设备"上了。

离开谷歌,重返校园是一次有趣的新冒险,感谢支持我走到这一步的所有人。

皮特沃登和他的 TinyML 梦想

正如前面提到,皮特沃登是人工智能领域的专家。2003 年他创建了一组包含 45 个图像的处理过滤器(processing filters ),这些过滤器能够在 2003 年的笔记本电脑上以 30 fps 的速度检测视频内容中的特征。当时苹果购买了该技术并聘请他将其集成到苹果的成像相关产品中。

2011 年,皮特沃登联合创办 Jetpac,担任 CTO。当时他开发了一款独特的产品,能够分析了 Instagram 上超过 1.4 亿张照片的像素数据,并将其转化为全球 5,000 多个城市的深度指南。2014 年,谷歌收购该公司。

加入谷歌之后,皮特沃登专注于在成本和功率受限的系统中部署机器学习。在谷歌,Pete 领导开发用于移动和嵌入式应用程序的 TensorFlow Lite 机器学习框架。

这种在一些"不起眼的硬件"中构建机器学习被行业称为 TinyML(Tiny Machine Learning)。TinyML 的目标是以尽可能低的功耗执行 ML 推理。具体而言,正如皮特沃登在其著作提到的那样:TinyML 的目标是在低于 1 mW 的功耗下运行。1 mW 是标准纽扣电池运行功率。

▲ TML 示意图

因此,TinyML 是机器学习和嵌入式 IoT 设备的交叉领域,是一门新兴的工程学科,具有革新许多行业的潜力。显然,TinyML 的主要受益者,是边缘计算和节能计算领域。

2019 年 3 月,TensorFlow Lite 嵌入式平台发布了第一个实验原型。这是由 SparkFun 构建的开发板的原型,它有一个 Cortex M4 处理器,具有 384KB 的 RAM 和 1MB 的闪存存储。该处理器功率极低,在许多情况下功耗不到 1 毫瓦,因此它可以仅凭小型纽扣电池运行很多天。

目前,TinyML 还处在发展阶段,正如皮特沃登在一次演讲中所提到:

未来的世界有更多的可能性,现在人工智能对于我们,就像八十年代的电脑一样。我们不知道它会发展成什么样子,但是我们可以想象一下我们目前面对的各种问题和挑战,在工作中面临的困难。如何用小小的芯片进行机器学习?这方面我们可以有新的角度去探索,也有新的研究成果去发挥作用。

反映了怎样的趋势?

皮特沃登在业界已经探索了二十年了,今日他选择离开企业,选择重返校园,无疑是对当前 AI 研究人员纷纷重返学界这一趋势的印证。

这一趋势最早从吴恩达开始,随后李飞飞、张潼、张亚勤、贾佳亚等科学家也不断重返学校。

而在几年前,对应的正是 AI 基础研究者纷纷离开学术界,加盟工业界:代表性的标志事件是在 2011 年的 NIPS 大会上,Hinton 接受了 Google 的邀请,正式加盟 Google;此后 Facebook、Amazon、Uber 以及国内百度、阿里、腾讯、滴滴等巨头也纷纷跟进,而另一方面,产业界所能提供的海量数据以及资源投入对于 AI 研究者也具有莫大的吸引力,长期从事理论研究的他们也需要一个平台验证他们的想法,这也正是当时 AI 人才从学术界流向产业界的原因。

现在这些 AI 大牛从产业界重返学术界,有人将其视为 AI 科学家的"水土不服",并进而得出"AI 热度正在放缓"的结论。但从另一个角度上,我们也可以看到这些科学家们在产业界检验了自己之前的研究之后,带着新的问题回到学术界开展新的研究。

例如,原腾讯 AI Lab 主任张潼在被问及为什么回归学术界时,他回答:"我最关心的是 10 年以后,AI 能够在技术理论等方面实现重大的突破,并且自己能够在整个学术研究上有更多的贡献。"而对于加入创新工场,张潼则表示:"我在进行学术研究的同时,也希望这些学识成果能够跟产业相结合。"另一位 AI 大牛贾佳亚,在离开腾讯优图之后并未远离产业界,而是成立了一家创业公司思谋科技,以另一种方式做到连接学术与产业。

拿 AI 届的黄埔"微软亚洲研究院"来说吧,他几任历任院长中,李开复创办了创新工场,以孵化器模式推动中国本土的科技与 AI 公司的发展;张亚勤牵头筹建"清华大学智能产业研究院(AIR)",回归学术界并得到了马维英的襄助,"出走半生归来仍是少年";沈向洋在担任清华大学兼职教授的同时,也还投资并担任 News Break 董事长;而进入投资界的张宏江,更是在以资本投票的方式践行着对 AI 的认知。这些顶尖人才的流动,无论是从学术界到产业界,还是从产业界到学术界,最终都是 AI 的进步。

2022-05-06 00:29:02
0