当地时间 3 月 26 日,新一届 ACM 计算奖得主正式公布。

瑞士苏黎世联邦理工学院教授Torsten Hoefler因其在高性能计算领域的开创性工作及对人工智能革命的重要贡献,被授予 2024 年度 ACM 计算奖(ACM Prize in Computing)。


图丨 Torsten Hoefler(来源:ETH Zürich)

Torsten Hoefler 现任苏黎世联邦理工学院计算机科学教授,同时担任该校可扩展并行计算实验室主任。另外,Hoefler 还在瑞士国家超级计算中心担任人工智能和机器学习首席架构师。

此前,他在德国开姆尼茨工业大学获得计算机科学硕士学位,随后在美国印第安纳大学获得计算机科学博士学位。

在获得 ACM 计算奖之前,Hoefler 已获得多项国际荣誉,包括马克斯·普朗克-洪堡奖章(Max Planck-Humboldt Medal)、IEEE 计算机协会 Sidney Fernbach 奖,以及 ACM 戈登·贝尔奖(Gordon Bell Prize)。此外,他还是欧洲科学院(Academia Europaea)院士、IEEE 会士和 ACM 会士。

ACM 计算奖是计算机科学领域的重要国际奖项,专门表彰事业中期或早期的计算机科学家,其研究成果必须对计算领域产生根本性影响并具有广泛意义。该奖项由知名数字服务和咨询公司 Infosys 有限公司提供250,000 美元的奖金。

自 2007 年设立以来,ACM 计算奖已表彰了多位在计算机科学领域做出突出贡献的杰出科学家。其往届获奖者均在各自领域引领技术变革,包括谷歌的 David Silver(AlphaGo 之父)、Jeffrey Dean(分布式系统与深度学习基础设施),美国麻省理工学院的 Dina Katabi(无线网络),美国斯坦福大学的 Dan Boneh(密码学)等人,美国加利福尼亚大学伯克利分校的 Alexei A. Efros(计算机视觉)等人。

今年,Torsten Hoefler 因其在高性能计算和正在进行的人工智能革命方面的基础性贡献而获奖。ACM 官方称:“Hoefler 开发了现代超级计算机的许多核心功能,并定义了在这些计算机上分发人工智能模型的关键算法。”


图丨相关推文(来源:X)

ACM 主席 Yannis Ioannidis 对此评价道:“高性能计算机的能力已经达到令人难以置信的程度。仅在过去两年中,我们就迎来了能够每秒执行十亿亿次(10^18)计算的 E 级计算机时代。但没有能够处理海量数据的底层算法和标准,高性能计算机将无法发挥作用。值得注意的是,Hoefler 在还是学生时就引入了许多这些创新,而它们至今仍是编程大规模并行系统的最佳方式。这些系统的强大能力推动了人工智能、自然科学和许多其他领域的重大进步。”

Infosys 的 CEO Salil Parekh 也表示:“我们正处于人工智能发展的激动人心时期,未来充满希望。Torsten Hoefler 在推动高性能计算发展方面发挥了重要作用,这反过来又推动了当前人工智能革命的发展。ACM 计算奖旨在表彰那些工作具有深度和影响力的‘早期至中期职业专业人士’。Hoefler 在 20 多岁时就完成了许多重要工作,这向年轻人证明,年龄不是计算领域取得成就的障碍。”Hoefler 将于 2025 年 6 月 14 日在美国旧金山的 Palace Hotel 举行的 ACM 年度颁奖晚宴上正式接受这一奖项。

Hoefler 开发了现代超级计算机的许多核心功能,并定义了在超级计算机上分布式处理人工智能模型算法的关键方面。在消息传递接口(Message Passing Interface,MPI)标准的发展中,Hoefler 扮演了重要角色。MPI 是一个非正式的行业标准,用于在高性能计算网络中的众多单独节点之间交换消息。消息传递标准允许同步每台单独计算机的活动,在节点之间共享数据,以及对整个并行网络进行方向控制。2012 年采用的 MPI-3 标准,由 Hoefler 主导了“进程拓扑”和“集体操作”工作组。他开发的非阻塞集体操作(如 Allreduce、Allgather、Bcast 及其各自的阻塞版本)被包含在各种集体通信库中,甚至超出了 MPI-3 的范围。这些操作现在为分布式深度学习的核心提供了动力。

同时,Hoefler 是最早开发和发现现在广为人知的“3D 并行性”(3D parallelism)概念的研究者之一,该概念现在驱动着整个人工智能行业的基础设施设计。随后,他和他的合作者继续开发了许多用于高效流水线处理、稀疏通信、模型稀疏性和量化的创新技术。这项工作使现代计算机中的人工智能工作负载累计加速了 10-1000 倍。

此外,Hoefler 及其同事为 Myrinet 和 InfiniBand 等网络开发的低级网络路由协议和网络拓扑,还为数千个人工智能和高性能计算超级计算机提供动力。这些贡献构成了现代高性能人工智能系统的核心部分,这些系统用于训练像 ChatGPT 这样的大语言模型。

参考资料:

1.https://awards.acm.org/about/2024-acm-prize

运营/排版:何晨龙

ad1 webp
ad2 webp
ad1 webp
ad2 webp