如何看待 2021 年图灵奖授予美国计算机科学家 Jack J. Dongarra?

wolf

3 月 30 日，2021 年计算机领域的最高奖项——图灵奖公布！美国计算机科学家 Jack J. Dongarra 获奖，以表彰他在高性能计算领域的卓越成就。
根据 ACM 的介绍，Dongarra 的算法和软件推动了高性能计算的发展，对人工智能、计算机图形学等多个计算科学领域均产生了重大的影响。
他在数值算法和库方面做出了开创性的贡献，使得高性能计算软件能够跟上四十多年来的指数级硬件更新。



原文地址：https://www.zhihu.com/question/525065780

继续前进

美国中部时间，三月三十号早上起来 微信里躺着好多人恭喜的消息： Jack Dongarra 获得了今年的图灵奖。来不及一一回复，于是赶紧打开邮件确认，果然Jack 早上6：41 给大家发的邮件 标题A bit of good news：“...我今早通知获得了今年的阿兰图灵奖，感谢各位过去的帮助...”
瞬间思绪带回12年前，笔者在田纳西大学电机系 Innovative Computing Lab （ICL 创新计算实验室） 读博士的日子。在学校我们喊他Jack，而不是Professor, Dr Dongarra 之类的敬称，Jack 听起来显然更亲切。1989年Jack 离开芝加哥的阿岗国家实验室携LAPACK来到田纳西大学创立了ICL，目前仍然担任ICL的主任。 虽然Jack 还在距离一小时车程外的橡树岭国家实验室（ORNL）还担任职务， 不过据笔者观察，他大部分时间都在大学校园。特别是过去几年他腿脚不便，还特意搬到了更靠近校园的Knoxville （诺克斯维尔) downtown。Jack作息很规律, 来的非常早，有一次特别冷的早上天还黑的，见到他背着一个单肩包来开门。ICL在笔者读书的时候已经发展成若干大组：线性代数(linear algebra， 有LAPACK, MAGMA)，分布式系统(distribution system, 有OpenMPI 等)，性能分析（有PAPI等)。 ICL非常多元，除了美国人，实验室staff（职工） 有东欧，法德，中日等国。国际学生里中国人，印度人比较多，也见到过法国，日本，乌克兰来的访问学者和博后等。整个ICL占据了一个小楼除了教室外的一层 外加一个会议室。
在学校的系统里，Jack 是我们的PhD 导师(advisor).  跟北美其他学校的大实验室一样，每个学生也有一个或两个co-advisor,  通常也是所在组的领导group leader。co-advisor 中文俗称小老板 是平时可以跟学生一起坐下来商量每个技术细节的人。笔者自己的co -advisor 来自保加利亚和法国。而Jack的角色更多是听取汇报， 给出一些high level 的意见。我所在的线代 MAGMA组每周五上午组会，组会每个人会汇报最近一周的进展，只要在学校Jack 都会参加听取然后给出意见，有一次笔者presentation不好，收到了Jack委婉的批评 。
组会后的周五中午，整个ICL所有人会在会议室一起吃外卖。外卖菜单包括比萨，中餐，印度餐，BBQ，偶尔还有日本寿司。吃饭期间大家分享一下最近的见闻，外出参会，旅游，结婚生娃等。吃完饭例行的是lunch talk 讲座。讲座内容大多是学术为主，也有生活见闻。讲员有外地访问来的专家，也有ICL等人最近的工作进展。笔者大概每年也会讲一次lunch talk。Jack的座位永远是桌子右手边第一个，无论讲的话题有多么无聊，他都会认真的听完鼓掌。我印象比较深刻的一次是Jack自己的导师Cleve Moler （Mathswork 的创始人）来了，讲了数学家赌博的小故事，很有意思。
ICL的活动也比较多。学校所在的城市Knoxville 靠近风景秀丽的大烟山国家公园。每年8月份，ICL会在大烟山脚下开一个retreat （退休会），group leader会汇报过去一年该组的进展和展望下一年的计划。学生也会有几分钟的时间总结一下自己过去一年的工作。有一年 retreat 时候，笔者刚好结束加州实习，于是跟实验室另外一个人日夜兼程的开车过去的。10月份 Jack 会邀请ICL所有人和他的老友们一起去他家开篝火晚会 每个人可以带一个菜或者甜点 。 没有技术问题，没有paper, 只是party 派对和social社交 ，这个party 也是很建立connection 的好机会，也许不经意间你就遇到了人生的贵人和一个可以给你写推荐信的人。
ACM官网的获奖通告里特别提到了Jack的三项贡献，其中一项是批量计算的标准化。笔者很荣幸参与了其中之一批量计算（batch computation）的最早雏形。ACM提到的那篇文章的引用中也有笔者在14年-15年在ICL发的4篇论文。 笔者在劳伦斯利弗莫尔国家实验室 （LLNL） 实习的时候发现很多应用的计算并不需要大规模矩阵，而是使用很多小的但同样尺寸的矩阵求解。 后来笔者第一次在ICL使用了批量计算进行Cholesky, LU 和QR 分解，并且以此为题做的博士毕业论文。博士毕业后，笔者进入了工业界 并没有再深入参与这个批量计算这个课题，但是很高兴当年的一些初步研究能对后来批量计算的标准化有些许贡献。
虽然从学校离开，但是笔者还是经常趁着年度超算（SC）大会和实验室周年庆的时候见到Jack。最近10年Jack 胡须发白了不少，但是精神依然矍铄，说话铿锵有力。上一次见面是2021年11月在圣路易斯的超算大会，也是那里他公布了2022年6月30号退休的消息。当时笔者和小伙伴们还在惋惜Jack 众多的荣誉中独缺图灵。今日Jack获奖消息传来，大家虽然兴奋但并不意外。因为图灵奖一向分领域颁发，如果图灵奖要奖励高性能计算（HPC）领域，没有人比Jack更有资格。
ACM 的颁奖晚宴将在6月11号旧金山举行，西海岸的ICL校友已经确定要那个周末为Jack组织一个Party 表示庆祝。今夏的图灵奖无疑是他退休前最好的礼物。

同花顺

编辑：David 好困 拉燕
【新智元导读】2021年图灵奖揭晓！高性能计算先驱、超算Top500创始人之一Jack Dongarra获奖，独享100万美元奖金。


20世纪70年代末，一位阿拉贡国家实验室的年轻研究员参与编写了名为「Linpack」的计算机代码，这段代码也让那些被后世称为超级计算机的系统可以运行复杂的数学计算。

20世纪90年代初，还是这位研究员，和他的同事们利用「Linpack」，又创造出了一种用于衡量超级计算机能力的全新测试，也就是测试超算每秒能进行多少次计算。

这个人就是Jack Dongarra，2021年ACM图灵奖的获得者。




改变世界的计算方式

美国计算机协会（ACM）提名田纳西大学教授Jack J. Dongarra为2021年图灵奖获得者，以表彰他在数值算法和库方面的开创性贡献，他的工作让高性能计算软件在过去40多年里跟上了硬件的指数式改进。

除了一个漂亮的银碗外，该奖项还包括完全由谷歌资助的100万美元奖金，这笔钱直接归Dongarra所有。

Dongarra的算法和软件推动了高性能计算的发展，并对从人工智能到计算机图形的许多计算科学领域产生了重大影响。




图灵奖被称为 「计算机界的诺贝尔奖」，是目前全球计算机科学领域的最高奖项，奖金为100万美元，由谷歌提供支持。该奖以现代计算机之父、英国数学家阿兰·图灵命名。

Dongarra通过对线性代数操作的高效数值算法、并行计算编程机制和性能评估工具的贡献，引领了高性能计算的世界。

近四十年来，摩尔定律使硬件性能呈指数式增长。在同一时期，大多数软件性能未能跟上这些硬件的进步，但高性能数值软件却跟上了。这在很大程度上是由于Dongarra的算法、优化技术和生产质量的软件实现的。




ACM主席Gabriele Kotsis表示：

「高性能计算一直是科学发现的一个主要工具。高性能计算领域的创新早已影响了许多不同的计算领域，推动了我们整个领域的发展。Dongarra在引导这一领域的成功轨迹方面发挥了核心作用。」

Dongarra的主要贡献在于创建了开源软件库和标准，这些软件库采用线性代数作为中间语言，可供各种应用使用。

这些库已经为单处理器、并行计算机、多核节点和每个节点的多个GPU编写。Dongarra的库还引入了许多重要的创新，包括自动调谐、混合精度算术和批量计算。

Dongarra的开拓性工作可以追溯到1979年，他至今仍是HPC社区中最重要和积极参与的领导者之一。毫无疑问，他的职业生涯配得上图灵奖对于「具有持久重要性的重大贡献」的认可。




Jack Dongarra和他的算法

Jack Dongarra自1989年以来一直是田纳西大学的大学特聘教授和橡树岭国家实验室的特聘研究人员。自2007年以来，他还担任过英国曼彻斯特大学的图灵研究员。

他在芝加哥州立大学获得数学学士学位，在伊利诺伊理工大学获得计算机科学硕士学位，并在新墨西哥大学获得应用数学博士学位。

Dongarra此前就已经荣誉满身，包括IEEE计算机先锋奖，SIAM/ACM计算科学和工程奖，以及ACM/IEEE肯尼迪奖。

他是ACM、电气和电子工程师协会（IEEE）、工业和应用数学协会（SIAM）、美国科学促进会（AAAS）、国际超级计算会议（ISC）和国际工程和技术研究所（IETI）的研究员，还是美国国家工程院院士和英国皇家学会的外籍会员。

现在，Dongarra的论文引用量已经超过了11万。




过去50年里，Dongarra一直在帮助推进数值算法和软件、并行计算编程和性能基准测试，这些都是创建超大规模超级计算机所必需的。

今天，小到寻常家庭的笔记本电脑，大到全世界最快的超算上，都有Dongarra杰出贡献的影子。

在Dongarra创建的开源软件库中，包含很多深度技术创新，比如自动调谐、混合精度运算，以及批量计算。

自动调谐（Autotuning）：

Dongarra在2016年的全球超级计算大会上的ATLAS项目中，研究了一种新方法，用于自动找出能生成线性代数内核的算法参数，该线性代数内核在效率上是接近最优的。

这种算法参数一般来说比厂家提供的代码性能还要好。

混合精度运算（Mixed Precision Arithmetic）：

在Dongarra2006年递交给全球超级计算大会的论文中，他提出了要「利用32位浮点算法获得64位精度的性能」。他开创了一种办法，可以利用浮点计算的多倍精度来更快输出精确的解决方案。

这项研究慢慢地在机器学习应用中越来越基础，最近的例证就是HPL-AL Benchmark，它在全球最先进的超算上实现了前所未有的性能。

批量计算（Batch Computations）：

Dongarra开创了一种范式，用来分割开大密度矩阵的运算，在模拟、建模、数据分析等领域应用非常广泛。该范式可以将大密度矩阵的运算分成包含更小任务量的更多计算，可以各自独立地同时运算。

他参与创建的各种标准，包括MPI、LINPACK Benchmark等，为各类不同的计算任务奠定了基础，如天气预测、气候变化，再到分析大规模物理实验数据等等。

目前衡量超级计算机性能的最权威榜单Top 500，背后的评测软件算法就是Dongarra开发的。




哪怕抛开刚刚获得的图灵奖不算，Dongarra也已经算是功成名就了。而图灵奖相当于在他的非凡履历上增添了最亮丽的一笔。

参考资料：
https://amturing.acm.org/
https://www.nytimes.com/2022/03/30/technology/turing-award-jack-dongarra.html
https://www.zhihu.com/question/525065780/answer/2415726088
欢迎关注新智元了解人工智能新动态( ^_^)／

检验医师

利益相关，老爷子是我师爷。
他领导团队创建的行业标准（MPI，LINPACK等），开发的开源库及软件（BLAS、LAPACK、ScaLAPACK、PLASMA、MAGMA 和 SLATE 等库），早已在世界各地广泛使用多年，只要有计算机在的地方，都可能运行着他的软件。
从AI到医疗到基因学到其他的无数领域，他的创造都起到了不可磨灭的推动作用。
得此图灵奖，可谓是实至名归！
很开心高性能计算领域能够得到更多的关注和认可。

卡卡

每年图灵奖公布之际，都会在心里猜一猜会是谁。今年看到Jack Dongarra教授荣获图灵奖，虽然没有猜对，但第一感受仍是惊喜：
一个原因是很高兴看到高性能计算这个如此重要的领域终于轮上图灵奖了。其实我一直觉得如果不是Seymour Cray因为一场车祸于1996年意外离世，高性能计算领域早就应该出一个图灵奖了。Jack Dongarra教授今天获奖，是对整个高性能计算领域的一个迟到的图灵奖。
另一个原因是Jack Dongarra教授真可谓是中国高性能计算界的老朋友，很高兴看到他获得图灵奖。疫情前他每年都要到中国来好多趟，穿梭于中国的各个超算中心。周围有很多朋友和Dongarra教授有很深的交情，所以在他获奖后，朋友圈也有很多人晾出了和他的合影。
2021图灵奖揭晓：高性能计算先驱、超算TOP500榜单创始人之一Jack Dongarra获奖上面​这篇文章很好地总结了Dongarra教授的贡献，我觉得有一段话总结得特别好：

“近四十年来，摩尔定律使硬件性能呈指数级增长。与此同时，虽然大多数软件未能跟上这些硬件进步的步伐，但高性能数值软件却做到了——这在很大程度上归功于 Dongarra 的算法、优化技术和高质量的软件实施。”

​这篇文章还提到Dongarra教授过去的工作：

“过去的四十多年里，Dongarra 一直是 LINPACK、BLAS、LAPACK、ScaLAPACK、PLASMA、MAGMA 和 SLATE 等库的主要参与者或首席研究员。”

但这里却没有提到他的这些工作其实直接催生了一个成功的商业软件——Matlab。
​2020年6月19日我曾经在CCF YOCSEF杭州· “Matlab被禁之特别论坛”上介绍过Matlab的起源，提到新墨西哥大学Cleve Moler教授1970年代在NSF支持下带领团队开发了几个软件，一个是EISPACK，另一个是LINPACK，后来为了方便用于教学，又写了一个小工具软件Matlab把它们封装起来。
再看“Matlab为何成为卡脖子利器”的发言1979年，Jack Dongarra在新墨西哥大学获得博士学位，他的导师正是Cleve Moler教授，他的博士工作正是开发LINPACK。
用Moler教授自己的话说，LINPACK项目做得很艰难。但是，做难事必有所得！

队长是我

我觉得老爷子获奖毫无疑问是实至名归的事情。
随着现在数据量越来越大，我们也越来越要求算法的scalability（可拓展性）。
我们纯理论领域也很关注scalability。但是往往都是先假设有一台理想的电脑，然后有一些操作的成本是1，然后去数操作数就可以了。
也能搞出来很漂亮的结果，但是由于上面的这个模型过于理想化很多时候实际跑起来可能并不是最优的，甚至可能跑不起来。
如果说想要真的实用的话，那就必须要考虑算法与底层的计算环境以及硬件的交互，并且对什么运算比较影响性能有一个深刻的了解。
这就要求对算法本身以及硬件都有着很高的造诣。
看老爷子的Google scholar从上世纪80年代就开始这方面工作了，而且论文引用量都很高。
虽然并不算领域内的人，但我觉得老爷子的贡献应该是不可否认的。
最后再提一点，发现老爷子是田纳西大学的。这点可能给之后的同学提个醒。申请phd不一定非要往那些top里面挤，普通的大学里面也有大牛。