米兰·(milan)中国官方网站-人类反超 AI:DeepMind 用 AI 打破矩阵乘法计算速度 50 年记录一周后,数学家再次刷新
作者 | 李梅、施周遭
编纂 | 陈彩娴
10 月 5 日,AlphaTensor 横空出生避世,DeepMind 公布其解决了数学范畴 50 年来一个悬而未决的数学算法问题,即矩阵乘法。AlphaTensor 成为首个用在为矩阵乘法等数学问题发明新奇、高效且可证实准确的算法的 AI 体系。论文《Discovering faster matrix multiplication algorithms with reinforcement learning》也登上了 Nature 封面。
然而,AlphaTensor 的记载仅连结了一周,便被人类数学家打破了。
来自奥地利林茨约翰·开普勒年夜学的研究职员 Manuel Kauers 及 Jakob Moosbauer 于其最新事情中暗示,他们已经经打破 AlphaTensor 的矩阵乘法记载。他们开发了一种以 95 步履行 5×5 矩阵乘法的要领,比 AlphaTensor 的 96 步记载少了一步,此前的记载为 98 步。论文预印版在 10 月 13 日发布于 arxiv 上。
论文地址:https://arxiv.org/abs/2210.04045论文标题中的 “FBHHRBNRSSSHK”实在就是 DeepMind 论文所有作者姓氏的首字母组合,这类定名方式也是颇有趣了:

数学问题的摸索永无止境,如作者所说,DeepMind 算法方案 “still not the end of the story”。不外,他们此次的冲破是站于伟人也就是 AI 的肩膀上,作者暗示,其解决方案是于 DeepMind 方案的基础上运用一系列的转换,从而消弭了一步乘法计较。
1进步 2 步的 AlphaTensor咱们先来扼要回首一下 AlphaTensor 的成就。
计较机科学中很多数学使命都是经由过程矩阵乘法来处置惩罚的,例如呆板进修、计较机图形的创立,各类模仿或者数据压缩。而计较机计较乘法的速率要远远慢在加法,是以,纵然矩阵乘法的效率晋升患上很小,也会孕育发生巨年夜影响,几十年来,数学家们一直于寻觅更有用的矩阵乘法算法。
1969 年,德国数学家 Volker Strassen 开发了一种算法,初次将 4×4 矩阵乘法的求解从 64 步削减到 49 步,震惊了数学界。
而 Deepmind 此次发布的 AI 体系 AlphaTensor,发明了一种比 Strassen 算法更快的新算法。Demis Hassabis 称,新算法具有于天天数万亿次计较中将效率提高 10% ~ 20% 的潜力。
AlphaTensor 是一次从游戏到数学的奔腾,它基在 2018 年 Deepmind 发布的通用棋般游戏 AI 体系 AlphaZero。为了练习 AlphaTensor,Deepmind 研究团队将矩阵乘法问题转化成一种 3D 棋般游戏,每一一步城市孕育发生新算法的构建块。AlphaTensor 每一次会于数万次挪动中举行选择,以尽可能少的步调天生新算法而得到奖励。Deepmind 将其称为“张量游戏”。
于 5×5 的输入矩阵中,AlphaTensor 自力发明了 Strassen 算法及其他已经知的算法。而且,它还有开发了比旧算法更有用的新算法。
例如,5×5 矩阵乘法(n=4)之前要计较 80 步,而 AlphaTensor 新算法只需 76 步;当n=5 时,AlphaTensor 将求解从本来的 98 步削减到 96 步。4×4 矩阵乘法由 Strassen 削减到 49 步,AlphaTensor 则将其优化到 47 步。如许的效率是由 AlphaTensor 天生的 70 多个矩阵乘法的算法实现的。


图注:AlphaTensor 发明的算法繁杂性与已经知矩阵乘法算法比力
此外,AlphaTensor 还有可开发特定硬件的算法,用在呆板进修。听说今朝运行速率比google TPU 及英伟达 V100 上的算法快 20%。
自立调解乘法算法以顺应硬件的要领对于人类来讲很坚苦,以是 AlphaTensor 对于 Strassen 算法的改良创造了 4×4 矩阵乘法的新上限,是 AI 前进为其他学科提供助力的一年夜证实。它也注解,原本为传统游戏开发的 AlphaZero 体系可以解决范畴以外的数学问题。
2人类再向前 1 步于 Manuel Kauers 及 Jakob Moosbauer 的最新研究中,他们重要有两个新发明,一是对于在 4×4 矩阵,他们提出了另外一种 47 步乘法的求解算法,但差别在先前的解决方案;二是对于在 5×5 矩阵,他们初次提出了一种需要 95 步乘法的方案。
于这篇文章中,作者简朴展示了这两个矩阵乘法的方案,不久后将发表正式论文,更具体地先容求解算法的搜刮技能。
4 × 4 矩阵的新方案共包罗 47 次乘法,以下:


5×5 矩阵(n=5)的 95 步乘法方案以下:




Manuel Kauers,林茨约翰内斯开普勒年夜学的代数传授,该年夜学代数研究所的卖力人。其研究兴致是计较机代数、符号乞降及积分、非凡函数恒等式等。
Jakob Moosbauer,林茨约翰内斯开普勒年夜学代数研究所博士生。参考链接:
1.https://the-decoder.com/deepmind-alphatensor-record-for-matrix-multiplication-held-for-a-good-week/
更多内容,点击下方存眷:扫码添加 AI 科技评论 微旌旗灯号,投稿 进群:
雷峰网(公家号:雷峰网)
雷峰网版权文章,未经授权禁止转载。详情见转载须知。





