在加利福尼亚州圣何塞举办的赛灵思开发人员论坛上,我们的首席执行官 Victor Peng 和 AMD 首席技术官 Mark Papermaster 一起创造了一项吉尼斯纪录。但这次并非是什么小把戏,而是值得大书特书的记录。*
两家公司披露 AMD 和赛灵思正在共同努力实现 AMD EPYC CPU 与全新赛灵思 Alveo 加速卡系列的连接,以实现高性能实时 AI 推断处理。为了证明这一点,他们公布了一项每秒 3 万张图像的推断吞吐量的世界纪录*!
这套令人印象深刻的系统将于今天在赛灵思开发人员论坛的 Alveo 生态系统区亮相。它搭载两个 AMD EPYC 7551 服务器 CPU 和业界领先的 PCIe 连接,以及八片刚刚推出的赛灵思 Alveo U250 加速卡。推断性能由赛灵思 ML 套件提供支持,方便开发人员优化和部署加速推断,并支持 TensorFlow 等大量机器学习框架。基准测试在 GoogLeNet*,一种广泛使用的卷积神经网络上执行。