快手AI的背后：有温度的科技和前沿创新力的集合——英特尔

快手的专家表示，英特尔傲腾数据中心级持久内存在硬件层面上解决了模型训练方面的问题，提升了模型训练的速度。在快手下一步的规划当中，傲腾持久内存将在Spark等大数据相关的业务中大范围使用。

如何在承载高峰期每秒数十万并发调用量的同时，从上百亿级别的短视频库中，通过千亿参数级别的深度模型将内容展现给用户？快手设计了基于异构计算打造的先进推荐系统，力求在日益增长的用户量冲击下，并基于推荐系统高可用的基础上，实时、高效、精准地向用户推荐优质内容。

快手异构计算架构师钟辉表示，一方面CPU的性能每年以3%的速度提升，但是数据的增长率是30%，所以供需之间有一个巨大的缺口。解决这一个问题唯一途径就是硬件采用特定域的架构（Domain Specific Architecture），也就是异构计算，即CPU加上各种加速器，这些加速器可以实FPGA也可以是GPU、ASIC。

每种加速器都有自己的优势和劣势，比如GPU擅长训练，但是在实时推理方面有所欠缺。FPGA相对GPU的优势是低延迟、低功耗、高性能，因为FPGA自带网口，擅长通信。ASIC的开发周期很长，NRE（一次性工程费用）非常高。

钟辉表示，快手在数据中心部署FPGA的挑战可以归结为既要“上天”又要“入地”。“上天”是说FPGA是部署在云端，所以需要解决的首要问题是在数据中心找到合适的业务场景，提供有价值的解决方案，它需有一定的通用性和规模化；“入地”则谈的是部署，在成本上一定要有竞争力，这样业务才有动力去采购。另外在部署的可靠性、稳定性、能耗比上也要有竞争力。规模化部署，容器化也是必需的，从而解决资源的弹性部署。

基于自身业务需求，快手部署了英特尔FPGA，应用在典型的AI模型比如CNN、RNN等。目前，快手异构计算组为公司业务部门提供强大、高效的计算系统，研发包括CPU、GPU、FPGA、ASIC等器件的混合解决方案。

“从快手来说，应用FPGA进行定制化加速，主要是从自己的业务需求出发，实现降本增效。在FPGA自研、落地场景和部署规模方面讲，快手在千亿级别推荐系统上率先大规模部署了FPGA，在国际上也是处于领先地位，其成功经验受到业界瞩目。因为个性化智能推荐是目前互联网行业中发展最快、挑战最多的技术方向，有广泛的应用场景。”钟辉说。

定制化和可重构是FPGA的两大优势：定制化可以为业务提供量身定制的最合适、费效比最高的方案，而可重构则可在部署中同时加卸载多个不同种类的业务，比如网络、存储、计算等。因为数据中心业务发展迭代非常快，而FPGA是可编程的器件，这对数据中心的资产保值是非常重要的。

通过实际部署，快手的FPGA方案与CPU方案相比，延迟降低了约1.5倍，最大吞吐大概提升了1.7倍左右，功耗有接近5倍的降低，从功耗效率来说提升了近8倍。“我们已经在数据中心规模化部署FPGA用于承载商业化业务场景，这在业界是比较领先的。”钟辉说，“英特尔FPGA在数据中心上更具前沿性，相关工具链比较成熟。快手选择英特尔还有一些‘软指标’方面的考量，比如说技术交流、支持、需求响应等。”

除了英特尔FPGA，快手还引入了OpenVINO、英特尔第二代至强可扩展处理器、配合AI战略，比如说语音识别、图像分类、目标检测等方面，第二代英特尔至强可扩展处理器具备“内置人工智能加速”能力，包括的MKL-DNN（数学核心函数库）、高性能编译器和人工智能框架优化方案等，通过一系列优化和改进举措，使得快手的推荐系统使用的AI算法效率大幅提升。

最近英特尔公布了oneAPI，以解决异构环境下的统一编程问题。对此，钟辉表示，英特尔在数据中心生态上是有优势的，我们会积极关注oneAPI。“英特尔的OneAPI可以提高开发的生产力，又通过编译器优化实现质量和效率，我们当然愿意尝试。”

当前，短视频行业快速发展，数据呈指数级增长，这对于视频网站提出了更高的IT能力建设需求。英特尔以数据为中心的战略满足短视频行业对计算、存储、人工智能等技术越来越高的需求，从而助力更多应用落地，促进产业发展。未来，快手和英特尔将持续完善从硬件到软件的深度合作，驱动业务的创新发展。

（编辑：厦门网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!