阿里巴巴电子商务推荐系统,第四代英特尔® 至强® 可扩展处理器助力提升性能

阿里巴巴采用 CPU 处理 AI 推理等工作负载。为解决其面临的 AI 推理吞吐量、时延等多方面的挑战,阿里巴巴引入第四代英特尔® 至强® 可扩展处理器实施推荐系统升级。利用该处理器搭载的英特尔® AMX 高级硬件特性,并结合英特尔® oneAPI 等软件进行优化之后,阿里巴巴核心推荐模型 AI 推理性能大幅提升,并保证了足够的精度。