请选择 进入手机版 | 继续访问电脑版

英特尔AI平台在微软Phi-3 AI模型发布当天即实现优化支持

来自版块: 服务器
58
0

近日,英特尔针对微软的多个Phi-3家族的开放模型,验证并优化了其跨客户端、边缘和数据中心的AI产品组合。Phi-3家族的小型开放模型可在低算力的硬件上运行,且更容易微调以满足特定的用户要求,使开发者能够轻松构建 ...

近日,英特尔针对微软的多个Phi-3家族的开放模型,验证并优化了其跨客户端、边缘和数据中心的AI产品组合。Phi-3家族的小型开放模型可在低算力的硬件上运行,且更容易微调以满足特定的用户要求,使开发者能够轻松构建在本地运行的应用。支持该模型的产品组合包括面向数据中心应用的英特尔至强处理器、英特尔Gaudi AI加速器,以及面向客户端的英特尔酷睿Ultra处理器和英特尔锐炫显卡。

英特尔酷睿Ultra处理器支持Phi-3家族开放模型

“我们为客户和开发者提供强大的AI解决方案,这些解决方案采用了业界最新的AI模型与软件。英特尔与微软等AI软件生态系统领军企业的深入合作,是推动AI无处不在的关键。此次,我们非常高兴能与微软携手,使涵盖数据中心、边缘以及客户端的一系列英特尔硬件产品为多种新的Phi-3模型提供支持。”

——Pallavi Mahajan,英特尔公司副总裁兼数据中心与人工智能软件总经理

重要意义:为了推动AI无处不在,英特尔通过与AI领导者和创新者合作,持续深耕AI软件生态系统。

英特尔与微软合作,其产品组合在发布当天即为Phi-3模型提供支持,其中包含英特尔中央处理器(CPU)、图形处理单元(GPU)和英特尔Gaudi加速器。此外,英特尔与微软在DeepSpeed中共同设计了一款易用的深度学习优化软件套件——加速器抽象层,并拓展了Hugging Face上Phi-3和其他模型的自动张量并行支持。

Phi-3模型的大小非常适用于设备端推理,并让在AI PC和边缘设备上进行微调或定制等轻量级模型开发成为可能。同时,英特尔客户端硬件通过全面的软件框架和工具实现加速,其中包括PyTorch和用于本地研发的英特尔PyTorch扩展包,以及用于模型开发和推理的OpenVINO工具包。

未来,英特尔将持续满足企业用户的生成式AI需求,并将继续支持和优化针对Phi-3及其他行业领先语言模型的软件。


鲜花

握手

雷人

路过

鸡蛋
来自: 中关村在线
2024-5-30 15:57

热文

  • 3 天
  • 7天
返回顶部