8月8日（美国时间），英特尔正式发布OpenVINO 2026.3，对其开源AI推理工具包进行了重大版本更新。新版本带来更广泛的模型支持、全新生成式AI流水线、革命性的内存效率提升以及更强的硬件兼容性，进一步巩固了OpenVINO在AI推理部署领域的重要地位。开发者可从英特尔官网免费下载使用。此次更新延续了英特尔在AI推理基础设施上的长期投入，为边缘计算与云端部署提供了统一的解决方案。
OpenVINO 2026.3的核心亮点在于对生成式AI工作流的全面增强。新版本新增了对SmolLM3-3B、LFM2-1.2B和LFM2.5-1.2B三款轻量级语言模型的支持，覆盖CPU、GPU和NPU全平台。同时，Harrier OSS-v1-0.6B、搭配EAGLE-3的Qwen3-8B、MiniCPM5-1B和FLUX.2-klein-4B等热门模型也已在CPU和GPU上可用。OpenVINO GenAI更将EAGLE-3推测解码流水线的支持扩展至大语言模型和视觉语言模型，新增Top-K采样功能，并在持续批处理基础上全面提升了三大硬件平台的Token生成速度。
一、内存革命：300亿参数MoE仅需16GB内存
OpenVINO 2026.3最具突破性的创新是引入了混合专家模型磁盘卸载功能。以Qwen3-30B-A3B为例，这一300亿参数的MoE模型此前对内存要求极高，借助磁盘卸载机制，现可在仅有16GB内存的系统上正常运行，大幅降低了高端AI模型的硬件门槛。Linux平台还新增了懒加载权重支持，通过避免不必要的模型数据复制来降低峰值内存占用。此外，神经网络压缩框架新增了针对ONNX模型的FP8量化功能，进一步压缩模型体积。
二、硬件扩展：至强6+与统一API接口
本次更新引入了对英特尔至强6+处理器的官方支持，使OpenVINO在数据中心场景的覆盖更加完善。OpenVINO模型服务器新增统一REST端点和标准v1/chat/completions端点，提供与OpenAI API兼容的接口规范，大幅降低了从其他推理框架迁移至OpenVINO的成本，并针对大语言模型服务的稳定性、工具调用解析器支持进行了专项优化，更好地支撑Agent工作流场景。
三、开发体验：从安装到部署的完整加速
开发者可通过pip一键安装OpenVINO 2026.3：pip install openvino==2026.3，配合Hugging Face Optimum-Intel工具可快速完成模型转换与部署。新版本正式兼容Hugging Face Transformers 5.5，三条全新GenAI流水线分别针对多模态Omni任务、自动语音识别和多模态嵌入生成场景进行了专门优化。对于想在个人AI PC上本地运行大语言模型的开发者，OpenVINO可充分调度CPU+NPU+GPU联合算力，无需联网即可完成文档处理、代码生成等高强度AI任务。
整体来看，OpenVINO 2026.3在模型支持广度、内存效率与硬件兼容性三个维度同步提升，为开发者提供了从个人AI PC到数据中心的完整推理部署路径。
