如何在本地运行大语言模型，打造属于自己的AI PC？-ZOL问答

大模型的兴起让生成式AI深刻影响了学习、工作和生活，甚至引发了AI是否取代部分职业的热议。不可否认，AI显著减轻了繁重任务负担，堪称社会生产力的又一次飞跃。然而，大模型对算力的极高需求也给硬件带来了巨大挑战。如果想在个人电脑上运行AIGC应用，专为AI优化的英特尔酷睿Ultra处理器无疑成为理想选择，它能够提供强大的性能支持，助力高效处理各类AI任务。
大语言模型自ChatGPT问世以来已不再新奇，其各类应用为工作、学习和生活带来诸多便利。比如，在使用某在线文档撰写文章时，AI能及时标注错别字，甚至提供正确的修改建议，让写作更加高效准确。

对于非涉密且非学术性的内容，我完全可以放心地在云端进行编辑，即使发生数据泄露，影响也不大。然而，在撰写论文或开展科研工作时，相比云端，本地编辑更为可靠，因为论文中可能包含许多敏感信息和创新点。此外，在自然语言处理、视频图片创作以及数据分析等领域，像AIGC助手、剪映、璇米这样的本地大模型应用展现出了卓越的能力。那么，我是否可以将大语言模型部署到本地运行，把自己的电脑变成一台AI驱动的个人电脑？这确实是一个值得探索的方向。

职场人士可用AI PC中的大语言模型记录会议内容，还能总结重点，提升效率。同样适用于大学生课堂学习记录，大幅节省时间，助力高效学习与工作。
从这些场景可见，AI PC的主要价值体现在个性化服务、快速响应以及保障个人数据安全与隐私方面。

AI PC堪称个人电脑行业的一场革新。借助大模型，人机交互变得更加人性化。依托NLP技术，用户可通过语音或文字与电脑交流，并获得自然语言形式的回应。这种方式取代了复杂的指令代码，更符合人类本能。相比传统命令式交互，自然语言交互显著减少了用户对特定界面和命令的记忆负担，使电脑更能理解用户需求，大幅提升了使用体验的便捷性与智能性。
AI PC不仅是生产力工具和内容消费载体，更从工具升级为助理，成为个人的第二大脑。
虽然AI PC优势多多，但如何挑选一款出色的AI PC？这确实值得我们深入探讨一番。
AI赋能的PC中，通用任务由CPU集中处理，特定场景则交由端侧设备执行，从而提升能效与精度。由此可见，处理器是影响AI PC性能表现的核心关键所在。
大模型时代，生成式AI需即时响应与长时间运行。如同大模型需高并发算力，AIGC在算力设施上也面临两大挑战，亟待解决以支持高效运转和发展需求。
一方面，终端功耗与散热限制使通用CPU和GPU难以支撑AIGC计算需求；另一方面，AIGC应用多样化，无法完全依赖单一硬件部署实现。
因此，NPU与异构计算成为提升PC运行AIGC能力的关键所在。

主流FPGA芯片的制程节点多处于14nm到45nm之间，尽管其灵活性和可编程性具备一定优势，但由于制程相对较大，因此并不太适用于对尺寸和功耗要求严格的微型PC和手机等设备。相比之下，NPU的制程节点通常小于10nm，更适合小型终端设备使用。同时，NPU借助OpenCL、CUDA、OpenVX等标准化接口，可以轻松与主流AI框架实现交互，从而更便捷地融入各类软件生态系统，为开发提供高效支持。这种特性使得NPU在移动设备及边缘计算领域展现出更强的适应性。
算力是AI PC实现的基础，而终端异构混合（CPU+NPU+GPU）算力则是AI规模化应用的必然需求。
异构混合计算是将各类计算单元（如CPU、NPU、GPU等）整合构建本地计算系统的技术。它能充分释放各类硬件潜能，为多样化的人工智能任务提供高效且灵活的支持方案。

以英特尔酷睿Ultra处理器为例，这款芯片不仅集成了CPU与GPU，还专门内置了针对人工智能优化的NPU。其中，AI PC中的核显在机器学习及大模型应用中扮演着重要角色。GPU擅长处理大量并行计算任务，尤其适合图形和视频内容的高效运算。而核显则能胜任深度学习、图像和视频处理等复杂任务。酷睿Ultra处理器采用先进的Xe-LPG架构，其核显具备卓越的图形处理能力和AI加速功能，在视频编辑、3D渲染以及AI算法加速等方面实现了显著性能提升。例如，在视频编码与推流场景下，该处理器的核显性能相比上一代产品可提升约50%左右，为用户带来更流畅高效的体验。
英特尔Ultra处理器内置独立NPU加速单元，无需联网即可本地运行大型AI模型。其三个部分均能处理AI任务，让AI PC直接支持运行200亿参数的大语言模型，大幅提升AI处理效率与能效表现。用户可在本地实现AI生成图片、音乐创作及图片处理等功能，充分满足多样化需求。

近期热门的实时文生图模型LCM，能在配备酷睿Ultra处理器的轻薄本上运行。借助本地AI绘画工具Fooocus与LCM大模型，用户可实现快速生成图片，大幅提高创作效率，让灵感瞬间呈现。
英特尔酷睿Ultra处理器基于Meteor Lake架构，运用3D Foveros封装技术，整合了计算模块（Intel 4）、SoC模块（N6）、输入输出模块（N6）以及图形模块（N5），实现性能、功耗与能效的显著优化。此外，Emerald Rapids每个核心均配备AI加速器，进一步强化人工智能处理能力和整体运行效率，为用户带来更出色的使用体验。
英特尔酷睿Ultra新增了LP-E核，用于低负载时实现极低功耗表现。与CPU模块中的P核和E核不同，LP-E核独立集成于旁边的SoC模块中。这种设计使得在低负载场景下，整个CPU模块能够进入休眠状态，从而最大限度地减少能耗，提升能效比，为设备提供更持久的续航能力。

英特尔酷睿Ultra处理器在应用中新增了NPU，专为AI工作负载设计，处理高负荷任务时既高效又节能。以视频会议为例，这是学习与工作中常用的场景，使用时间通常较长。该处理器将背景虚化等AI功能交由NPU处理，可节省38%的功耗。这种优化不仅提升了性能，还显著降低了能耗，为用户带来更佳体验。
在自媒体蓬勃发展的当下，视频图像处理技术得到了广泛应用。例如常见的剪映、Adobe等视频图像编辑软件，在运行过程中不仅需要依赖AI进行处理，还涉及渲染等多种复杂操作，这对CPU和GPU提出了极高的性能要求。英特尔酷睿Ultra处理器通过将AI任务交由NPU处理，有效减轻了CPU和GPU的负担，使其资源能够更好地分配给其他任务，从而大幅提升整体处理效率。而这样的使用场景，目前AMD尚无法提供相应的支持。
异构混合计算使各类计算单元协同运作，提高AI处理效率与灵活性，让轻薄笔记本也能完成复杂AI任务。
简单聊聊处理器在AI PC中的作用，酷睿Ultra的升级体验到底怎样？本次测试将从性能跑分、游戏表现、AIGC任务处理以及续航能力等多个维度，为大家呈现一款真正的AI PC笔记本应具备的核心特质与实力。
对于职场人士而言，一款AI PC的核心在于重量与续航。若它既能满足AIGC办公科研需求，还能运行游戏，那便是理想之选。

拿到Redmi Book Pro 16后，我立即将其设为主力笔记本。经过一周的使用，整体体验非常令人满意。这款电脑的实际续航表现出色，即使不插电，性能依然稳定。虽然这是一款轻薄本，但在游戏娱乐方面表现不俗，能够流畅运行各类流行网游和3A大作。此外，Intel酷睿Ultra作为新一代处理器，性能提升显著。相比13代28W酷睿i7的核显，性能直接翻倍。具体表现如何，我们直接来看测试数据即可。
英特尔Ultra7 的规格为 6 个性能核心、8 个能效核心以及额外 2 个超低功耗核心，总计 16 核 22 线程。其中，这两颗超低功耗核心独立于主处理器，集成在 SoC 模块内。这种设计允许在系统低负载时关闭主处理器，仅由低功耗核心运行任务，从而实现极低能耗，大幅提升能效比。根据 CPU Z 测试数据，其单核得分为 755.2，多核得分为 8507.1，展现出强劲的性能表现。

以下是PCMark 10的理论性能测试结果，重点看看办公表现。在保持Wi-Fi连接并接入电源的高性能模式下，这款设备的PCMark 10基准得分达到7107分。作为行业标准的PC性能评测工具，该分数远超当前平均分5113分，表明这是一款具备卓越性能的高端笔记本电脑。

除了跑分软件的测试，我还对Redmi Book Pro 16在生产力方面的实际表现充满好奇，于是用剪映进行了简单测试。从硬件运行情况来看，酷睿Ultra处理器能够高效完成视频剪辑任务，而Arc显卡在AV1编码方面展现出显著优势，二者相得益彰，实力强劲。

在剪映中导入一段5分钟的视频后，编辑过程十分流畅。我还注意到新增了智能剪辑功能，能够自动将视频分割成不同场景的片段，极大地提升了效率。随后，我将这些片段稍作整理，以AV1编码格式导出为4K分辨率的视频。所示，该视频文件大小约为840M，预计耗时5分钟，但实际生成速度非常快，仅需不到2分钟即可完成。整体来看，其高效的生产力表现令人满意。

这是一款配备英特尔酷睿Ultra处理器的AI电脑，运行本地大模型应用是其基本能力，我们也对常见的AIGC应用进行了测试。
借助高性能处理器和GPU，笔记本能够本地运行参数量达百亿级的大语言模型。比如，利用Stable Diffusion实现文生图功能，在Arc核显加速下，图片生成仅需1秒，实现极速出图，效率显著提升。

本次测试使用AIGC助手演示版，依托Stable Diffusion-LCM绘图功能，无需网络连接，可直接在本地运行。通过输入关键词雪山上的攀登者，几秒内即可生成多张高质量的AI创作图片。以下是从生成的四张作品中选出的两幅示例。

此外，可控图像生成功能也非常强大。大模型会先锁定原图的轮廓，确保构图不变，然后大幅调整图片风格。比如，下图中原本的赛车变成了轿车，在海边道路上行驶，远方还能看到山影。显然，本地运行的大模型无需联网，没有使用次数限制，可以自由创造我们心中的理想场景。

以前，从视频里提取人物形象又难又耗时，普通人根本不知如何操作。现在，剪映就能轻松搞定。只需将视频导入软件，然后点击右侧的画面选项，选择抠像中的智能抠像功能，即可快速完成，效率极高，几秒就能实现。提取人物后，我们可以轻松制作出许多有趣的特效。

视频会议软件XSplit具备实时人物图像提取功能，能轻松替换背景，防止在房间开会时泄露隐私。

如果上述功能不算新颖，那为自己打造虚拟形象如何？借助璇米AI技术，酷睿Ultra的CPU、NPU、GPU协同AI性能，可轻松完成实时动作捕捉，生成流畅自然的虚拟形象，仅需一台笔记本电脑，就能开启虚拟主播之旅。

离线状态下，百川7b大语言模型能提供诸多提升写作与专业性的实用建议。从演示视频中可见，它能够实现高效流畅的对话交流。即使在断电情况下，设备运行依然稳定可靠，展现了出色的性能表现。

接下来聊一聊与游戏相关的体验。当下大型游戏的核心在于图形表现，而策略类游戏则对CPU的场景运算有额外需求。至于图形性能测试，可通过Steam平台上流行的3Dmarks工具完成。

3DMark Time Spy得分为4137，Fire Strike图形分数达9456，这一成绩大幅领先GTX 1650，仅在Fire Strike测试中比RTX 3050低约1500分。同时，在CINEBENCH R23中，经过10分钟多核测试得分18245，单核得分为1811，整体表现相当出色。

这款显卡集成了高性能锐炫™核显，拥有128 EU规格，Time Spy核显跑分达到3724。内存配备32GB LPDDR5X，频率高达7467MT/s，为多任务处理提供了充足的空间与高效的性能支持，充分释放核显潜能，确保整体运行流畅自如。
以下是游戏实测，以绝地求生为例。在中低配置下，平均帧数可超100帧，但受内存延迟影响，帧数波动较大。激烈战斗时，帧率可能会降至60帧左右。如果不追求特效与画质，完全能够满足正常游戏需求。

Apex使用中等画质，帧数约30。作为FPS游戏，战斗时卡顿较明显，流畅性不足，实际体验受限。

在1080p分辨率下体验英雄联盟，帧数稳定在140左右，游戏流畅无卡顿，整体表现极佳。

古墓丽影：暗影低画质测试，平均帧率50 FPS。

Redmi Book Pro 2024配备高达165Hz刷新率的3K分辨率显示屏，画面显示更细腻流畅。其窄边框设计与91.88%的屏占比，带来更强的沉浸式体验，让用户全情投入，毫无违和感。
对于经常出差的人来说，续航表现至关重要。Redmi Book Pro 16 2024搭载了99Wh的大容量电池，几乎达到了航空规定允许的上限，相比同类产品如ThinkBook 14+（62Wh）和小新Pro 14（61Wh），电池容量提升了60%以上。这样的硬件优势，为需要长时间飞行或外出办公的用户提供了更持久的使用时间，非常适合像我这样频繁差旅的需求。

这款笔记本搭载140W氮化镓充电器，充电迅速。15分钟可充至32%，最快1小时29分钟充满。即使电池容量大，充电也毫无压力。

如今，多设备互联已成为电子产品发展的主要趋势。手机、电脑和平板几乎成为每个人的必备工具，跨设备操作也越来越常见。Redmi Book Pro 16借助小米澎湃智联技术，与搭载澎湃OS的手机和平板深度联动，可轻松实现相机共享、通话同步、无线投屏、网络共享以及键鼠协同等功能。此外，通过小米互传功能，还能快速完成文件在不同设备间的传输，显著提升日常生活和工作的效率，为用户带来更便捷的智能体验。
本次测试的机型为Redmi Book Pro 16 2024。作为一款16英寸轻薄笔记本，它是Redmi Book系列中首次采用英特尔酷睿Ultra处理器的产品。其机身由铝合金打造，星辰灰配色十分出众。A面中央镶嵌着亮银色镜面红米Logo，触感细腻顺滑，整体设计极具美感，外观表现相当亮眼。

Redmi Book Pro 16 2024 款机身厚度约为 15.9mm，重量约 1.88kg，便携性出色。其屏幕采用 16:10 黄金比例，分辨率达到 3072×1920，覆盖 100% DCI-P3 广色域，色彩表现极为细腻。屏幕亮度高达 500nits，即使在户外强光下也能确保内容清晰可见。C 面键盘拥有 1.3mm 键程，打字反馈舒适，并配备三挡可调背光功能。右上角的电源键集成指纹识别模块，安全便捷。触控板尺寸为 150mm × 95mm，操作空间宽敞，整体手感流畅自然，为用户带来更高效的使用体验。

接口配置上，左侧设有全功能USB-C、雷电4、HDMI2.1以及3.5mm耳机孔，右侧则配备两个HDMI2.1接口，数量不算多，但足以满足日常需求。此外，散热性能对笔记本至关重要。虽然手头没有合适的工具，但我找了一张图展示其双风扇三热管的散热布局，在中低负载下几乎听不到风扇运转的声音。图片中占据C位的是99Wh大容量锂离子电池，搭配140W氮化镓充电器，不仅续航能力强，充电速度也很快，让用户无需担心电量问题。