仅只有未实名的,新媒易不收取任何费用,公益非盈利机构
24小时服务热线: 4000-163-302
请扫码咨询

新闻动态

NEWS CENTER

AI模型从云端迁移到终端设备上运转的趋势日益显着

2025-04-17

端侧AI大模型的崛起与优势

跟着AI的快速开展,AI模型从云端迁移到终端设备上运转的趋势日益显着。这种被称为”端侧AI”的技能路线,正在成为业界共识。谷歌、苹果、微软等科技巨子纷纷推出适合在终端设备运转的轻量级大模型,如谷歌的Gemini Nano、苹果的Apple Intelligence等。

相同,黄仁勋在CES 2025的讲演中提出:“AI的未来不应该仅限于云端,而是应该无处不在”。无处不在的本地/端侧算力是AI演进的必然方向。


事实上,端侧AI大模型比较云端模型具有多方面的优势:

  • 隐私:在隐私保护方面,数据无需上传至云端,用户的敏感信息能够彻底保留在设备内;
  • 呼应速度:端侧模型消除了网络传输推迟,能够实现毫秒级的呼应;
  • 个性化体会:本地模型能够依据用户习气继续学习调整,供给更贴合个人需求的服务;
  • 能效:避免了数据传输的能耗,整体能效更高;
  • 网络依赖性:端侧模型能够在离线状态下继续作业,不受网络质量动摇影响。

这些优势使得端侧AI成为特定场景下的最佳挑选,尤其是在对隐私要求高、需求实时呼应、网络条件不稳定的使用场景中。

1.2 端侧AI的应战:算力、能耗与散热

虽然端侧AI优势显着,但其开展仍面临许多应战。最主要的约束要素是终端设备的算力约束、能源供应缺乏以及散热才能有限。

以智能手机为例,其算力仅能支持参数量在10亿级别的小型AI模型。同时,手机的电池容量有限,难以支持大模型的长期运转;散热体系也难以应对高强度计算带来的热量。

笔记本电脑虽然在算力和散热方面略胜一筹,但电池续航相同是短板,且便携性要求约束了其硬件扩展才能。

家用台式电脑则不受电源和散热的严格约束,但缺乏移动性,无法满意随时随地运用AI的需求。

在这样的布景下,端侧AI需求找到理想载体,它既能供给足够的算力、电力和散热才能,又具有移动性。车,正是这样一个理想的候选者。

二、车的天然优势:体会、空间、能源办理的完美结合

2.1 交互体会优势:沉浸式人机交互环境

与其他终端设备比较,轿车供给了更为丰厚的人机交互界面。现代轿车配备大尺寸触控屏幕(有些乃至超过15英寸),高清显示效果远超手机;高级音响体系供给盘绕立体声体会;智能座椅可依据用户偏好调节位置并供给按摩功用;智能空调体系可发明舒适的温度环境。

更重要的是,轿车供给了一个私密且相对固定的空间,用户能够在其中与AI进行愈加自然和深入的交互。想象一下,在自动驾驶模式下,你能够与车载AI进行视频会议,同时享用座椅按摩;或者在停车休息时,经过车载大屏观看AI推荐的电影,同时调节最舒适的座椅视点和车内温度。

这种沉浸式交互环境,使轿车成为AI使用场景最为丰厚的终端设备之一,能够充分发挥AI在文娱、作业、健康办理等多方面的潜力。

相关推荐