从联想的AI PC演示看终端大模型的必要性,离开网络的AI能有多强?
12月,Intel发布会上推出了首款基于Intel 4制程工艺的初代酷睿 Ultra 移动处理器,Ultra系列芯片采用Intel 4制程工艺配合3D Foveros封装技术,实现了两倍性能提升,支持200亿参数大语言模型不联网正常运行。
虽然不能够与云端大模型动辄千亿级别的模型相比,但对于端侧个人用户使用来说,端侧AI的起点就是200亿参数,已经非常可观了。国内许多云端模型诸如快意大模型,百川大模型等都仅仅是百亿级别的参数量。
对比云端大模型和PC本地模型对于个人出行计划的问答,联想在tech world2023上做了演示,展示了个人大模型别具一格的独特性。
演示者提问“制定一个150字的赫尔辛基音乐节一日游计划”分别给本地和云端大模型,
同样的问题,本地大模型给出了更具体、更贴合使用者的建议。
第一点,本地模型了解使用者的位置和过往出行方式,给出了更具体的出游计划(比如更适合坐火车还是飞机,距离哪个机场更近,而云端开放大模型没有做到)。
第二点 ,本地模型根据使用者此前订过的酒店进行酒店的推荐。
第三点, 本地模型根据用户过往常去打卡的场所,推理出你的偏好给出出行建议(比如你爱吃中餐还是日料东南亚菜系,喜欢喝咖啡还是逛博物馆,本地模型会建议你去自己偏好的活动)
第四点,本地模型是在完全离线的状态给出的答案,也就是说没有互联网或者使用离线模式的状态下,依然可以与AI互动,这在飞行模式等离线环境下可以灵活使用。
这只是一段三分钟的不到150字的内容演示,AIPC的其他亮点可以在各个厂家的正式产品上市后持续挖掘。电脑端是一个使用场景,终端体积规格,硬件配置最为均衡也最适合AI模型落地的终端。设想在我们乘坐飞机,需要工作的时候,可以在飞行模式下使用电脑利用本地的AI模型做excel、画图、写代码,既可以保证数据安全,又能利用AI和常用办公软件交互。
另外,联想的演示者又做了一个生成图像的演示,使本地模型生成一个演示者Taryn在音乐节上的图像,如图所示。
作图能力大家可以自行评判。
相比较于上传图片给云端模型再去画图,显然本地AI在做图像的时候可以更方便,所有数据都已经储存好,使用者本人时无需上传自己照片,同时隐私性和信息数据安全性更胜一筹。其实,数据的安全性是端侧AI普及的重要推手。无论是公共AI大模型的B端用户还是C端用户,都不能确定自己的数据是否存在泄露风险。但一个离线的端侧AIPC显然这种安全风险极大降低了。其他诸如低延迟、离线运行、高定制化等因素让个人大模型有着云端模型无可比拟的优势。
(未完待续)