岩芯数智的董事长陈代千在接受经济观察网采访时提到,目前人工智能领域发展迅速,设备厂商们非常焦虑,担心如果不进行智能设备的开发与尝试,就会被竞争对手甩在后面。岩芯数智已经公开了包括机器人、无人机、PC在内的数款端侧AI设备,并在适配和兼容工作上投入了大量的努力。
端侧AI模型指的是那些不需要联网就能运行的AI模型,它们依靠设备本身的计算能力来执行任务。这类模型在过去的一年里备受瞩目,被视为推动AI普及的关键因素。端侧大模型的参数量更小,因此可以在设备端直接使用算力进行运行,无需依赖云端算力。
岩芯数智的Yan模型是公司自研的大模型,已经在算法侧实现了类脑分区激活的工作机制,并替换了Attention机制。Yan模型的新版本具备多模态能力,处理图文及语音等多模态信息,并已实现在更广泛设备端上的离线无损部署。
岩芯数智CEO刘凡平认为,对于设备厂商而言,端侧模型是类似Windows操作系统般的存在。端侧模型需要结合实际载体(即硬件)去做适配研究和迭代改进,逐步形成标准化的类Windows操作系统。这样,端侧模型就可以既装在个人电脑,也可以适配穿戴设备。
岩芯数智的商业化将侧重在设备端的智能化产品交付上。公司要做智能单元大模型,即让这些设备成为智能单元,并在此基础上进行迭代,以搭建形成群体智能的生态。
此外,岩芯数智还在探索端侧的同步学习,仍在实验室最后验证阶段,仍需要大规模测试。Yan 2.0预计需6个月时间面世。