王二小电影

开端：猎云网

群体智能，改日王二小电影已来。

9 月 26 日，RockAI "真端侧 · 智无界"绽开日行径在上海举行。会上，RockAI 厚爱推出了全新升级的 Yan1.3 群体智能单位大模子，并展示了其在无东说念主机、机器东说念主、PC、手机等各样末端开采上的超强模力。

相较于 1 月份首发的 Yan1.0，Yan1.3 具备了强劲的多模态才调，可高效处理图文及语音等多模态信息，并达成了模子在更无为开采端上的离线无损部署，宽泛电脑 CPU 上也玩忽畅通运行。

CEO 刘凡平示意："咱们合计，群体智能才是通往通用东说念主工智能的关节旅途。因此，RockAI 以 Yan 架构打造群体智能单位大模子，不只是为了擢升某个开采的才调，更是为机器注入一种新的、实质性的智能基因，使其领有超强的环境允洽力和自主学习才调。届时，每个部署了 Yan 模子的开采都将成为一个智能单位，通过它们的握住协同、交互，最终激勉群体智能的表露。"

智能单位"全家桶"：多模加成，输攻墨守

行径现场，RockAI 团队展示了一款部署了 Yan1.3 大模子的"飞龙"无东说念主机。

远隔于大多数云、边、端协同端正的无东说念主机，飞龙的智能大脑 Yan1.3 告成部署于开采端，对突发景况能作念出即时判断和处理，无需先传回云霄判定再回到开采端推行，大大擢升无东说念主机在复杂环境中的允洽性和自主性，达成高度的自动化水温和快速反馈才调。如与某厂商合作的无东说念主机格局，便能处置开采将高清画面传回云霄，所产生的 5G-A 流量老本高的痛点。

在本质应用方面，部署了 Yan1.3 的飞龙无东说念主机，可全面感知复杂环境并在开采端及时处理，扶直各样环境下的智能巡检，不仅高效适配电力巡检、安全监控、环境监测等城市管束及工业场景；更可面向个东说念主用户，无为期骗于 AI 拍摄、出门旅游、平地越野等日常生计情景，贴心勘察环境、瞎想行程的同期，还玩忽摆脱双手，自动捕捉最好角度并挑选出最好相片。

此外王二小电影，研发团队还演示了 Yan1.3 在更多端侧开采的无为应用，比如斯前惊艳亮相寰宇东说念主工智能大会的 "胖虎"智能机器东说念主，玩忽基于 Yan1.3 的多模态处理才调，在离线状态下识别复杂环境、准确联接用户意图，并据此端正其机械躯体高效完成各样复杂任务，如展现"七步成诗""咏春拳法"等。

又比如内嵌在 PC 端的迅兔智能助手，不错在离线模式下听懂"东说念主话"、看懂图片并快速搜图，精确完成"帮我灌音并整搭理议记载"、"把扫数橘猫图片都删掉"等暗昧教导，保护用户阴私安全的同期，确实让每个东说念主享受到 AI 带来的便利。

RockAI 合计，确实的智能是不应受限的，因此，他们遥远坚韧地走在非 Transformer 架构、无损部署这条少有东说念主走的路上。如今，未经压缩、剪辑的 Yan1.3 大模子在越来越多开采端展现出的丝滑适配和超强模力，正向行业阐明 RockAI 技巧道路的合感性，过火最终激勉群体智能的充分可能。

在刘凡平看来，基于 Transfomer 架构的通用大模子，改日唯一两到三家可能是开采的。但这么的"造神式"大模子改日处置问题的场景依然有限，比拟较而言，以群体智能为倡导的群体智能单位大模子更专门念念。

锚定群体智能：为机器注入智能基因

顾名念念义，群体智能主要指通过多个个体的配合和交互，造成的集体聪敏和方案才调。无数智能个体通过配合和雷同，不错创造出特出个体的才调，鼓励当然社会的跳动，其各样性、允洽性和创造力，是任何单一的大模子都无法豪阔达成的。

因此，在机器限制，群体智能同样是智能进化的关节，并忽视了打造群体智能单位大模子的技巧道路——以端侧开采为载体构建可高效允洽环境并握住进化的智能单位，不同智能单位之间捏续交互、协同和互补，激勉更高水平的群体智能。

要想达成这个倡导，最初就要为群体中的每个个体，寻求一个高效运转、能捏续自主学习的模子大脑。关联词当下大部分 Transformer 主流大模子受限于资源及算力，只可通过有损压缩等"性能阉割"的方式在端侧运行，尚且无法高效运转，更无法凭据环境的变化进行自主学习，达成推理和试验的同步进行。

彼时，刘凡平就机敏强硬到，训推同步的倡导是能在端侧上运行并作念试验，这将是一个很大的跳动。

"咱们但愿更低价的试验，而不是更立志的。训推同步可联接为模子的试验与推理同步进行，正如东说念主一样，在聊天的时辰不错通过语音输出推理，但同期也不错通过耳朵的听觉、眼睛的视觉看成输入进行及时学习。"

于是，RockAI 从对基础架构的打破创新启航研制模子大脑。1 月，国内首个非 Attention 机制的 Yan 架构应时而生，大大裁减了模子的算力需求，并告捷达成 Yan1.0 模子" 0 压缩 0 剪辑"的离线部署，迈出了走向群体智能的第一步。

随后，RockAI 更是迭代提速，3 月，类脑分区激活的责任机制达成；5 月初，"无损"跑通树莓派；5 月底，全模态部分视觉扶直走通，再从 Yan1.2 进化到现时的 Yan1.3，不错在无为的开采上部署和应用，得以开启了多元化的硬件生态。

正如会上浙江大学东说念主工智能系主任杨洋造就所说，RockAI 给更多的开采厂商掀开了一扇门，让他们玩忽投入 AI 限制。

多元化适配：买互市业化旅途

在 RockAI 的瞎想中，群体智能的达成包括四个阶段：创新式基础架构、多元化硬件生态、自允洽智能进化、协同化群体智能。若是说自主架构的 Yan 模子是走向群体智能的最先，那么这次发布的 Yan1.3 群体智能单位大模子，显著还是快速达成了在多元化硬件开采上的适配。

其在端侧的无损推理基于两大中枢技巧创新，一所以底层神经网罗架构 MCSD 替代 Transformer 的 Attention 机制，二是基于仿生神经元驱动的摄取算法达成类脑分区激活，大大减少策划复杂度及算力蹧跶。

家喻户晓，Attention 机制是 Transformer 架构的中枢，其加权算法决定了策划量会跟着序列长度的加多呈增长，对策划的算力条目也会越来越高。而 RockAI 通过 MCSD 机制替换掉 Attention，只把最有用的信息、特征往后传，以线性的方式裁减策划的复杂度，擢升试验和推理效果。

同期，RockAI 模仿了大脑分区激活的旨趣，由摄取神经网罗我方决定处理某个任务时参与运算的神经元，运转具有随即性，但通过多量数据学习、试验后会变得有迹可循。就像东说念主类一样，跟着一件事情作念的越多，被激活的那部分心经元就会越详情，反馈也就越快。此外，由于不是扫数参数参与经过，从而算力需求很低，就不错使得训推同步进行，况兼在输出时也能改换参数。

基于该算法达成的模子分区激活，不仅从简了算力老本，还不错通过分享神经元达成多模态的对皆。

经过对不同硬件的商讨和多量调试，现在 RockAI 还是适配了英伟达、高通、联发科、英特尔、瑞芯微等平台，生意化程度也在握住加快。跟着自主学习机制投入实验室测试阶段，RockAI 也与芯片厂商及末端厂商达成初步合作意向。

刘凡平但愿，能与更多合作伙伴构建生态，让更多的开采用上 RockAI 的群体智能单位大模子。

这也就意味着，改日 RockAI 将打破硬件收尾，打造越来越多基于 Yan 架构的智能单位，让寰宇上每一台开采领有我方的智能，达成在无为遮蔽界限下的普惠东说念主工智能应用。

改日，期待这些领有不同才调、不同个性的智能单位得以协同，表露更为强劲、多元的群体智能，最终达成个性化与群体智能的共融共生，开启东说念主与机器的智能新期间。