RockAI以“让世界上每一台设备拥有自己的智能★★★”为使命,依托Yan架构大模型打造群体智能单元大模型,正在探索强化模型的自主学习能力,从而激发群体智能的涌现,走向通用人工智能★★。
“2024上海最具投资潜力50佳创业企业评选★★★”是在上海市经信委指导下,市中小企业办、市中小企业服务中心★★、市投资促进服务中心联合上海国际股权协会等三家行业协会共同组织开展,今年已经是连续第九年举办★★★。上榜企业将被列入“上海市重点培育创业企业库”★,有更多机会对接金融资本★,与沪上3家股权投资协会背后近百家会员单位展开进一步交流合作★★★。
值得一提的是,Yan架构大模型作为国内首个非Transformer架构、非Attention机制大模型★★,提交专利申请超过50项,涵盖大模型的模型结构设计、算法改进、预训练、微调等核心环节。凭借算力受限场景下的本地部署运行等优势★★,RockAI与机器人★★、手机、电脑等领域的设备厂商建立深度合作并落地多个项目。
这一殊荣是对RockAI在大模型领域的相关技术成果★★★、商业化模式发展潜力的双重认可。自2023年6月成立以来,Yan架构大模型不断迭代升级★★,持续推出Yan1.0到Yan1★★★.3。RockAI创新底层架构,以MCSD、类脑激活机制为基础原理,MCSD具有快速训练★、推理能力,可以实现更高效的特征提取★,类脑激活机制则模拟大脑中的神经元激活模式,在计算时选择性激活部分参数,减少算力冗余★★,更高效地解决问题★★★。
在第十七届外滩金融·上海国际股权投资论坛(2024SIPEF)上正式揭晓。RockAI凭借自研国内首个非Transformer架构、非Attention机制的Yan架构大模型以及多元设备端落地应用的市场潜力★,
依托上述基础原理,Yan架构大模型在训练效率★★、推理吞吐量等多方面优于同等参数量的Transformer架构模型★★,今年8月进行的部分数据集测评中,已达到Llama3 8B的水平★。同时★★,Yan架构大模型拥有强大的适配伸缩性和多模态信息处理能力★★,不仅可以无损部署到树莓派这样的低算力设备,以及机器人、手机★★、电脑★★★、无人机等多样化终端,还能实现文本、语音、图像等跨模态交流★★。
