近日，，，，，，AG庄闲官网智能阐扬软硬件一体协同开发能力，，，，，，融合阿加犀卓越的AI优化部署技术，，，，，，在搭载高通QCS8550平台的高算力AI模组上，，，，，，成功运行了一系列大说话模型，，，，，，蕴含LLaMA-2、通义千问Qwen、百川大模型、RedPajama、ChatGLM2、Vicuna，，，，，，展示出卓越的边缘端大模型部署能力。。。。。。。

▌构建智算底座，，，，，，加快大模型端侧部署

大模型和天生式AI的海潮席卷全球，，，，，，带来人为智能新纪元。。。。。。。大模型诞生之初重要是与云端绑定，，，，，，而随着利用场景的拓展，，，，，，AI起头赋能千行百业，，，，，，大模型也必要在越来越多的终端设备上运行。。。。。。。若是说天生式AI是在高速向前行驶的列车，，，，，，那算力就是燃料。。。。。。。终端侧AI的落地利用，，，，，，离不开硬件和设备算力的升级。。。。。。。

今年，，，，，，高通推出了AI算力芯片QCS8550，，，，，，整合了壮大的NPU算力和边缘侧AI处置技术、Wi-Fi 7衔接技术以及加强型图形和视频处置能力，，，，，，提供高速、低功耗的AI推算平台，，，，，，为终端侧AI赋能。。。。。。。

基于高通QCS8550芯片平台，，，，，，AG庄闲官网智能推出了高算力AI模组SNM970，，，，，，综合AI算力高达48Tops，，，，，，并支持混合精度推算，，，，，，为IoT设备打造全新的智算底座。。。。。。。高算力AI模组是承载端侧AI无限创造空间的最佳大局，，，，，，为海量碎片化场景提供不变的通讯能力和壮大的边缘算力，，，，，，让终端开发者可能基于尺度化的模组实现低成本、短流程的产品设计和造作，，，，，，降低大模型的开发和使用成本。。。。。。。

另一方面，，，，，，AI从芯片到利用还必要解决跨平台迁徙、异构芯片效能迷失、碎片化的场景需要等挑战。。。。。。。阿加犀具备成熟的AidLux平台和行业当先的开箱即用AI工具链，，，，，，可能全面提升边缘设备的AI机能和模型执行效能，，，，，，为AI项目在丰硕场景中急剧落地提供专业支持，，，，，，进一步推动AI利用的终端部署。。。。。。。

这次，，，，，，AG庄闲官网智能高算力AI模组产品团队携手阿加犀，，，，，，在基于高通骁龙800系列平台的自研高算力AI模组上成功运行一系列大说话模型，，，，，，成功验证了算力模组作为将来大模型边缘AI算力底座的通用性，，，，，，对边缘端天生式AI的支持进一步成熟，，，，，，有望将天生式AI拓展至更多领域。。。。。。。

AG庄闲官网智能提供具备杰出能效比、壮大的推算能力的算力模组，，，，，，结合阿加犀独有的AI工具链带来确当先的SoC机能调度能力，，，，，，二者强强结合阐扬出模组的极致机能，，，，，，让多个参数达70亿的说话大模型，，，，，，蕴含LLaMA-2、通义千问Qwen、百川大模型、RedPajama、ChatGLM2、Vicuna，，，，，，都能在算力模组上维持高效运行。。。。。。。

▌高算力AI模组，，，，，，让AI触手可及

AG庄闲官网智能高算力AI模组产品专为终端侧、边缘侧AI利用设计，，，，，，依附壮大的软硬件一体研发能力，，，，，，AG庄闲官网智能持续推动高算力AI模组的AI硬件不休升级，，，，，，至今曾经历经多代产品演进，，，，，，涵盖入门级、中端、旗舰级多档次产品，，，，，，蕴含SNM930、SNM950、SNM960、SNM970、SNM972等系列，，，，，，对应AI算力覆盖14Tops~48Tops。。。。。。。

同时，，，，，，AG庄闲官网智能研发团队在AI利用场景开发、AI机能优化和AI低功耗法式研发等领域的设计研发能力处于行业当先水平，，，，，，有关算力产品在各类主题场景大规模利用，，，，，，让智慧零售、智能机械人、智慧交通、智慧农业、智能造作等各行各业急剧于边缘端部署大模型，，，，，，以AI驱动业务创新。。。。。。。

针对AI边缘推算领域，，，，，，AG庄闲官网智能基于高算力AI模组SNM972，，，，，，助力客户打造SoC阵列服务器产品。。。。。。。该模组选取MiniPCIe封装方式，，，，，，支持16GB LPDDR5X + 256GB UFS 4.0内存，，，，，，并支持混合精度推算，，，，，，支持ONNX、Pytorch、CAFFE、TensorFlowLite等模型框架，，，，，，可轻松赋能各类AI场景。。。。。。。

规划中每个算力节点选取刀片+阵列式设计，，，，，，内部实现？？？？？？榛叭炔灏紊杓，，，，，，能够实现一向唬；；；；；鼗。。。。。。。最高可配置80路算力模组，，，，，，单颗模组内部支持Android虚构化，，，，，，可虚构出多路推算单元，，，，，，更好地进行算力配置，，，，，，为实时互动云推算、边缘AI云推算、云渲染等业务场景提供最佳算力底座。。。。。。。

AI在扭转世界，，，，，，AG庄闲官网智能始终以市场需要为导向，，，，，，与合作同伴缜密合作，，，，，，萦绕高算力AI模组打造更多适配行业的解决规划，，，，，，拉近大模型和利用之间的距离，，，，，，把握智慧先机，，，，，，实现让AI触手可及的指标，，，，，，赋能数字经济发展。。。。。。。