边缘计算与llm端侧大模型本地部署-核心标的ARM主板

ARM嵌入式核心标的，不在于超强性能，而在于在有限的性能配置内，做更垂直的任务，边缘计算的设备开发属于较传统的B端或G端设备，llm端侧大语言模型的应用开发偏重于C端设备开发。

边缘计算与llm端侧模型本质上都属于人工智能AI应用。

定昌的ARM主板板卡产品未来的方向是以“ 新硬件AIoT 板卡+人工智能算法” 两大方向为主，构建护城河，解决生态伙伴场景中复杂的AI算法问题，降低AI使用门槛，加快AI落地进程。

定昌ARM主板针对AI领域的最重要的核心标的就是NPU算力以及算法部署2大块。

NPU算力针对嵌入式开发有小型算力1TOPS的RK3566，RK3568 ARM主板型号。也有针对较大型算力6TOPS的RK3588，RK3588S，RK3576的ARM主板型号。

边缘计算算法部署针对常用视觉CV模型进行开发，如：yolov10,yolov8,yolove_seg,yolov8_obb,yolov8_pose,yolov7,v6,v5。

yolov5_seg,yolo_world,yolox,PPOCR_V4,Chip。

Ppyoloe,ppseg,retinaface,LPRNet,deeplabv3,Lite_transformer。

Yamnet,Resnet,Mobilenet。

Llm端侧大模型主要针对10b以下的基础大语言模型，如文心，豆包，通义，DeepSeek大模型）等等。

定昌小编再列出一些常见的B端，G端，C端的落地场景给新老客户参考。

TO C落地有：知识问答，商品推荐，换装互娱，数字人，服务机器人，学习机，美甲参考等。

TO B落地有：数智平台感知，商品推荐，智能触发控制，安全生产规范，智慧工地，智慧校园，监测，OCR识别，条码识别。

TO G落地有：人车非识别。

等等……