端侧运行大模型ai盒子简介-提供SDK,API接口

定昌RK3588,RK3588S,RK3576 AI盒子的开发板，均可以开发运行大语言模型，板卡可封装在全铝合金的外壳当中，散热优良，出厂可选择商业级配套芯片，工业级芯片，工业级芯片支持宽温工作环境。

上图：适用RK3588的全铝合金外壳。

目前支持的大模型有：腾讯、百度、阿里和字节以及deepseek 的产品，他们的10B以下基础大模型可以在定昌AioT主板及AI算法主板上流畅运行。

定昌自主研发的DC-LLM-RAG-SDK大模型接口包就包含了混元、文心、通义和豆包本地10B以下大模型移植包。

上图：RK3588 AI开发板。

上图：RK3576 AI开发板。

上图：RK3588S AI开发板。

另外端侧模型可以开发企业知识库，服务AI机器人，导游机器人，数字人等C端应用算法及设备开发。

上述功能定昌的AI开发板均提供了支持与应用，欢迎咨询。