千芯科技推出了针对芯来RISC-V平台的AI部署工具包

sky

千芯科技推出了针对芯来RISC-V平台的AI部署工具包（tinyAI SDK），使用户可以基于该先进技术快速部署基于芯来RISC-V内核的AIoT应用。在芯来UX600上，实测的AI应用实现11.01倍（相较原生AI算法）的显著推断性能提升。千芯科技的tinyAI SDK成为首个支持芯来UX600图像AI计算部署与加速的工具包。

千芯科技tinyAI SDK


一直以来，端侧RISC-V以其灵活可裁剪高性价比的优势，不断扩展其在各个领域的应用。随着各类型科技巨头逐渐入局RISC-V应用产品，RISC-V的AIoT应用成为业界关注的重点。以往基于端侧RISC-V开发AI应用，要面对缺少开发包、部署复杂、AI性能不理想等痛点问题。这使得端侧RISC-V在AIoT上的部署一度面临困境。

千芯科技本次推出的tinyAI SDK，基于芯来科技的UX600开发板，成功搭载了基于端侧RISC-V内核进行人脸检测与人脸识别的AI应用，证明了端侧RISC-V芯片在AIoT领域广阔的应用前景。

演示中使用的人脸检测算法基于UX600实现的人脸检测，输入两张包含人脸的图片，检测并输出人脸区域：

tinyAI SDK在芯来UX600上运行人脸检测并输出人脸区域

部署了tinyAI SDK的UX600，能够高效的进行AI计算/人脸识别。在人脸检测后，进行了人脸识别，并输出人脸特征值的相似度。

tinyAI SDK在芯来UX600上运行人脸识别/比对的输出结果如图所示：

tinyAI SDK 在芯来UX600上运行人脸识别/比对的输出结果

相较原生算法，tinyAI使得端侧人脸识别的性能提到11.01倍。

千芯科技的tinyAI SDK将AI模型剪枝、量化等先进技术整合入工具包，并针对RISC-V内核的存储、架构特点进行了针对性的特定优化。千芯科技的tinyAI，不仅方便了AI算法在端侧RISC-V平台的部署，更大大加速了AI算法的性能，使得端侧AI应用实用化。

本次Demo实测使用的硬件平台是芯来科技提供的加载UX600内核的 FPGA 板卡：

芯来UX600平台


千芯科技与芯来科技的本次合作为RISC-V生态的发展注入了新的活力，为端侧RISC-V生态拓展出更加广阔的AI空间。


完

关于千芯科技
千芯科技（北京）有限公司由来自三星、Marvell、NEC、瑞萨的芯片及人工智能领域资深专家共同发起，致力于国际领先的AI+加速技术，聚焦AI算法及芯片系统在应用领域的落地。针对RISC-V领域，千芯科技推出国内首个AI加速工具包，广泛适配国内主流RISC-V平台，方便用户部署，并使AI应用在RISC-V芯片上发挥出3-50倍的显著性能提升。

关于芯来科技
芯来科技是中国大陆第一家专业RISC-V处理器IP和解决方案公司，持续聚焦RISC-V处理器内核研发，引领RISC-V产业生态。芯来科技已经推出从低功耗到高性能全系列嵌入处理器IP系列产品，具备了高性能、低功耗和易于使用的特点，在性能、面积、功耗、成熟度、价格及开发平台等方面具有优势。芯来科技一直处于中国RISC-V嵌入式处理器研发与产业化的最前列，是首家实现多款RISC-V芯片量产的本土企业，并联合兆易创新推出全球首款基于RISC-V的量产通用MCU。公司是RISC-V基金会银级会员、中国RISC-V产业联盟副理事长单位、中国开放指令生态（RISC-V）联盟会员单位。