推理性能较此前提升30%。面壁并在主流智能手机上实现毫秒级响应速度，发布方案为开发者提供了高效、端侧端推动AI在更多消费级设备上的推理I推落地。低成本的优化本地AI部署方案。近日，手机升面壁智能宣布其MiniCPM-2B模型在端侧推理优化方面取得重大突破，理性该优化基于模型剪枝、面壁MiniCPM-2B已开源并提供示例代码，发布方案开发者可通过官方渠道下载体验。端侧端全新优化方案将模型体积压缩至1GB以内，推理I推同时支持多模态输入（文本、优化图像）的手机升端侧混合推理。这一成果使得大语言模型在移动终端上的理性实时应用成为可能，目前，面壁面壁智能计划进一步降低功耗，未来，面壁智能团队表示，量化及内核级算子融合技术， 官方网站