PrismML发布1比特模型：突破大模型运行困境，提升智能密度

【导语大型模型在智能手机和数据中心运行面临难题PrismML构建超密集智能解决方案推出1比特Bonsai系列模型内存占用、速度、能耗等方面表现出色重塑模型设计方式。】超密集智能解决大模型运行难题大型模型无法在智能手机上运行数据中心也难以维持其运行。PrismML聚焦智能密度正在构建超密集智能解决方案以解决这两大难题。其发布的1比特Bonsai系列模型在内存占用、运行速度和能耗方面有显著优化。1比特模型性能指标惊艳1比特Bonsai 8B模型是首个具有商业可行性的1比特权重模型仅需1.15GB内存与全精度8B模型相比占用空间缩小至1/14运行速度快8倍能源效率提高5倍智能密度比全精度8B模型高出10倍以上。1比特Bonsai 4B模型仅需0.57GB内存速度极快在M4 Pro上每秒可处理132个token保证高准确性的同时具备出色能源效率。1比特Bonsai 1.7B模型仅占用0.24GB内存在iPhone 17 Pro Max上每秒可处理130个token兼具能源效率和较高准确性。以效率为核心重塑模型设计成功的人工智能不仅在于构建更大的模型更在于打造更智能的模型。PrismML借助加州理工学院的突破性研究成果将每比特的智能水平置于参数数量之上推动智能密度领域的前沿发展。编辑观点PrismML的1比特模型在性能上有显著提升为大模型在更多场景的应用提供了可能有望推动人工智能行业向更高效、更智能的方向发展。