近日,本源量子计算科技(合肥)股份有限公司、合肥综合性国家科学中心人工智能研究院等联合攻关,利用中国第三代自主超导量子计算机“本源悟空”,完成全球首次运行十亿参数级AI大模型微调任务。实验结果亮眼,不仅验证了量子计算助力大模型轻量化的可行性,也为解决“算力焦虑”开辟新路径。“本源悟空”此前已积累了可观的运算成果,覆盖全球多地多个行业领域。
“本源悟空”完成全球首次十亿参数级AI大模型微调任务
中新社4月7日消息,记者从安徽省量子计算工程研究中心获悉,中国第三代自主超导量子计算机“本源悟空”,近日完成全球首次运行十亿参数级AI大模型微调任务。该任务由本源量子计算科技(合肥)股份有限公司、合肥综合性国家科学中心人工智能研究院等联合攻关完成。
实验成果显著,开辟算力新路径
此次实验成果丰硕,在参数量减少76%的前提下,AI大模型训练效果反而提升8.4%。这一成果验证了量子计算助力实现大模型轻量化的可行性,为破解大模型“算力焦虑”开辟了新路径。优化后的模型在心理咨询对话数据集上训练损失降低15%,数学推理任务的严格准确率从68%提升至82%。合肥综合性国家科学中心人工智能研究院副研究员陈昭昀表示:“这是量子计算首次“真机实战”AI大模型任务,证明现有硬件已能初步支撑大模型微调。”
创新方法,提升微调效率
本源量子副总裁窦猛汉介绍,团队创新设计了一种量子加权张量混合参数微调的方法,将模型权重转化为量子神经网络与张量网络混合架构,前者通过量子门操作提取高维非线性特征,张量网络则压缩参数规模。在“本源悟空”的量子芯片上,AI大模型单批次数据可生成数百个量子任务并行处理。
“本源悟空”此前成果丰硕
截至目前,“本源悟空”超导量子计算机全球访问已覆盖139个国家和地区,完成35万个量子运算任务,涵盖流体动力学、金融、生物医药等多个行业领域。