成果:神经网络低成本同态转化与高可靠密态部署工具
一、成果介绍
成果聚焦人工智能加密云服务场景,打造新一代神经网络模型可信推断机制,提出世界首个面向预训练大模型的同态加密解决方案,成果《THE-X:Privacy-Preserving Transformer Inference with Homomorphic Encryption》发表于计算机领域顶级会议ACL,采用算子级蒸馏和有限拟合等方式低损转化为同态支持线性算子等方法首次实现Transformer架构模型的密文推断,对于大模型的发展和应用具有重要意义。
针对神经网络模型的各类骨架网络的密态计算过程进行了整体设计与优化,提高了密态推断计算效率。并将主流神经网络模型的核心计算过程密态部署于端云协同的全密态计算环境,已部署的5种主流神经网络架构同态转换和密态推断转化精度损失均低于10%,推断效率额外开销均低于15%。
二、对长安链的价值
可基于长安链构建开放式隐私计算生态,提供“数据不可见、过程高可信、结果高可用”的隐私计算智能服务,使长安链具备新一代链上人工智能加密服务潜力,赋能多任务、全行业、泛生态,实现隐私数据价值与通用智能服务可信互联。
三、应用场景
本任务组的神经网络密态推断研究成果,可支撑广泛的大工智能服务应用,包括智慧政企服务、精准医疗服务、私有云计算服务、机器人智能服务等领域。