新闻中心

金融界2025年5月1日消息，国家知识产权局信息显示，上海友道智途科技有限公司申请一项名为“一种基于transformer模型的GPU推理性能优化方法、系统、设备及存储介质”的专利，公开号CN119886347A，申请日期为2024年12月。

专利摘要显示，本发明公开一种基于transformer模型的GPU推理性能优化方法、系统、设备及存储介质，该性能优化方法为通用的transformer模型推理性能调优策略，适用于多种应用场景和模型类型，通过自定义算子替换和融合，实现对Attention算子、LayerNorm算子、GBR算子、GB算子等的优化，显著减少计算量或内存的使用，提升模型性能，具体的优化步骤包括迭代搜索、模式匹配、算子替换和融合，提升深度学习模型的训练速度和推理速度，且降低资源消耗和成本。

天眼查资料显示，上海友道智途科技有限公司，成立于2021年，位于上海市，是一家以从事软件和信息技术服务业为主的企业。企业注册资本113333.3333万人民币。通过天眼查大数据分析，上海友道智途科技有限公司共对外投资了2家企业，参与招投标项目13次，财产线索方面有商标信息20条，专利信息229条，此外企业还拥有行政许可44个。

本文源自金融界