9 月 25 日消息,近日,商汤科技大装置事业群在华为全联接大会 2024 上展示了其基于昇腾计算生态的最新开发成果。会上商汤宣布,其集群规模成功扩展至三倍,线性加速比超过 97%,显示了强大的计算效能与高效的资源管理能力。
据了解,商汤科技通过高效并行、通信优化及网络架构感知等核心技术,构建了大规模并行训练加速系统,102B 模型的训练性能达到了业界的 120% 以上。同时,在集群规模扩大三倍的情况下,其算力效率损失仅为3%。
此外,商汤还建设了长序列并行训练加速机制。据悉,相较业界标准,4K 序列性能提升一倍以上,32K 序列性能持平,并成功处理了 128K 长序列训练,进一步拓宽了 AI 大模型的应用边界。
据了解,商汤还与昇腾团队合作,构建了从基础层到应用层的高效大模型生产工具链,为客户提供涵盖算力、软件平台部署及模型迁移等端到端的创新服务。针对客户不同需求,商汤还提供业务流设计、应用编排、数据迭代等增值服务,助力客户快速构建完整的 AI 能力体系。
在本次华为全联接大会上,商汤科技获得“2024 昇腾生态最佳实践伙伴奖”。商汤表示,将继续与华为等合作伙伴紧密合作,推动 AI 技术的创新与应用,为各行业提供更加高效、便捷的智算服务,加速 AI 与产业的深度融合。(咸咸)