拓展智能边界 开启云计算崭新时代 周靖人.pdf

MaaS

模型即服务的创新实践

QCon2023全球软件开发大会上海站（公开）PPT

阿里云首席技术官/周靖人

数据、计算与模型的协同发展，让知识触手可及

算法创新与突破，从数据中抽取知识

先验

农业

知识逻辑

法律

推理伦理语言认知艺术物理医学哲学金融

理解

持续演进的模型技术

QCon2023全球软件开发大会上海站（公开）PPT

爆炸性增长的数据不断提升的计算能力

MaaS(ModelasaService)

促进中国大模型生态的繁荣是阿里云的首要目标

通义垂直领域产品

通义听悟通义星尘通义晓蜜

通义灵码……

模型定制与应用服务

QCon2023全球软件开发大会上海站（公开）PPT

阿里云百炼

模型矩阵

通义千问通义万相三方开源&商业模型魔搭模型社区

模型训练模型推理

（PAI灵骏）（PAI灵积）

阿里云飞天操作系统

MaaS(ModelasaService)

促进中国大模型生态的繁荣是阿里云的首要目标

QCon2023全球软件开发大会上海站（公开）PPT

模型训练

（PAI灵骏）

大模型训练的挑战

存储网络与调度故障恢复资源与配额管理

每一次训练迭代都需要对大规模瓶颈主要来自GPU之间的通信，单一GPU故障会对训练产生全模型训练需要gangscheduling，

数据集的高效导入需要动态调度以应对复杂计算与局影响，错误代价高对资源有效共享带来更大挑战

通信模式

QCon2023全球软件开发大会上海站（公开）PPT

Schedulejob

单个GPU故障

数据中心网络