从算力到智能体：沐曦开源学习项目实战

韩泽耀沐曦股份应用生态负责人

韩泽耀，浙江大学信息与电子系博士。现任沐曦股份应用生态负责人，长期从事芯片/无线通信系统架构、AI Infra 及 AIGC 与 Agent 开发及 Transformer 算法等工作，聚焦国产算力之上的智能体应用开发、生态孵化赋能与教科研解决方案。曾任华为上研所无线通信预研系统工程师/组长、海思初代麒麟 SoC 架构组长、上海交通大学微电子学院 Assistant Professor & Lab Dean、阿尔卡特朗讯高级经理、美国贝尔实验室高级总监，并有多年人工智能教育产品、AIGC 与大模型应用创业实践。著有《AIGC从入门到实战》、《AIGC与智能体开发实战》、《通用计算GPU（曦云）实践指南：从环境搭建到大模型应用》等书籍。

摘要

本次分享围绕 AI for Good，以沐曦的两个开源学习项目为主线，呈现从底层算力到智能体应用的完整实践路径。

详情

前半部分介绍 Transformer-on-Metax，这由沐曦构建的 21 天开源课程：从 CPU 上 220 行 Python 代码手写最小 Transformer 起步，迁移到沐曦 C500 国产 GPU 完成真实训练，随后经 Decoder-Only 架构与 KV Cache 深入推理优化，对比 vLLM/SGLang 等工业级推理框架，并体验 MACA C++、Triton、TileLang 三种算子开发方式。演讲将分享课程设计思路、真实运行数据与学员踩坑记录。

后半部分介绍基于沐曦的《AIGC 与智能体应用开发实战》系列课程：以 Python 生态为主线，六课沿"生成、获取、思考、掌握、评价、协作"层层递进，从模型 API、工具调用、推理搜索、Skill 沉淀，到模型评测与 Agent 编排，每课完成一个可运行应用，最终组装成一个能自主选择能力的个人 AI 助手，推动智能体从"对话助手"走向能交付结果的"数字员工"。