书籍目录
首页
分类
免费
排行
我的书架
1-50章
51-80章
共80章
免费
版权信息
免费
作者简介
免费
内容简介
免费
前言
免费
第1部分 大模型概述与核心优化技术
免费
第1章 大模型基本概念
免费
1.1 大模型的兴起与发展
免费
1.2 计算资源与性能瓶颈
免费
1.3 数据与隐私问题
免费
1.4 模型部署与运维
免费
1.5 本章小结
免费
1.6 思考题
免费
第2章 模型压缩、训练与推理
免费
2.1 模型压缩概述
免费
2.2 训练加速基础
免费
2.3 推理加速基础
免费
2.4 性能评估指标
免费
2.5 本章小结
免费
2.6 思考题
免费
第3章 模型格式转换
3.1 模型格式的定义与转换
3.2 跨框架模型转换
3.3 硬件相关的格式转换
3.4 模型格式转换的工具与库
3.5 本章小结
3.6 思考题
第4章 图优化
4.1 算子融合技术
4.2 布局转换与优化
4.3 算子替换技术
4.4 显存优化
4.5 本章小结
4.6 思考题
第5章 模型压缩
5.1 量化
5.2 知识蒸馏
5.3 剪枝
5.4 二值化与极端压缩
5.5 本章小结
5.6 思考题
第2部分 端侧学习与高效计算引擎优化
第6章 端侧学习、端侧推理及计算引擎优化
6.1 联邦学习概述
6.2 数据处理与预处理
6.3 Trainer与优化器设计
6.4 损失函数的设计与选择
6.5 Benchmark设计与性能评估
6.6 IR的作用与优化
6.7 Schema的设计与规范
6.8 动态Batch与内存调度
×