目录前言1. C2. Linux3. 环境配置4. Algo C5. Makefile6. 模型部署7. tensorRT从零起步高性能部署8. 保姆级从零手写自动驾驶CV9. 剪枝与重参10. 量化11. 国内首个BVE感知全栈系列学习教程12. CUDA与TensorRT部署实战课程13. LLM14. 3Blue1Brown15. CS336前言随着博主记录的笔记越来越多查找也越来越困难有时自己都要找半天所以这边记录下博主发布的所有文章方便管理以专栏为划分后续有新的文章也会添加进来1. C本专栏原本是想记录刷题的一些过程的后来…后续 CUDA 相关的一些学习笔记也会放在这个专栏专栏地址https://blog.csdn.net/qq_40672115/category_12039077.htmlC字符串与字符数组详解CUDA基础教程文档记录【CUDA】Reduce归约求和上【CUDA】Reduce归约求和下【CUDA】Sgemm单精度矩阵乘法上【CUDA】Sgemm单精度矩阵乘法下【CUDA调优指南】合并访存【CUDA调优指南】缓存访存流程【CUDA进阶】Tensor Core实战教程上【CUDA进阶】Tensor Core实战教程下【CUDA进阶】MMA分析Bank Conflict与Swizzle上【CUDA进阶】MMA分析Bank Conflict与Swizzle下2. Linux本专栏主要记录 Linux 和 vscode 的一些指令专栏地址https://blog.csdn.net/qq_40672115/category_11958715.htmlUbuntu常用命令SSH和VScode远程开发VScode常用指令从零Makefile落地算法大项目Jetson nano开机自启动程序3. 环境配置本专栏主要记录一些项目的环境配置和常用软件的安装专栏地址https://blog.csdn.net/qq_40672115/category_12093997.htmlUbuntu20.04软件安装大全Lidar AI Solution环境配置Visual Studio 2017安装和项目配置4. Algo C杜老师推出的面向 AI 算法的 C 课程笔记讲得是真滴好可惜没后续了专利地址https://blog.csdn.net/qq_40672115/category_12297296.htmlAlgoC课程介绍AlgoC第一课求解根号2AlgoC第二课线性回归AlgoC第三课C世界观AlgoC第四课逻辑回归AlgoC第五课基于矩阵的算法实现AlgoC第六课BP反向传播算法AlgoC第七课手写MatrixAlgoC第八课手写BPAlgoC第九课手写AutoGradAlgoC课程总结5. Makefile本专栏主要记录博主学习杜老师推荐的 Makefile 教程的一些笔记专栏地址https://blog.csdn.net/qq_40672115/category_12263266.htmlMakefile第一课介绍Makefile第二课简单编译原理Makefile第三课C语言的编译Makefile第四课C的编译Makefile第五课Makefile介绍Makefile第六课Makefile变量Makefile第七课Makefile常用符号Makefile第八课Makefile常用函数Makefile第九课Makefile条件控制Makefile第十课Makefile编译Makefie第十一课Makefile静态库Makefile第十二课Makefile动态库Makefile库文件详解Makefile实战从零Makefile落地算法大项目6. 模型部署本专栏偏实战主要记录博主在嵌入式/服务器端部署模型的一些过程以及学到的一些部署知识专栏地址https://blog.csdn.net/qq_40672115/category_11970990.htmlJson及Jsoncpp开源库的应用zmq远程画面显示Jetson嵌入式系列模型部署-1Jetson嵌入式系列模型部署-2Jetson嵌入式系列模型部署-3Jetson nano部署YOLOv7Jetson nano部署YOLOv8Jetson nano部署剪枝YOLOv8Ubuntu20.04部署YOLOv5infer源码阅读之yolo.cu高性能流媒体硬解码如何熟练的使用trtexec复杂onnx解决方案以sparseconv为例tensorRT模型性能测试cuOSD(CUDA On-Screen Display Library)库的学习YUVToRGB(CUDA Conversion)库的学习卡尔曼滤波Kalman Filter原理浅析-图例分析卡尔曼滤波Kalman Filter原理浅析-数学理论推导-1卡尔曼滤波Kalman Filter原理浅析-数学理论推导-2卡尔曼滤波Kalman Filter原理浅析-数学理论推导-3卡尔曼滤波Kalman Filter原理浅析-数学理论推导-4YOLOv5-PTQ量化部署YOLOv5-QAT量化部署YOLOv7-PTQ量化部署YOLOv7-QAT量化部署YOLOv5推理详解及预处理高性能实现YOLOv8推理详解及部署实现YOLOv8-Cls推理详解及部署实现YOLOv8-Seg推理详解及部署实现YOLOv8-OBB推理详解及部署实现YOLOv8-Pose推理详解及部署实现RT-DETR推理详解及部署实现YOLOv9推理详解及部署实现YOLOv10推理详解及部署实现MMPose-RTMO推理详解及部署实现上MMPose-RTMO推理详解及部署实现下LayerNorm Plugin的使用与说明PaddleOCR-PP-OCRv4推理详解及部署实现上PaddleOCR-PP-OCRv4推理详解及部署实现中PaddleOCR-PP-OCRv4推理详解及部署实现下LaneATT推理详解及部署实现上LaneATT推理详解及部署实现下CLRNet推理详解及部署实现上CLRNet推理详解及部署实现下CLRerNet推理详解及部署实现上CLRerNet推理详解及部署实现下YOLO11推理详解及部署实现Depth-Anything推理详解及部署实现上Depth-Anything推理详解及部署实现下YOLOv12推理详解及部署实现7. tensorRT从零起步高性能部署杜老师推出的 tensorRT 课程笔记原理代码实战强烈建议大家学习专栏地址https://blog.csdn.net/qq_40672115/category_12369462.html1.前言和介绍2.1.cuda驱动API-概述2.2.cuda驱动API-初始化和检查的理解CUDA错误检查习惯2.3.cuda驱动API-上下文管理设置及其作用2.4.cuda驱动API-使用驱动API进行内存分配3.1.cuda运行时API-概述3.2.cuda运行时API-第一个运行时程序hello-cuda3.3.cuda运行时API-内存的学习pinnedmemory内存效率问题3.4.cuda运行时API-流的学习异步任务的管理3.5.cuda运行时API-核函数的定义和使用3.6.cuda运行时API-共享内存的学习3.7.cuda运行时API-使用cuda核函数加速warpaffine3.8.cuda运行时API-使用cuda核函数加速yolov5后处理3.9.cuda运行时API-错误处理的理解以及错误的传播特性4.1.tensorRT基础(1)-概述4.2.tensorRT基础(1)-第一个trt程序实现模型编译的过程4.3.tensorRT基础(1)-实现模型的推理过程4.4.tensorRT基础(1)-模型推理时动态shape的具体实现要点4.5.tensorRT基础(1)-onnx文件及其结构的学习编辑修改onnx4.6.tensorRT基础(1)-实际模型上onnx文件的各种操作5.1.tensorRT基础(2)-正确导出onnx的介绍使得onnx问题尽量少5.2.tensorRT基础(2)-使用onnx解析器来读取onnx文件源码编译5.3.tensorRT基础(2)-从下载onnx-tensorrt到配置好并运行起来5.4.tensorRT基础(2)-学习第一个插件的编写5.5.tensorRT基础(2)-封装插件过程并实现更容易的插件开发5.6.tensorRT基础(2)-学习编译int8模型对模型进行int8量化6.1.tensorRT高级(1)-概述6.2.tensorRT高级(1)-第一个完整的分类器程序6.3.tensorRT高级(1)-yolov5模型导出、编译到推理无封装6.4.tensorRT高级(1)-UNet分割模型导出、编译到推理无封装6.5.tensorRT高级(1)-alphapose模型导出、编译到推理无封装6.6.tensorRT高级(1)-mmdetection框架下yolox模型导出并推理6.7.tensorRT高级(1)-使用onnxruntime进行onnx模型推理过程7.1.tensorRT高级(2)-使用openvino进行onnx的模型推理过程7.2.tensorRT高级(2)-学习深度学习中涉及的线程知识7.3.tensorRT高级(2)-future、promise、condition_variable7.4.tensorRT高级(2)-使用RAII接口模式对代码进行有效封装7.5.tensorRT高级(2)-RAII接口模式下的生产者消费者多batch实现8.1.tensorRT高级(3)封装系列-模型编译过程封装简化模型编译代码8.2.tensorRT高级(3)封装系列-内存管理的封装内存的复用8.3.tensorRT高级(3)封装系列-tensor封装索引计算内存标记及自动复制8.4.tensorRT高级(3)封装系列-infer推理封装输入输出tensor的关联8.5.tensorRT高级(3)封装系列-基于生产者消费者实现的yolov5封装8.6.tensorRT高级(3)封装系列-终极封装形态以及考虑的问题8.7.tensorRT高级(3)封装系列-调试方法、思想讨论9.1.tensorRT高级(4)封装系列-自动驾驶案例项目self-driving-道路分割分析9.2.tensorRT高级(4)封装系列-自动驾驶案例项目self-driving-深度估计9.3.tensorRT高级(4)封装系列-自动驾驶案例项目self-driving-车道线检测9.4.tensorRT高级(4)封装系列-使用pybind11为python开发扩展模块tensorRT从零起步高性能部署课程总结8. 保姆级从零手写自动驾驶CV杜老师手写自动驾驶 CV 公开课笔记停更了…专栏地址https://blog.csdn.net/qq_40672115/category_12257618.htmlAutoCV第一课Python基础AutoCV第二课Python基础AutoCV第三课Python和ML基础AutoCV第四课Python基础AutoCV第五课Python基础AutoCV第六课Python基础AutoCVPython基础总结AutoCV第七课ML基础AutoCV第八课3D基础AutoCV第九课ML基础AutoCV第十课3D基础AutoCV第十一课DL基础AutoCV番外Transformer9. 剪枝与重参手写 AI 推出的剪枝与重参课程笔记专栏地址https://blog.csdn.net/qq_40672115/category_12274545.html剪枝与重参剪枝引言剪枝与重参第一课修剪结构和标准剪枝与重参第二课修剪方法和稀疏训练剪枝与重参第三课常用剪枝工具剪枝与重参第四课NVIDIA的2:4剪枝方案剪枝与重参第五课前置知识剪枝与重参第六课基于VGG的模型剪枝实战剪枝与重参第七课YOLOv8剪枝剪枝与重参第八课ACNet重参剪枝与重参第九课DBB重参剪枝与重参第十课RepVGG重参剪枝与重参课程总结Jetson nano部署剪枝YOLOv8推理引擎之模型压缩浅析10. 量化手写 AI 推出的量化课程笔记同时记录博主平时学习模型量化项目的一些知识实战课还没看完拖了几个月了专栏地址https://blog.csdn.net/qq_40672115/category_12092799.htmlTensorRT量化第一课量化的定义及意义TensorRT量化第二课对称量化与非对称量化TensorRT量化第三课动态范围的常用计算方法TensoRT量化第四课PTQ与QAT如何熟练的使用trtexecYOLOv5-PTQ量化部署YOLOv5-QAT量化部署YOLOv7-PTQ量化部署YOLOv7-QAT量化部署推理引擎之模型压缩浅析TensorRT量化实战课YOLOv7量化pytorch_quantization介绍TensorRT量化实战课YOLOv7量化YOLOv7-PTQ量化(一)TensorRT量化实战课YOLOv7量化YOLOv7-PTQ量化(二)TensorRT量化实战课YOLOv7量化YOLOv7-QAT量化11. 国内首个BVE感知全栈系列学习教程自动驾驶之心推出的 BEV 感知课程笔记柒柒老师的讲解还是非常 nice 的对 BEV 感知算法感兴趣的可以看看还剩几个实战部分没有看专栏地址https://blog.csdn.net/qq_40672115/category_12510007.htmlNote文章内容涉嫌侵权了该专栏文章已经全部删除了望周知仰天长啸损失惨重一. BEV感知算法介绍二. BEV感知算法基础模块讲解三. LiDAR和Camera融合的BEV感知算法-融合算法的基本介绍三. LiDAR和Camera融合的BEV感知算法-BEV-SAN三. LiDAR和Camera融合的BEV感知算法-BEVFusion三. LiDAR和Camera融合的BEV感知算法-BEVFusion实战四. 基于环视Camera的BEV感知算法-环视背景介绍四. 基于环视Camera的BEV感知算法-DETR3D四. 基于环视Camera的BEV感知算法-BEVFormer四. 基于环视Camera的BEV感知算法-BEVDet四. 基于环视Camera的BEV感知算法-BEVDet4D四. 基于环视Camera的BEV感知算法-PETR四. 基于环视Camera的BEV感知算法-BEVDepth四. 基于环视Camera的BEV感知算法-BEVDistill四. 基于环视Camera的BEV感知算法-BEVFormer实战国内首个BEV感知全栈系列学习教程课程总结12. CUDA与TensorRT部署实战课程自动驾驶之心推出的 CUDA 与 TensorRT 部署实战课程笔记博主先从第八章 CUDA-BEVFusion 看的因为想看完之后再看手写 AI 的 BEVFusion 课程不过进度着实有点慢专栏地址https://blog.csdn.net/qq_40672115/category_12541646.htmlNote文章内容涉嫌侵权了该专栏文章已经全部删除了望周知仰天长啸损失惨重一. 并行处理与GPU体系架构-并行处理简介一. 并行处理与GPU体系架构-GPU并行处理二. CUDA编程入门-CUDA中的线程与线程束二. CUDA编程入门-使用CUDA进行矩阵乘法的加速二. CUDA编程入门-共享内存以及Bank Conflict二. CUDA编程入门-Stream与Event二. CUDA编程入门-双线性插值计算三. TensorRT基础入门-TensorRT简介三. TensorRT基础入门-TensorRT应用场景三. TensorRT基础入门-TensorRT内部的优化模块三. TensorRT基础入门-导出并分析ONNX三. TensorRT基础入门-剖析ONNX架构并理解ProtoBuf三. TensorRT基础入门-ONNX注册算子的方法三. TensorRT基础入门-onnx-graph-surgeon三. TensorRT基础入门-快速分析开源代码并导出onnx三. TensorRT基础入门-使用trtexec四. TensorRT模型部署优化-模型部署的基础知识四. TensorRT模型部署优化-Roofline model四. TensorRT模型部署优化-模型部署的几大误区四. TensorRT模型部署优化-quantization(mapping-and-shift)四. TensorRT模型部署优化-quantization(quantization granularity)四. TensorRT模型部署优化-quantization(calibration)四. TensorRT模型部署优化-quantization(PTQ-and-quantization-analysis)四. TensorRT模型部署优化-quantization(QAT-kernel-fusion)四. TensorRT模型部署优化-pruning(overview-and-pruning-granularity)四. TensorRT模型部署优化-pruning(channel-level pruning)四. TensorRT模型部署优化-pruning(sparse-tensor-core)五. TensorRT API的基本使用-MNIST-model-build-infer五. TensorRT API的基本使用-load-model五. TensorRT API的基本使用-infer-model五. TensorRT API的基本使用-TensorRT-network-structure五. TensorRT API的基本使用-build-model-from-scratch五. TensorRT API的基本使用-build-trt-module五. TensorRT API的基本使用-custom-trt-plugin五. TensorRT API的基本使用-plugin-unit-test六. 部署分类器-preprocess-speed-compare六. 部署分类器-deploy-classification-basic六. 部署分类器-deploy-classification-advanced六. 部署分类器-int8-calibration六. 部署分类器-trt-engine-explorer七. 部署YOLOv8检测器-load-save-tensor七. 部署YOLOv8检测器-affine-transformation七. 部署YOLOv8检测器-deploy-yolov8-basic七. 部署YOLOv8检测器-quantization-analysis八. 实战CUDA-BEVFusion部署分析-环境搭建八. 实战CUDA-BEVFusion部署分析-spconv原理八. 实战CUDA-BEVFusion部署分析-导出带有spconv的SCN网络的onnx八. 实战CUDA-BEVFusion部署分析-学习spconv的优化方案(Explicit GEMM conv)八. 实战CUDA-BEVFusion部署分析-学习spconv的优化方案(Implicit GEMM conv)八. 实战CUDA-BEVFusion部署分析-学习BEVPool的优化方案八. 实战CUDA-BEVFusion部署分析-分析BEVFusion中各个ONNX八. 实战CUDA-BEVFusion部署分析-学习CUDA-BEVFusion推理框架设计模式八. 实战CUDA-BEVFusion部署分析-BEVFusion Initialization八. 实战CUDA-BEVFusion部署分析-coordTrans Precomputation八. 实战CUDA-BEVFusion部署分析-forwardCUDA与TensorRT部署实战课程课程总结13. LLM这个专栏主要记录博主学习 LLM 的相关知识随缘更新…专栏地址https://blog.csdn.net/qq_40672115/category_12641977.htmlFinetuning vs. Prompting大语言模型两种使用方式图像生成模型浅析Stable Diffusion、DALL-E、ImagenDiffusion Model原理剖析KV Cache的原理与实现RMSNorm算子的CUDA实现Positional Encoding位置编码浅析RoPE旋转位置编码原理浅析RoPE旋转位置编码代码实现从矩阵乘法探秘TransformerDeepSeek MLA(Multi-Head Latent Attention)算法浅析DeepSeek MLA(Multi-Head Latent Attention)代码实现从Online Softmax到FlashAttentionFlash Attention原理讲解Flash Attention代码实现TransformersInternLM源码阅读理解llama.cpp如何进行LLM推理LLM中的KV Cache优化技术GGML源码逐行调试上GGML源码逐行调试中GGML源码逐行调试下MCP终极指南 - 从原理到实战带你深入掌握MCP基础篇MCP终极指南 - 带你深入掌握MCP进阶篇MCP终极指南 - 番外篇抓包分析 Cline 与模型的交互协议MCP 与 Function Calling 的关系A2A协议深度解析 - 第 1 部分双Agent同步调用场景A2A协议深度解析 - 第 2 部分流式返回 多Agent场景RAG 工作机制详解—一个高质量知识库背后的技术全流程使用Python构建RAG系统—用代码还原RAG系统的每个细节Agent 的概念、原理与构建模式 — 从零打造一个简化版的 Claude CodeContext Engineering概念与技术实现深度解析Qwen2.5-VL源码解读-图片预处理process_vision_infoQwen2.5-VL源码解读-Qwen2VLImageProcessor14. 3Blue1Brown该专利记录博主学习 3Blue1Brown 视频的笔记随缘更…3Blue1Brown 是一个由 Grant Sanderson 建立的 YouTube 频道这个频道从独特的视角解说高等数学内容包括线性代数、微积分、神经网络、黎曼猜想、傅里叶变换以及四元数等深度学习之神经网络的结构 | Chapter 1 | Deep Learning | 3Blue1Brown深度学习之梯度下降法 | Chapter 2 | Deep Learning | 3Blue1Brown直观理解反向传播 | Chapter 3 | Deep Learning | 3Blue1Brown反向传播的微积分原理 | Chapter 4 | Deep Learning | 3Blue1BrownGPT是什么直观解释Transformer | Chapter 5 | Deep Learning | 3Blue1Brown直观解释注意力机制Transformer的核心 | Chapter 6 | Deep Learning | 3Blue1Brown直观解释大语言模型如何储存事实 | Chapter 7 | Deep Learning | 3Blue1Brown15. CS336CS336 课程笔记又开新坑了随缘更…斯坦福大学 | CS336 | 从零开始构建语言模型 | Spring 2025 | 笔记 | Lecture 1: Overview and Tokenization斯坦福大学 | CS336 | 从零开始构建语言模型 | Spring 2025 | 笔记 | Lecture 2: PytorchResource Accounting斯坦福大学 | CS336 | 从零开始构建语言模型 | Spring 2025 | 笔记 | Lecture 3: ArchitecturesHyperparameters斯坦福大学 | CS336 | 从零开始构建语言模型 | Spring 2025 | 笔记 | Lecture 4: Mixtrue of experts斯坦福大学 | CS336 | 从零开始构建语言模型 | Spring 2025 | 笔记 | Lecture 5: GPUs斯坦福大学 | CS336 | 从零开始构建语言模型 | Spring 2025 | 笔记 | Lecture 6: KernelsTriton斯坦福大学 | CS336 | 从零开始构建语言模型 | Spring 2025 | 笔记 | Lecture 7: Parallelism 1斯坦福大学 | CS336 | 从零开始构建语言模型 | Spring 2025 | 笔记 | Lecture 8: Parallelism 2斯坦福大学 | CS336 | 从零开始构建语言模型 | Spring 2025 | 笔记 | Lecture 9: Scaling laws 1斯坦福大学 | CS336 | 从零开始构建语言模型 | Spring 2025 | 笔记 | Lecture 10: Inference斯坦福大学 | CS336 | 从零开始构建语言模型 | Spring 2025 | 笔记 | Lecture 11: Scaling laws 2斯坦福大学 | CS336 | 从零开始构建语言模型 | Spring 2025 | 笔记 | Lecture 12: Evaluation斯坦福大学 | CS336 | 从零开始构建语言模型 | Spring 2025 | 笔记 | Lecture 13: Data 1斯坦福大学 | CS336 | 从零开始构建语言模型 | Spring 2025 | 笔记 | Lecture 14: Data 2斯坦福大学 | CS336 | 从零开始构建语言模型 | Spring 2025 | 笔记 | Lecture 15: Alignment - SFT/RLHF斯坦福大学 | CS336 | 从零开始构建语言模型 | Spring 2025 | 笔记 | Lecture 16: Alignment - RL 1斯坦福大学 | CS336 | 从零开始构建语言模型 | Spring 2025 | 笔记 | Lecture 17: Alignment - RL 2斯坦福大学 | CS336 | 从零开始构建语言模型 | Spring 2025 | 笔记 | Assignment 1: BPE Tokenizer斯坦福大学 | CS336 | 从零开始构建语言模型 | Spring 2025 | 笔记 | Assignment 1: BPE Tokenizer Implement斯坦福大学 | CS336 | 从零开始构建语言模型 | Spring 2025 | 笔记 | Assignment 1: Transformer LM Architecture斯坦福大学 | CS336 | 从零开始构建语言模型 | Spring 2025 | 笔记 | Assignment 1: Transformer LM Architecture Implement斯坦福大学 | CS336 | 从零开始构建语言模型 | Spring 2025 | 笔记 | Assignment 1: Training Loop斯坦福大学 | CS336 | 从零开始构建语言模型 | Spring 2025 | 笔记 | Assignment 1: Training Loop Implement斯坦福大学 | CS336 | 从零开始构建语言模型 | Spring 2025 | 笔记 | Assignment 1: Experiments斯坦福大学 | CS336 | 从零开始构建语言模型 | Spring 2025 | 笔记 | Assignment 1: Experiments Implement斯坦福大学 | CS336 | 从零开始构建语言模型 | Spring 2025 | 笔记 | Assignment 2: Profiling and Benchmarking斯坦福大学 | CS336 | 从零开始构建语言模型 | Spring 2025 | 笔记 | Assignment 2: Profiling and Benchmarking Implement斯坦福大学 | CS336 | 从零开始构建语言模型 | Spring 2025 | 笔记 | Assignment 2: FlashAttention-2斯坦福大学 | CS336 | 从零开始构建语言模型 | Spring 2025 | 笔记 | Assignment 2: FlashAttention-2 Implement斯坦福大学 | CS336 | 从零开始构建语言模型 | Spring 2025 | 笔记 | Assignment 2: DDP Training斯坦福大学 | CS336 | 从零开始构建语言模型 | Spring 2025 | 笔记 | Assignment 2: DDP Training Implement斯坦福大学 | CS336 | 从零开始构建语言模型 | Spring 2025 | 笔记 | Assignment 3: Scaling Laws斯坦福大学 | CS336 | 从零开始构建语言模型 | Spring 2025 | 笔记 | Assignment 3: Scaling Laws Implement斯坦福大学 | CS336 | 从零开始构建语言模型 | Spring 2025 | 笔记 | Assignment 4: Filtering Common Crawl斯坦福大学 | CS336 | 从零开始构建语言模型 | Spring 2025 | 笔记 | Assignment 4: Filtering Common Crawl Implement斯坦福大学 | CS336 | 从零开始构建语言模型 | Spring 2025 | 笔记 | Assignment 4: Deduplication斯坦福大学 | CS336 | 从零开始构建语言模型 | Spring 2025 | 笔记 | Assignment 4: Deduplication Implement斯坦福大学 | CS336 | 从零开始构建语言模型 | Spring 2025 | 笔记 | Assignment 5: SFT斯坦福大学 | CS336 | 从零开始构建语言模型 | Spring 2025 | 笔记 | Assignment 5: SFT Implement