第一阶段 Python基础编程

第 1 章 Python环境搭建

1.1  认识编程语言、重点介绍 Python 语言

1.2  Python 环境及开发工具的安装与使用

第 2 章 Python基础语法

2.1  行结构、缩进、注释、拼接

2.2  变量、常量、输入、输出

第 3 章 标准数据类型

3.1  数字（类型转换）、字符串（格式化、列表对象方法）

3.2  列表（访问修改、列表对象方法）、元组（元组对象方法）

3.3  字典（访问修改、字典对象方法）、集合（关系测试、集合对象方法）

3.4  序列的索引和切片、del 语句

第 4 章 拷贝 & 运算符

4.1  赋值 vs 浅拷贝 vs 深拷贝

4.2  算术运算符、比较运算、符赋值运算符

4.3  逻辑运算符、成员运算符、身份运算符

4.4  位运算符、运算符优先级

第 5 章 条件语句 &  循环语句 &  推导式

5.1  条件语句、三元表达式

5.2  while 循环、for 循环、循环控制语句

5.3  列表推导式、字典推导式、集合推导式

第 6 章 函数 & 封包解包

6.1  内置函数、 自定义函数、匿名函数

6.2  参数传递、参数分类、封包和解包

6.3  命名空间和作用域、常用高阶函数

第 7 章 面向对象编程

7.1  类对象、实例对象、类变量、实例变量

7.2  动态定义变量、类方法、对象方法、静态方法

7.3  面向对象三大特性之封装

7.4  面向对象三大特性之继承

7.5  面向对象三大特性之多态

7.6  特殊方法（魔术方法）

第 8 章 其他高级编程

8.1  闭包、装饰器

8.2  错误和异常、模块和包

8.3  可迭代对象 vs 迭代器 vs 生成器

8.4  正则表达式、文件读写等操作

第 9  章 数据结构

9.1 十大排序算法

9.2 字符串、数组、链表、哈希表、树、双指针

9.3 二分查找、动态规划、贪心算法、分治、深度优先搜索、广度优先搜索

第 10  章 数据库

10.1 MySQL 关系型数据库

10.2 Redis 非关系型数据库

第二阶段

Numpy 与数据分析，Pandas 与数据处理，Matplotlib

第 1 章 NumPy 快速入门

1.1   NumPy 数组对象

1.2   创建多维数组

1.3   多维数组的切片和索引

1.4   改变数组的维度

1.5   数组的组合

1.6   数组的分割

1.7   数组的属性

1.8   数组的转换

第 2 章 Pandas数据分析

2.1   series 数据结构

2.2   series 数据数学运算

2.3   dataframe 数据结构创建

2.4   dataframe 数据分析

2.5   dataframe 读写 csv、excel

第 3 章 Matplotlib

3.1   绘制折线图

3.2   绘制柱状图

3.3   绘制散点图

第三阶段 机器学习经典算法

第 1 章 机器学习概述

1.1   机器学习定义

1.2   机器学习、人工智能和深度学习的关系

1.3   机器学习基本概念和常用的应用场景

1.4   机器学习、数据分析、数据挖掘的区别与联系

1.5   机器学习分类

1.6   机器学习数据处理流程

第 2 章 KNN

2.1   KNN 算法原理

2.2   KNN 算法 python list 实现

2.3   KDTree

实战任务一：KNN 伪代码

实战任务二：基于鸢尾花数据的 KNN 案例

第 3 章 回归算法

3.1   线性回归算法

3.2   多项式扩展

3.3   正则化、Lasso&Ridge

3.4   机器学习调参

实战任务一：Linear 伪代码

实战任务二：基于解析式的 Linear 回归 python 实现

实战任务三：基于波士顿房屋价格的线性回归和多项式扩展

第 4 章 梯度下降

4.1   梯度下降算法原理

4.2   BGD\SGD\MBGD

实战任务一：梯度下降 python 实现

第 5 章 Logistic&Softmax

5.1   Odds 几率

5.2   Logistic 原理

5.3   Softmax 原理

实战任务一：基于乳腺癌数据的 Softmax 分类

实战任务二：基于信贷评估数据的 Logistic 分类

第 6 章 特征工程

6.1   了解特征工程在机器学习当中的重要性

6.2   特征预处理

6.3   特征提取

6.4   特征选择和特征的降维

6.5   归一化、标准化

6.6   字典数据提取、OneHot 、TF-IDF

6.7   Jieba 分词

6.8   PCA 降维和 LDA 降维

实战任务：特征工程实战

第 7 章 决策树

7.1   信息熵

7.2   决策树原理与构建

7.3   决策树可视化

实战任务一：信息熵与不纯度 python 实现

实战任务二：Python 实现决策树构建过程

实战任务三：基于鸢尾花数据的决策树案例及其可视化

第 8 章 集成学习

8.1   集成学习思想

8.2   Bagging 、随机森林

8.3   Adaboost 算法原理

8.4   GBDT 算法原理

8.5   XGBoost 算法原理

8.6   Stacking 算法原理

实战任务一：Bagging 思想 python 实现

实战任务二：随机森林案例

实战任务三：Boosting 思想 python 实现

实战任务四：Adaboost 思想 python 实现

实战任务五：GBDT 思想 python 实现

实战任务六：基于鸢尾花数据的stacking 分类案例

实战任务七：基于时间和电压数据的stacking 回归案例

第 9 章 SVM

9.1   感知器模型

实战任务一：感知器模型的 python 实现

9.2   硬间隔 SVM

9.3   软间隔 SVM

9.4   核函数

9.5   SMO

9.6   SVR

实战任务一：感知器模型 python 实现

实战任务二：基于鸢尾花数据的不同分类器比较

实战任务三：不同核函数 SVM 比较

第 10 章 贝叶斯

10.1   朴素贝叶斯算法原理

10.2   贝叶斯网络

实战任务一：基于鸢尾花数据的朴素贝叶斯案例

第 11 章 Kmeans

11.1   K-means 算法原理

11.2   K-means++

11.3   K-means ||

11.4   Mini batch K-means

11.5   聚类评估指标

实战任务一：Python 实现 K-means 伪代码

实战任务二：基于鸢尾花数据的 K-means 案例

实战任务三：K-means 肘方法案例

项目一：电信用户流失预测任务

项目背景及数据介绍

分析及数据预处理

特征工程

模型选型及优化

结果预测

项目二：天池金融风控项目

项目背景解读及数据解读

数据预处理及特征工程

模型选型及构建

结果预测及提交

第四阶段 深度学习基础

1.1  PyTorch 深度学习框架

1.2  BP 神经网络

1.3  CNN 卷积神经网络及各种卷积结构

1.4  RNN 循环神经网络及 LSTM 、GRU

1.5  激活函数

1.6  池化 pooling 的作用

1.7  Attention 注意力机制基本结构及作用

1.8  批归一化的作用：BN 、LN 、IN 、GN 、SN 等

1.9  模型过拟合解决方案：Dropout 、Dropblock 、L2 regularization 等

1.10  PyTorch 模型优化器进阶

1.11  PyTorch 模型训练学习率策略进阶

1.12  深度学习模型训练常用训练技巧介绍

1.13  经典网络结构：VGG 、GoogLeNet 、ResNet 、GhostNet 、SENet 、MobileNet 、ShuffleNet、 RepVGG 等

实战任务一：手写 BP 神经网络

实战任务二：手写数字识别系统

实战任务三：基于 CNN 的图像分类系统

第五阶段 不同方向企业实战运用项目

CV 计算机视觉

第一阶段

OpenCV PIL 与图形处理代码实战

1、OpenCV 安装

2、摄像头操作

3、图像基本操作

4、颜色空间转换

5、阈值分割

6、图像几何变换

7、图像混合

8、平滑图像

9、边缘检测

10、腐蚀与膨胀

11、轮廓与特征

12、直方图

13、模板匹配

项目实战一：基于 OpenCV 的车牌识别

项目实战二：基于 Haar特征的人脸识别

第二阶段 CV  深度学习项目课

CV 项目前置知识

传统计算机视觉框架 OpenCV 基本应用

目标检测相关检测算法知识：RCNN 、Fast RCNN 、Faster RCNN、SSD、YOLO v1-v8 、DETR、 Anchor DETR 等

目标追踪相关算法知识：匈牙利算法、卡尔曼滤波、Deep Sort 等

人脸识别相关算法知识：Deep Face 、Face Net 、Sphere Face 、Cos Face 、Ada Face 等 OCR 字符识别相关算法知识：CNN 、RNN 、CRNN 、TrOCR 、CTC Loss 等

图像生成相关算法知识：AE 、GAN 、Stable Diffusion 、Diffusion Transformers 等

图像分割相关算法知识：U-Net 、DeepLab 、YOLO v5-v8 等

项目应用相关知识：视频结构化处理流程、模型部署应用流程等

CV 项目一： 目标检测（ 一种工业缺陷检测，违规车牌检测， 自动驾驶等核心技术）

目标检测效果展示

目标检测项目背景和应用场景

目标检测常用算法 RCNN 、Fast RCNN 、Faster RCNN 、SSD 、YOLO v1-v9 介绍及原理 RPN 网络结构及原理

ROI pooling 实现

anchors 生成原理

NMS 和 Soft NMS

上采样

膨胀卷积

多任务损失函数设计

IOU 计算原理

边框回归

目标分类损失函数设计和改进

难样本挖掘之 Focus Loss 设计

目标检测评价指标介绍

算法准确率提升之检测框集成

算法准确率提升之特征集成

制作自己的目标检测数据之数据标注

制作自己的目标检测数据之数据转化为结构化数据

模型源码讲解之模块设计思想

模型源码讲解之代码剖析

模型源码讲解之代码详细调试

模型的训练和调参技巧

模型的部署及预测

CV 项目二：行人重识别和大规模图像检索

图像检索效果展示

行人重识别和大规模图像检索的项目背景和应用场景

重点、难点详解

行人重识别当前全球准确率最高模型详解

ABD-Net网络架构和论文导读

特征加入 Attention 和多样性设计详解

Orthogonality Regularization 正交正则化：一种多样化特征神器

通道权重模块详解

位置权重模块详解

全局特征嵌入和融合

数据标注和转化

模型源码讲解之代码详细调试

模型训练和参数调优

模型的部署及预测

CV 项目三：人脸识别（支付宝刷脸支付，公安部人脸认证，人脸考勤等）

人脸识别效果展示

人脸识别项目背景，应用场景，实现原理

不同人脸识别算法 Center Loss ，SphereFace ，Cosine Margin Loss，Angular Margin Loss 优 缺点分析，如何设计高准确率的人脸检测模型

人脸识别损失函数设计原理

Arcface 等论文导读及算法详解

人脸识别数据标注方法，标签生成

人脸识别算法的架构和模块详解

数据增强与样本不均衡处理

模型源码讲解之人脸识别特征提取网络设计

模型源码讲解之 Arcface代码实现

模型源码讲解之模型优化及准确率提升技巧

模型源码讲解之预测模块实现和部署

CV 项目四：OCR 字符检测

OCR 效果展示

OCR 项目背景及应用场景介绍

OCR 常用深度学习算法知识学习

不定文本长序列预测方式讲解

模型源码讲解

模型训练及调参

模型部署应用

CV 项目五：图像生成

图像生成效果展示

图像生成项目背景及应用场景介绍

text-to-image 图像生成技术及方式

项目源码讲解

项目代码部署及应用

（高性能部署）

第一阶段 C++编程

第 1 章 初识 C++

1.1   Linux 学习环境搭建

1.2   Linux 常用指令学习

1.3   C++ 与 Python 对比

1.4   Windows C++  和 Linux C++对比

1.5   C++ 编译原理

1.6   C++ 开发调试环境搭建

1.7   g++ 和 Makefile 编译

第 2 章 C++基础

2.1   C++ 语句

2.2   其他 C++ 语句

2.3   函数

第 3 章 处理数据

3.1   变量

3.2   const  限定符

3.3   浮点数

3.4   C++ 算术运算符

第 4 章 复合类型

4.1   数组

4.2   字符串

4.3   string 类简介

4.4   结构简介

4.5   共用体

4.6   枚举

4.7   指针和自由存储空间

4.8   指针、数组和指针算术

4.9   类型组合

4.10 数组的替代品

第 5 章 循环关系和表达式

5.1   for 循环

5.2   while 循环

5.3   do while 循环

5.4   基于范围的 for 循环（C++11）

5.5   循环和文本输入

5.6   嵌套循环和二维数组

第 6 章 分支语句和逻辑运算符

6.1   if 语句

6.2   逻辑表达式

6.3   字符函数库 cctype

6.4   ？：运算符

6.5   switch 语句

6.6   break 和 continue 语句

6.7   读取数字的循环

6.8   文件的输入/输出

第 7 章 函数 --- C++  编程模块

7.1   函数参数和按值传递

7.2   函数、数组和二维数组

7.3   函数和 C-风格字符串

7.4   函数和结构

7.5   函数和 string 对象

7.6   函数和 array 对象

7.7   递归

7.8   函数指针

第 8 章 函数探幽

8.1   C++内联函数

8.2   引用变量

8.3   默认参数

8.4   函数重载

8.5   函数模板

第 9 章 内存模型和名称空间

9.1   单独编译

9.2   存储持续性、作用域和链接性

9.3   名称空间

第 10 章 对象和类

10.1   过程性编程和面相对象编程

10.2   抽象和类

10.3   类的构造函数和析构函数

10.4   this 指针

10.5   对象数组

10.6   类作用域

10.7   抽象数据类型

第 11 章 使用类

11.1   运算符重载

11.2   计算时间：一个运算符重载示例

11.3   友元

11.4   重载运算符：作为成员函数还是非成员函数

11.5   再谈重载：一个矢量类

11.6   类的自动转换和强制类型转换

第 12 章 类和动态内存分配

12.1   动态内存和类

12.2   改进后的新 String 类

12.3   在构造函数中使用 new 时应注意的事项

12.4   有关返回对象的说明

12.5   使用指向对象的指针

12.6   队列模拟

第 13 章 类继承

13.1   一个简单的基类

13.2   继承：is-a 关系

13.3   多态公有继承

13.4   静态联编和动态联编

13.5   访问控制：protected

13.6   抽象基类

13.7   继承和动态内存分配

13.8   类设计回顾

第二阶段 用 C++实现模型的高性能部署

1、理解 RING ALLREDUCE  原理， 实现 DDP  分布式并行训练

2、认识并了解 CUDA（Compute Unified Device Architecture）

3、学习 CUDA 编程，熟悉 GRIDDIM BLOCKDIMCUDA ，CUDA WARPAFFINE，

4、CUDASTREAM 和 EVENT  的使用

5、学习并掌握 TensorRT  的 CNN  搭建

6、TensorRT  的 IMAGE  分类之 ONNX  解析器及配置

7、TensorRT  的 IMAGE  分类之 具体推理实现

8、TensorRT  的框架使用

9、TensorRT 插件

10、实现 YOLOv5 CUDA 推理 FLASK 技术应用，模型部署

NLP  自然语言处理

NLP 项目前置知识

分词及常用分词工具介绍

词向量 Word2Vec 结构及原理介绍

传统自然语言常用工具介绍：jieba 、HanLP 、gensim 等

Seq2Seq 序列生成网络结构讲解

Attention 结构讲解：Self-Attention 、Multi-Head Attention 、Flash Attention 等

Transformer 算法结构讲解

Bert 算法结构及 Bert 变种算法讲解

T5 算法结构及 T5 变种算法讲解

GPT 算法结构及 GPT 变种算法讲解

常用大语言模型算法原理结构、微调训练及部署应用讲解

NLP 项目一：语言模型，NLP 深度学习技术的基石

语言模型应用场景，技术背景

从 word2vec 到 Bert ，再到霸屏的 ALBERT 设计原理详解和论文阅读

BERT 特征之字符特征嵌入

BERT 特征之位置特征嵌入

BERT 特征之句子特征嵌入

BERT 特征抽取之 transformer 结构设计

遮蔽语言模型

Transformer 多头注意力机制详解

Transformer 层归一化机制

多任务损失函数设计

样本标签自动产生

ALBERT 因式分解 Factorized embedding parameterization

ALBERT 跨层参数共享 Cross-Layer Parameter Sharing

ALBERT 段落连续性任务 Inter-sentence coherence loss

ALBERT 代码调试、性能调优核心源码分析

中文数据准备和格式预处理

ALBERT 模型训练及参数调试

ALBERT 模型预测

NLP 项目二：多标签文本分类（淘宝京东评价数据评分，大众汽车客户评价分类，法律类 似案件推荐，相似新闻分类）

项目背景介绍和企业应用场景

bert 和卷积神经网络加全局 attention 机制算法效果展示及 99%准确率如何炼成的

bert 和卷积神经网络加全局 attention 机制多标签文本分类前沿算法架构设计

数据格式设计和标签样例

制作自己的数据集

Bert 特征抽取模块设计

卷积神经网络特征优化

全局 attention 机制特征的融合

Bert 输入数据的改进

把 TPU 支持切换为 GPU 支持

损失函数的设计原理

模型的训练和参数优化

模型的预测和部署

NLP 项目三：命名实体识别系统（顺丰快递寄件物品，地址等识别；医疗辅助决策系统药

品，疾病，症状；知识图谱实体识别等核心技术）

命名实体识别效果展示

命名实体识别项目背景和企业应用场景介绍

命名实体识别全球准确率最高模型介绍

特征设计和模型嵌入

语言模型的嵌入

特征提取模块详解

网络的结构设计和参数详解

训练数据的自动生成和人工标注修复错误

训练数据转化为模型需要的格式

核心代码详解：调试、难点语法分析、调优、重写和升级

模型的训练和参数调整

模型的预测和企业化部署

NLP 项目四：基于多任务学习联合模型的知识抽取系统（构建百度知心、搜狗知立方、谷 歌 freebase 和微软 Microsoft Concept Graph 等行业知识图谱核心技术）

知识抽取系统效果展示和分析

知识抽取系统行业背景和企业应用场景介绍

全球准确率最高知识抽取模型介绍和详解

联合模型结构和模块详解

非联合模型结构和联合模型结构异同和性能分析

实体识别模块设计

关系分类模块设计

特征融合模块详解

标签表征和嵌入模块详解

特征的提取、表征和嵌入

联合模型实体关系标签转化和预测

多任务损失函数的设计和详解

Softmax 单标签和 Sigmoid 多标签区别

如何解决多实体对多关系问题

模型训练和参数调整

模型预测和企业部署

NLP 项目五：基于大语言模型的聊天机器人

聊天机器人应用展示

大语言模型的预训练及微调

基于 Lang Chain 的知识问答系统搭建

大语言模型的工具软件使用

text-to-text 文本生成技术及方式

项目部署应用

推荐系统

推荐系统前置知识

推荐系统企业的应用背景，场景以及技术架构

推荐系统离线评价指标 AUC 、MAP 、NDCG 等

推荐系统在线评价方式 AB Test及实现方式

推荐系统协同过滤体系召回算法

推荐系统矩阵分解 MF 体系召回算法

推荐系统 FM 、FFM 体系相关召回、精排算法

推荐系统 LR 、GBDT+LR 体系相关精排算法

推荐系统 DeepFM 、xDeepFM 体系相关精排算法

推荐系统 DSSM 体系的双塔结构召回算法

推荐系统 YoutubeNet 体系的召回、精排算法

推荐系统 DIN 、DIEN 等深度兴趣网络体系相关的精排算法

推荐系统 MMOE 、ESMM 多目标任务融合体系的相关算法

推荐系统向量召回算法及服务实现

推荐系统整体系的项目实现:包括召回、过滤、精排等各阶段规则模型和业务逻辑&融合

推荐系统项目一： 电影推荐系统实战

电影推荐项目概要和背景介绍

电影数据的采集、标注和预处理

推荐系统架构体系介绍

推荐系统召回、过滤、粗排、精排、重排各个核心模块的实现策略及常用算法讲解 基于深度学习、Transformer 等技术栈的模型设计

多维度的模型融合

系统上线部署、优化

线上模型更新、AB 测试

推荐系统项目二：基于知识图谱的推荐系统实战

Neo4j 应用及优化介绍

Neo4j 数据管理、应用方式介绍

基于知识图谱的推荐架构体系介绍

基于知识图谱的召回、精排等各阶段规则模型的设计及开发

部署、优化、上线、监测

推荐系统项目三：基于用户兴趣挖掘的推荐系统

DIN 等体系算法原理讲解

DIN 等体系算法上线相关推荐架构讲解

DIN 等算法模型部署、优化、上线

线上模型更新、AB 测试

推荐系统项目四：基于多目标的推荐系统

多目标推荐系统应用场景介绍

多目标推荐系统现有技术缺陷介绍

MMOE 体系多目标算法结构原理讲解

多目标校准

线上模型更新、AB 测试

（多模态模型 、AIGC 及大模型）

第 1 章 多模态模型

1.1   多模态模型的发展趋势

1.2 Transformer 基本结构

1.3 ViT(Vision Transformer)模型结构

1.4 Swin Transformer 模型结构

1.5 DETR 模型结构

1.6 Deformable DETR 模型结构

第 2 章 AIGC

2.1 AIGC 内容生成基本概念及模型方式

2.2 text-to-image 图像生成技术及方式

2.3 image-to-text 文本生成技术及方式

2.4 text-to-text 文本生成技术及方式

2.5 text-to-video 视频生成技术及方式

2.6 基于 GAN 系列的生成算法模型及应用

2.7 基于 Diffusion 系列的生成算法模型及应用

2.8 基于 Transformer 系列的生成算法模型及应用

第 3 章 大语言模型

3.1 CharGPT 基本原理

3.2 大语言模型的预训练及微调

3.3 基于 LangChain 的知识问答系统搭建

3.4 大语言模型的最新研究进展

3.5 大语言模型的工具软件使用

3.6 基于大语言模型的对话系统、文本生成等自然语言处理