Index
基础机器学习
线性回归相关
普通的线性回归，最小二乘法求解，矩阵解推导？
- 矩阵trace相关理解
- 列出求解方程
- 写出形式化结果
普通的线性回归，使用梯度下降求解过程？
- 目标函数
- 求导过程
- 参数更新过程
当线性回归出现过拟合问题，如何解，L1和L2的区别？
L1和L2的区别可以从多种角度进行分析
- 图形化可行解的区域
- KKT条件
- 尝试用梯度解析
- 概率分布
基于普通的线性回归，lasso和ridge分别对应哪些改进？
lasso: L1正则
ridge: L2正则
lasso回归，优化过程？
- 坐标下降法
- 近端梯度下降（Proximal Gradient Desent, PGD）
- 最小角回归(LARS)
rigge回归，优化过程？
- 梯度下降法
- 最小二乘法
