目录

目录

• 封面

• 目录

机器学习算法地图

machine-learning-map

前言

• 前言
• 个人前言
• 机器学习前言

  • 什么是机器学习和模式识别
  • 机器学习的应用
  • 机器学习的流程
  • 不同机器学习算法预测效果不同
  • 快速入门机器学习
  • 机器学习需要参考哪些书
  • 机器学习的学习路径
  • 深度学习的学习路径
  • 互联网机器学习特定岗位所需技能
• 机器学习面试

数学基础

• 数学基础

• 微积分

  • 泰勒展开
  • e的直观认识
  • 傅里叶变换
  • 希尔伯特空间
• 线性代数

  • 范数
  • 矩阵求导
  • 特征值
  • SVD奇异值分解
• 概率与信息论

  • 综述概率论基本定义
  • 概率论与贝叶斯先验
  • 正态分布
  • 贝叶斯概率
  • 概率符号说明
  • 共轭先验
  • 概率图模型
  • 信息论
• 数值计算与优化

  • 最小二乘法
  • 等式约束的拉格朗日乘子法
  • 凸优化

    • 凸集和凸函数
    • 凸优化问题
• 梯度下降算法

  • 随机梯度下降SGD
  • 动量法Momentum
  • 牛顿动量Nesterov
  • AdaGrad
  • RMSprop
  • Adadelta
  • Adam
  • Nadam
  • AMSGrad
  • AdasMax
• 概率图模型

  • 概率图模型概论
  • 概率图简介

编程基础

• 编程基础

• linux

  • linux常用命令
  • shell

    • 输入输出重定向
• python

  • python简介
  • python语法

    • 基础语法
    • 数据结构
    • 过程控制
    • 函数
    • 类和对象
    • 文件操作
    • 正则表达式
  • python库

    • numpy
    • pandas
    • scipy
    • matplotlib
    • scikit-learn
  • python应用

    • 排序算法
• 数据结构与算法

  • 数据结构
  • 算法思想

    • 排序

      • 堆排序
      • 归并排序
      • 快速排序
    • 递归
  • 剑指offer

    • 链表
    • 二叉树
    • 数组
    • 字符串
    • 栈和队列
    • 递归和回溯法
    • 动态规划
    • 其他
  • leetcode
  • 编程语言

    • c++
• Hadoop

  • Hadoop简介
• MapReduce
• Hive
• Spark

• TensorFlow

  • TensorFlow1.0

    • TensorFlow基础
    • TensorFlow基础概念解析
    • TensorFlow机器学习基础
    • Tensorflow分布式架构
  • TensorFlow2.0
• PyTorch

机器学习

• 机器学习
• 机器学习概论
• 特征工程
• 感知机
• k近邻
• 朴素贝叶斯
• 线性模型

  • 最大熵模型
  • 指数族分布与广义线性模型
  • 线性回归

    • Ridge回归（岭回归）
    • Lasso回归
  • Logistic回归-对数几率回归
• 决策树
• 支持向量机

  • 线性可分支持向量机与硬间隔最大化
  • 线性支持向量机与软间隔最大化
  • 非线性支持向量机与核函数
  • 序列最小最优化算法SMO
  • SVM总结
• 集成学习

  • Bagging

    • 随机森林
  • Boosting

    • AdaBoost
    • GradientBoosting

      • GBDT
      • XGBoost

        • XGBoost理论
        • XGBoost实践
  • Stacking

• 降维

  • PCA主成分分析
  • 流形学习
• EM算法
• HMM隐马尔科夫模型
• CRF条件随机场
• 聚类

  • k均值聚类
  • 高斯混合模型
• 主题模型

  • LDA隐狄利克雷分布
• 知识点

  • 损失函数
  • 负采样
• 机器学习算法总结

深度学习

• 深度学习
• 深度学习概论
• ANN人工神经网络
• 知识点

  • Batch Normalization
• CNN卷积神经网络
• 深度学习优化算法
• RNN循环神经网络
• LSTM长短期记忆网络
• GRU门控循环单元
• GNN图神经网络

  • GNN图神经网络综述
  • GCN图卷积网络

    • GCN图卷积网络初步理解
    • GCN图卷积网络的numpy简单实现
    • GCN图卷积网络本质理解
    • GCN图卷积网络全面理解
    • SEMI-SUPERVISED CLASSIFICATION WITH GRAPH CONVOLUTIONAL NETWORKS ICLR2017
• 神经网络架构搜索

  • Weight-Agnostic-Neural-Networks Google2019

强化学习

• 强化学习

• 强化学习概论
• 马尔科夫决策过程
• 动态规划
• 无模型方法一：蒙特卡洛
• 无模型方法二：时间差分
• 无模型方法三：多步自举
• 函数近似和深度网络
• 策略梯度算法
• 深度强化学习
• 基于模型的强化学习
• 强化学习前景

自然语言处理

• 自然语言处理
• 自然语言处理概论
• 自然语言
• 语言模型和中文分词
• word2vec
• Seq2Seq模型和Attention机制
• Self-Attention和Transformer

知识图谱

• 知识图谱

推荐系统

• 推荐系统
• 推荐系统概述
• 基础知识

• 进阶知识

  • 机器学习

    • Factorization Machines ICDM2010
  • embedding

    • Network Embedding

      • LINE: Large-scale Information Network Embedding
  • 深度学习

    • DeepFM: A Factorization-Machine based Neural Network for CTR Prediction 2017
    • DSSM: Learning Deep Structured Semantic Models for Web Search using Clickthrough Data CIKM2013
  • 图卷积网络

    • Graph Convolutional Neural Networks for Web-Scale Recommender Systems KDD2018
  • 强化学习

    • DRN基于深度强化学习的新闻推荐模型
• 业界应用

  • YouTube

    • Deep Neural Networks for YouTube Recommendations RecSys2016
  • Alibaba

    • Learning Tree-based Deep Model for Recommender Systems KDD2018
    • Deep Interest Network for Click-Through Rate Prediction KDD2018
    • DSIN:Deep Session Interest Network for Click-Through Rate Prediction IJCAI2019