新智元推荐 来源：专知 编辑整理：元子 【新智元导读】市面上很多人工智能相关的书籍。大部分的书，面向小白，内容深度不够；小部分教材书或者科研书，内容艰深，又过于复杂。那么有没有，面向算法工程师（程序员）人群的，面向有一定数学基础、算法基础，能够快速上手写代码的人群的人工智能手册呢？有的！而且免费开源，非常有程序员范！《AI算法工程师手册》你值得拥有！来新智元AI朋友圈和行业大咖讨论吧～ 市面上很多人工智能相关的书籍。大部分的书，面向小白，内容深度不够；小部分教材书或者科研书，内容艰深，又过于复杂。那么有没有，面向算法工程师（程序员）人群的，面向有一定数学基础、算法基础，能够快速上手写代码的人群的人工智能手册呢？有的！而且免费开源，非常有程序员范！《AI算法工程师手册》你值得拥有！ 作者Github：https：github。comhuaxz1986 手册地址：http：www。huaxiaozhuan。com 手册目录： 数学基础 1。线性代数基础 一、基本知识 二、向量操作 三、矩阵运算 四、特殊函数 2。概率论基础 一、概率与分布 二、期望和方差 三、大数定律及中心极限定理 五、常见概率分布 六、先验分布与后验分布 七、信息论 八、其它 3。数值计算基础 一、数值稳定性 二、梯度下降法 三、二阶导数与海森矩阵 四、牛顿法 五、拟牛顿法 六、约束优化 4。蒙特卡洛方法与MCMC采样 一、蒙特卡洛方法 二、马尔可夫链 三、MCMC采样 统计学习 0。机器学习简介 一、基本概念 二、监督学习 三、机器学习三要素 机器学习的对象是：具有一定的统计规律的数据。 机器学习根据任务类型，可以划分为： 监督学习任务：从已标记的训练数据来训练模型。主要分为：分类任务、回归任务、序列标注任务。 无监督学习任务：从未标记的训练数据来训练模型。主要分为：聚类任务、降维任务。 半监督学习任务：用大量的未标记训练数据和少量的已标记数据来训练模型。 强化学习任务：从系统与环境的大量交互知识中训练模型。 机器学习根据算法类型，可以划分为： 传统统计学习：基于数学模型的机器学习方法。包括SVM、逻辑回归、决策树等。 这一类算法基于严格的数学推理，具有可解释性强、运行速度快、可应用于小规模数据集的特点。 深度学习：基于神经网络的机器学习方法。包括前馈神经网络、卷积神经网络、递归神经网络等。 这一类算法基于神经网络，可解释性较差，强烈依赖于数据集规模。但是这类算法在语音、视觉、自然语言等领域非常成功。 没有免费的午餐定理（NoFreeLunchTheorem：NFL）：对于一个学习算法A，如果在某些问题上它比算法B好，那么必然存在另一些问题，在那些问题中B比A更好。因此不存在这样的算法：它在所有的问题上都取得最佳的性能。因此要谈论算法的优劣必须基于具体的学习问题。 1。线性代数基础 一、线性回归 二、广义线性模型 三、对数几率回归 四、线性判别分析 五、感知机 2。支持向量机 一、线性可分支持向量机 二、线性支持向量机 三、非线性支持向量机 四、支持向量回归 五、SVDD 六、序列最小最优化方法 七、其它讨论 3。朴素贝叶斯 一、贝叶斯定理 二、朴素贝叶斯法 三、半朴素贝叶斯分类器 四、其它讨论 4。决策树 一、原理 二、特征选择 三、生成算法 四、剪枝算法 五、CART树 六、连续值、缺失值处理 七、多变量决策树 5。knn 一、k近邻算法 二、kd树 6。集成学习 一、集成学习误差 二、Boosting 三、Bagging 四、集成策略 五、多样性分析 7。梯度提升树 一、提升树 二、xgboost 三、LightGBM 8。特征工程 一、缺失值处理 二、特征编码 三、数据标准化、正则化 四、特征选择 五、稀疏表示和字典学习 六、多类分类问题 七、类别不平衡问题 9。模型评估 一、泛化能力 二、过拟合、欠拟合 三、偏差方差分解 四、参数估计准则 五、泛化能力评估 六、训练集、验证集、测试集 七、性能度量 七、超参数调节 八、传统机器学习的挑战 10。降维 一、维度灾难 二、主成分分析PCA 三、核化线性降维KPCA 四、流形学习 五、度量学习 六、概率PCA 七、独立成分分析 八、tSNE 九、LargeVis 11。聚类 一、性能度量 二、原型聚类 三、密度聚类 四、层次聚类 五、谱聚类 12。半监督学习 半监督学习 一、生成式半监督学习方法 二、半监督SVM 三、图半监督学习 四、基于分歧的方法 五、半监督聚类 六、总结 13。EM算法 一、示例 二、EM算法原理 三、EM算法与高斯混合模型 四、EM算法与kmeans模型 五、EM算法的推广 14。最大熵算法 一、最大熵模型MEM 二、分类任务最大熵模型 三、最大熵的学习 15。隐马尔可夫模型 一、隐马尔可夫模型HMM 二、HMM基本问题 三、最大熵马尔科夫模型MEMM 16。概率图与条件随机场 一、概率图模型 二、贝叶斯网络 三、马尔可夫随机场 四、条件随机场CRF 17。边际概率推断 一、精确推断 二、近似推断 18。主题模型 一、UnigramModel 二、pLSAModel 三、LDAModel 四、LDA优化 五、sentenceLDA 六、模型讨论 深度学习 0。深度学习简介 一、介绍 二、历史 深度学习：计算机从经验中学习，以层次化的概念（concept）来理解世界。 从经验中学习：避免了人工指定计算机学习所需的所有知识。 层次化的概念：计算机通过从简单的概念来构建、学习更复杂的概念。 如果绘制一张图来展示这些概念的关系，那么这张图是一个深度的层次结构，因此称这种方法为深度学习。 1。深度前馈神经网络 深度前馈网络（deepfeedfowardnetwork）也称作前馈神经网络（feedforwardneuralnetwork）或者多层感知机（multilayerperceptron：MLP），它是最典型的深度学习模型。卷积神经网络就是一种特殊的深度前馈网络。深度前馈网络也是循环神经网络的基础。 一、基础 二、损失函数 三、输出单元 四、隐单元 五、结构设计 六、历史小记 2。反向传播算法 一、链式法则 二、反向传播 三、算法实现 四、自动微分 3。正则化 一、参数范数正则化 二、显式约束正则化 三、数据集增强 四、噪声鲁棒性 五、早停 六、参数相对约束 七、dropout 八、对抗训练 九、正切传播算法 十、其它相关 4。最优化基础 一、代价函数 二、神经网络最优化挑战 三、minibatch 四、基本优化算法 五、自适应学习率算法 六、二阶近似方法 七、共轭梯度法 八、优化策略和元算法 九、参数初始化策略 十、Normalization 十一、OnlineLearning 5。卷积神经网络：卷积神经网络convolutionalneuralnetwork：CNN：是指那些至少在网络的某一层中使用了卷积运算来代替一般的矩阵乘法运算的神经网络。卷积神经网络专门处理具有类似网格结构的数据的神经网络。如：时间序列是一维网格，图像数据是二维网格。 一、卷积运算 二、卷积层、池化层 三、基本卷积的变体 四、应用 五、历史和现状 5。1。CNN之图片分类 一、LeNet 二、AlexNet 三、VGGNet 四、Inception 五、ResNet 六、ResNet变种 七、SENet 八、DenseNet 九、小型网络 6。循环神经网络 一、RNN计算图 二、训练算法 三、长期依赖 四、常见RNN变种 7。Transformer 一、Transformer 二、UniversalTransformer 三、TransformerXL 四、GPT 五、BERT 六、ERNIE 七、XLNet 八、MTDNN 九、BERT扩展 8。词向量 一、向量空间模型VSM 二、LSA 三、Word2Vec 四、GloVe 五、FastText 六、ELMo 七、变种 9。传统CTR预估模型 一、LR模型 二、POLY2模型 三、FM模型 四、FFM模型 五、GBDTLR模型 六、FTRL模型 七、LSPLM模型 10。工程实践指导原则 一、性能度量 二、默认的基准模型 三、决定是否收集更多数据 四、选择超参数 五、调试策略 六、示例：数字识别系统 七、数据预处理 八、变量初始化 九、结构设计 工具 CRF CRF 一、安装 二、使用 三、Python接口 四、常见错误 lightgbm lightgbm使用指南 一、安装 二、调参 三、进阶 四、API 五、Docker xgboost xgboost使用指南 一、安装 二、调参 三、外存计算 四、GPU计算 五、单调约束 六、DARTbooster 七、PythonAPI scikitlearn 1。预处理 一、特征处理 二、特征选择 三、字典学习 四、PipeLine 2。降维 一、PCA 二、MDS 三、Isomap 四、LocallyLinearEmbedding 五、FA 六、FastICA 七、tSNE 3。监督学习模型 一、线性模型 二、支持向量机 三、贝叶斯模型 四、决策树 五、KNN 六、AdaBoost 七、梯度提升树 八、RandomForest 4。模型评估 一、数据集切分 二、性能度量 三、验证曲线amp；amp；amp；amp；学习曲线 四、超参数优化 5。聚类模型 一、KMeans 二、DBSCAN 三、MeanShift 四、AgglomerativeClustering 五、BIRCH 六、GaussianMixture 七、SpectralClustering 6。半监督学习模型 一、标签传播算法 7。隐马尔可夫模型 一、Hmmlearn 二、seqlearn spark 1。基础概念 一、核心概念 二、安装和使用 三、pysparkshell 四、独立应用 2。rdd使用 一、概述 二、创建RDD 三、转换操作 四、行动操作 五、其他方法和属性 六、持久化 七、分区 八、混洗 3。dataframe使用 一、概述 二、SparkSession 三、DataFrame创建 四、DataFrame保存 五、DataFrame 六、Row 七、Column 八、GroupedData 九、functions 4。累加器和广播变量 一、累加器 二、广播变量 numpy numpy使用指南 一、ndarray 二、ufunc函数 三、函数库 四、数组的存储和加载 scipy scipy使用指南 一、常数和特殊函数 二、拟合与优化 三、线性代数 四、统计 五、数值积分 六、稀疏矩阵 matplotlib matplotlib使用指南 一、matplotlib配置 二、matplotlibArtist 三、基本概念 四、布局 五、Path 六、patheffect 七、坐标变换 八、3D绘图 九、技巧 pandas pandas使用指南 一、基本数据结构 二、内部数据结构 三、下标存取 四、运算 五、变换 六、数据清洗 七、字符串操作 八、聚合与分组 九、时间序列 十、DataFrame绘图 十一、移动窗口函数 十二、数据加载和保存 完整版看手册地址： http：www。huaxiaozhuan。com 部分章节节选： 市面上很多人工智能相关的书籍。大部分的书，面向小白，内容深度不够；小部分教材书或者科研书，内容艰深，又过于复杂。那么有没有，面向算法工程师（程序员）人群的，面向有一定数学基础、算法基础，能够快速上手写代码的人群的人工智能手册呢？有的！而且免费开源，非常有程序员范！《AI算法工程师手册》你值得拥有！ 作者简介：
遗忘的亲情人间最珍贵的是友情，最浪漫的是爱情，最动人的是恋情，最伤感的是感情。最难得的是真情，最容易的是动情，最烦人的是心情。但人间远不只这几种情，我说最永恒的是亲情。虽然友情可贵……海公小红袍全传的主要内容是什么简介海公小红袍全传清代白话长篇侠义公案小说。又名《海公小红袍》、《小红袍》。十二卷四十二回。不题撰人。成书于清道光年间。现存主要版本有清道光十二年（1832）厦门文德堂……再写老树前不久我写过一篇叫《老树》的散文。其实老树并不老，没有上百上千年的历史。只是以前房屋四周的其它树木尽毁，只它存活了下来。相对于四周其它栽种不久的树而言，它资格最老，所以我很自然……心理分析物理学家保利与心理分析摘要沃尔夫冈保利（WolfgangPauli）1900年出生，1958年去世，1945年以其著名的保利不相容原理获得诺贝尔物理学奖。尽管保利在其物理学的世界中不断追求着完……马尾辫怎么扎好看女星马尾图鉴公开到底哪款适合你马尾发型说是女孩最爱、最好上手的发型也不为过！这回编就帮大家热搜女星们的马尾发型范本，从行走发型书BLACKPINKLISA，到金钟视后贾静雯、王净，多种马尾发型一次推荐！……中学二三事一个人大学教室呆着复习高等数学，真是枯燥，考研路漫漫，不知何时是尽头。早已厌倦这些，无奈没有背景，就像人们所说，只有背影，这话生生的刺痛着每一个农村孩子。因此，我便下定决心通过……专题足迹惊恐驾临小编：恐惧是自己想出来的。实际上我们恐惧的是自己的思想，并不是场合实际上的危险。学会与恐惧相处，因为回避恐惧只会更加恐惧。有没有一些事是让你特别害怕的，你不一定知道它是什……减肥拉伸运动有哪些减肥的话有很多的方法，一些拉伸运动就能够帮助我们减肥。拉伸运动有很多的种类，这里就说一些。首先就是有关头部的拉伸运动，一般都是要将右手举高过头顶，然后将头部往右边拉动，这样反复……荒冢一堆草没了如此热闹繁华的节日里，我的内心怎么总是清冷如斯？怎么总会有淡淡的感伤？我想去你的坟头看看。追悼会那天，知晓你要被埋葬于很僻远很荒凉的沙漠深处，我的内心就总是一颤一颤……伴娘发型做什么发型最好看时尚发型做最美女配角很简单的一款伴娘发型设计，这款发型采用了中分的设计很好的体现气质，长长的头发经过水纹烫后更显时尚，配上一款新鲜的花环，很适合那些在露天举办的婚礼哦。一般伴娘都是以长发示人……气质短发发型图片半个演艺圈的女星都剪短了近几年，愈来愈多女星加入短发行列，透过剪短展现自信的一面，让短发走向主流。以下10位亚洲女星大胆剪去留了已久的头发，焕然一新的造型引发讨论与追随风潮。宋慧乔与宋仲基自从发……夏日甜美日系妆容画法超实用甜蜜约会妆夏日甜蜜约会日系妆容完成效果图：清透的底妆，将肌肤打造得像剥了壳的鸡蛋，精致零毛孔。简单的眼妆让眼睛看上去水灵明亮，在炎热的夏季带给人一丝凉爽。最近超流行的粗眉将眼睛衬托……