机器学习是计算机科学和统计学的边缘交叉领域，R关于机器学习的包主要包括以下几个方面： 1）神经网络（Neural Networks）：

nnet包执行单隐层前馈神经网络，nnet是VR包的一部分。 2）递归拆分（Recursive Partitioning）：

递归拆分利用树形结构模型，来做回归、分类和生存分析，主要在rpart包和tree包里执行，尤其推荐rpart包。Weka里也有这样的递归拆分法，如：J4.8, C4.5, M5，包Rweka提供了R与Weka的函数的接口。 party包提供两类递归拆分算法，能做到无偏的变量选择和停止标准：函数ctree()用非参条件推断法检测自变量和因变量的关系；而函数mob()能用来建立参数模型。另外，party包里也提供二分支树和节点分布的可视化展示。 mvpart包是rpart的改进包，处理多元因变量的问题。rpart.permutation包用置换法（permutation）评估树的有效性。knnTree包建立一个分类树，每个叶子节点是一个knn分类器。LogicReg包做逻辑回归分析，针对大多数自变量是二元变量的情况。maptree包和pinktoe包提供树结构的可视化函数。 3）随机森林（Random Forests）：

randomForest 包提供了用随机森林做回归和分类的函数。ipred包用bagging的思想做回归，分类和生存分析，组合多个模型。party包也提供了基于条件推断树的随机森林法。varSelRF包用随机森林法做变量选择。 4）Regularized and Shrinkage Methods：

lasso2包和lars包可以执行参数受到某些限制的回归模型。elasticnet包可计算所有的收缩参数。glmpath包可以得到广义线性模型和COX模型的L1 regularization path。penalized包执行lasso (L1) 和ridge (L2)惩罚回归模型（penalized regression models）。pamr包执行缩小重心分类法(shrunken centroids classifier)。earth包可做多元自适应样条回归（multivariate adaptive regression splines）。 5）Boosting :

gbm包和boost包执行多种多样的梯度boosting算法，gbm包做基于树的梯度下降boosting，boost包包括LogitBoost和L2Boost。GAMMoost包提供基于boosting的广义相加模型(generalized additive models)的程序。mboost包做基于模型的boosting。 6）支持向量机（Support Vector Machines）：

e1071包的svm()函数提供R和LIBSVM的接口 。kernlab包为基于核函数的学习方法提供了一个灵活的框架，包括SVM、RVM…… 。klaR 包提供了R和SVMlight的接口。 7）贝叶斯方法（Bayesian Methods）：

BayesTree包执行Bayesian Additive Regression Trees (BART)算法。tgp包做Bayesian半参数非线性回归（Bayesian nonstationary, semiparametric nonlinear regression）。 8）基于遗传算法的最优化（Optimization using Genetic Algorithms）：

gafit包和rgenoud包提供基于遗传算法的最优化程序。 9）关联规则（Association Rules）：

arules包提供了有效处理稀疏二元数据的数据结构，而且提供函数执Apriori和Eclat算法挖掘频繁项集、最大频繁项集、闭频繁项集和关联规则。 10）模型选择和确认（Model selection and validation）：

e1071包的tune()函数在指定的范围内选取合适的参数。ipred包的errorest()函数用重抽样的方法（交叉验证，bootstrap）估计分类错误率。svmpath包里的函数可用来选取支持向量机的cost参数C。ROCR包提供了可视化分类器执行效果的函数，如画ROC曲线。caret包供了各种建立预测模型的函数，包括参数选择和重要性量度。caretLSF包和caretNWS包提供了与caret包类似的功能。 11）统计学习基础（Elements of Statistical Learning）： 书《The Elements of Statistical Learning: Data Mining, Inference, and Prediction 》里的数据集、函数、例子都被打包放在ElemStatLearn包里。 另外推荐《统计学的世界》会加深你对统计学知识的理解。12）R统计软件的Lars算法的软件包提供了Lasso算法。根据模型改进的需要，数据挖掘工作者可以借助于Lasso算法，利用AIC准则和BIC准则精炼简化统计模型的变量集合，达到降维的目的。因此，Lasso算法是可以应用到数据挖掘中的实用算法。glasso（graphical lasso）是lasso方法的一种扩展，采用加罚的极大似然方法估计变量间协方差矩阵的逆矩阵（这个逆矩阵在图模型中被称为Concentration Matrix或者Precision Matrix），加以适当整理之后，可以得到变量间的稀疏化的偏相关系数矩阵，其中的零元素表示了变量间的条件独立关系。我们可以利用其中的非零元素生成图模型。

整理自豆瓣：http://www.douban.com/note/262946592/?type=like

欢迎关注