R语言机器学习之核心包e1071

发表评论
42,167 阅读

A+

所属分类：R语言机器学习

R语言有很多包可以做机器学习（Machine Learning）的任务。机器学习的任务主要有有监督的学习方式和无监督的学习方式。

有监督学习：在正确结果指导下的学习方式，若是正确结果是定性的，属于分类问题；若正确结果是定量的，属于回归问题。

无监督学习：在没有正确结果指导下的学习方式，例如：聚类分析、降维处理等

有很多R包可以做机器学习，本文介绍RForML之核心包:e1071

一、 e1071包简介

e1071包为什么命名e1071，详见：https://www.quora.com/Why-is-the-R-package-e1071-named-so 。

e1071包实现了机器学习里面的SVM（支持向量机）算法，NB（朴素贝叶斯）算法、模糊聚类算法、装袋聚类算法等。

二、e1071包安装和加载

e1071包是R的扩展包，需要先安装，再加载，才能使用这个包里面函数做机器学习任务。
安装和加载e1071包的代码

if(!suppressWarnings(require(e1071)))
{
install.packages('e1071')
require(e1071)
}

三、e1071包做机器学习

e1071包做预测，即分类和回归。

1、分类问题

利用SVM算法对UCI的glass数据进行分类

SVM算法

R代码

##第一步：载入mlbench的Glass数据集
if(!suppressWarnings(require(mlbench)))
{
install.packages('mlbench')
require(mlbench)
}
data(Glass, package="mlbench")
##第二步：数据集划分：训练集和测试集
index <- 1:nrow(Glass)
testindex <- sample(index, trunc(length(index)/3))
testset <- Glass[testindex,]
trainset <- Glass[-testindex,]
##第三步：构建SVM模型
svm.model <- svm(Type ~ ., data = trainset, cost = 100, gamma = 1)
##第四步：SVM模型应用到测试数据集
svm.pred <- predict(svm.model, testset[,-10])
##第五步：模型结果评估
##1混淆矩阵
table(pred = svm.pred, true = testset[,10])
##2计算Accuracy和Kappa值
classAgreement(table(pred = svm.pred, true = testset[,10]))

2、回归问题

回归算法
R代码

##第一步：载入mlbench的Ozone数据集
if(!suppressWarnings(require(mlbench)))
{
install.packages('mlbench')
require(mlbench)
}
data(Ozone, package="mlbench")
View(Ozone)
##第二步：数据集划分，训练集和测试集7:3
index <- 1:nrow(Ozone)
testindex <- sample(index, trunc(length(index)/3))
trainset <- na.omit(Ozone[-testindex,-3])##忽略训练集含有缺失值的样本
dim(trainset)
testset <- na.omit(Ozone[testindex,-3]) ##忽略测试集含有缺失值的样本
dim(testset)
##第三步：创建SVM模型
svm.model <- svm(V4 ~ ., data = trainset, cost = 1000, gamma = 0.0001)
##第四步：利用SVM 模型预测目标变量的值
svm.pred <- predict(svm.model, testset[,-3])
##第五步：计算MSE(Mean Squared Error)
crossprod(svm.pred - testset[,3]) / length(testindex)

参考资料

1 SVM算法：https://en.wikipedia.org/wiki/Support_vector_machine

2 NB分类器：https://en.wikipedia.org/wiki/Naive_Bayes_classifier

3 回归算法：https://en.wikipedia.org/wiki/Regression_analysis

4 e1071包说明文档：https://cran.r-project.org/web/packages/e1071/

作者：JackWang

个人介绍：专注于从数据中学习，努力发掘数据之洞见，积极利用数据之价值。