京公网安备 11010802034615号
经营许可证编号:京B2-20210330
什么是关系型数据库及数据库管理系统
数据库(Database)是一种数据的组织和存储方式,通常用于处理结构化的数据。
而关系型数据库(Relational Database)指的是创建在关系模型的基础上的数据库。它借助于集合代数等数学概念和方法来处理数据库中的数据。
数据库管理系统(DBMS,Database Management System),是一种专门用于存储、修改并从数据库提取信息的系统软件。
主流的关系型数据库管理系统主要有:MySQL,ORACLE, MS ACCESS,DB2等。
其中,MySQL属于开源软件,而其他的主流数据库管理系统基本都是商业软件。由于很多互联网公司数据库都是采用MySQL进行数据库的管理,所以今天我们主要介绍MySQL的安装、配置及其与R的交互。
SQL(Structured Query Language)是一种专门用来与数据库进行沟通的语言。
使用SQL可以对数据库中的数据进行增、删、查、改、权限管理等操作。
常用关键词:SELECT,UPDATE,DELETE,INSERT.
管理关键词:CREATE,ALTER,DROP
常用子句、关键词:FROM,WHERE,GROUP BY,ORDER BY
为什么要学习SQL
很多同学可能会很疑惑:对于数据的增删查改等需求,我们的R不是已经有非常方便的操作了吗?为什么还要多学一门语言呢?
R擅长的领域是数据分析,然而,对于数据存储,却存在很大的问题。一个非常明显的缺陷是:所有数据均要读入内存。这就造成了R能处理的数据量存在一个瓶颈。当我们要处理的数据观测数达到上亿级别的时候,R就显得力所不逮了。
数据库能解决的当然不止这一个问题。
当我们遇到如下情景时,数据库就显得非常重要了:
当你的数据需要通过网站在线展示;
当你在一个团队中工作,你和你的协作成员要同时操作同一个数据集;
当你需要为不同的数据用户赋予不同的使用权限;
当你要处理的数据量超过了你的电脑内存;
当你面对的数据集非常复杂,不能统一组织到一个数据集中时;
当你的数据量非常庞大,但你又经常要频繁地获取它的一些子集时;
当你的几个数据集关联性很大,更新一个数据集需要同时更新另外一些数据集时;
当你对数据的格式要求很严格时。
而如果我们经常与数据打交道,以上的问题是必不可免的。
可见,要想成为一名优秀的数据科学家,学习SQL还是非常有必要的。
当然,SQL虽然是一门语言,但是它有一些非常吸引人的优点:
几乎所有重要的DBMS都支持SQL;
SQL语法简明,简单易学;
SQL非常灵活,功能强大。
所以,虽然又得多学一门语言,但是也不必苦恼。想想能够几天掌握一门新的语言,也是挺让人激动的呢:)
MySQL的安装及环境配置
MySQL是一款开软的数据库管理系统,因此我们可以通过在官网进行软件的自由下载安装。
对于入门的同学来说,MySQL Community Server和MySQL Workbench CE结合起来使用是一个不错的开始。MySQL Workbench CE是MySQL的一个开发环境,具有非常友好的交互界面。它跟MySQL的关系如同Rstudio和R的关系。
SQL基本操作——案例学习
安装完毕,我们就可以启动MySQL Workbench进行数据库的创建等操作了。先使用root用户身份(在安装的过程中创建)进入管理界面。
建立一个数据库
新建一个SQL脚本,即可以开始MySQL的编程了。选中某一个代码块,使用CTRL+ENTER快捷键即可运行代码。
create database db1;
show databases;
-- 创建一个普通用户
CREATE USER yy@localhost IDENTIFIED BY '123';
建立一个表格
use db1;
create table birthdays(
nameid INTEGER NOT NULL AUTO_INCREMENT,
firstname varchar(100) not null,
lastname varchar(100) not null,
birthday date,
primary key (nameid)
);
添加观测数据
insert into birthdays(firstname,lastname,birthday)
values ('peter','Pascal','1991-02-01'),
('paul','panini','1992-03-02');
使用查询语句
select * from birthdays;
select birthday from birthdays;
追加数据
insert into birthdays(nameid,firstname,lastname,birthday)
values (10,"Donald","Docker","1934-06-09");
SQL与R的交互
R与SQL交互的拓展包非常丰富,不过大致可以分为三大类:
依赖于DBIpackage,如RMySQL,ROracle,RPosttgreSQL,RSQLite。这种方式通过与DBMS建立原始的连接实现数据库操作。
依赖于RODBCpackage。这个包通过打开数据库连接驱动的方式建立非直接的连接。如通过依赖于jre读入XLS/XLSX表格的数据。
通过dplyr package.
今天主要介绍第1种及第三种方式。
R连接MySQL
操作数据库中的数据
下面,我们通过R来操作前面在MySQL中建立的数据库db1。
library(RMySQL)
# 建立一个连接
mydb <- dbConnect(MySQL(),user="root",
password = "mycode",
dbname = "db1")
#查看表格
dbListTables(mydb)
## [1] "birthdays" "mtcars" "test"
#查看某一列
dbListFields(mydb,"birthdays")
## [1] "nameid" "firstname" "lastname" "birthday"
#
#dbClearResult(dbListResults(mydb)[[1]])
# 建立一个查询
rs <- dbSendQuery(mydb,"select * from birthdays")
data<-fetch(rs,n = -1)
head(data)
## nameid firstname lastname birthday
## 1 1 peter Pascal 1991-02-01
## 2 2 paul panini 1992-03-02
## 3 10 Donald Docker 1934-06-09
# 另一种方法:建立一个查询
dbGetQuery(mydb,"select * from birthdays")
## nameid firstname lastname birthday
## 1 1 peter Pascal 1991-02-01
## 2 2 paul panini 1992-03-02
## 3 10 Donald Docker 1934-06-09
将R中的data.frame存储到数据库
#将一个data frame对象存储为一个表格
dbWriteTable(mydb,name = "mtcars",value = mtcars,overwrite=TRUE)
## [1] TRUE
#查看结果
dbListTables(mydb)
## [1] "birthdays" "mtcars" "test"
使用dplyr进行数据库操作
dplyr是Hadley大神开发的一个专注于data frame类型的数据操作的一个包。它拥有非常简洁、便于记忆、异常丰富的一系列操作函数。更吸引人的是:它支持对sqlite,mysql,postgresql等开源数据库的操作。也就是说:你无需掌握SQL语言也能轻松进行数据库操作。
当然,dplyr并不能替代全部的SQL语言。它主要用于产生分析中最频繁使用的SELECT语句。
下面我们看看这是如何做到的。
library(dplyr)
conDplyr<-src_mysql(dbname = "db1",user = "root",password = "mycode",host = "localhost")
mydata<-conDplyr %>%
tbl("mtcars") %>%
select(mpg,cyl,gear) %>%
filter(gear == 4) %>%
collect()
head(mydata)
## Source: local data frame [6 x 3]
##
## mpg cyl gear
## (dbl) (dbl) (dbl)
## 1 21.0 6 4
## 2 21.0 6 4
## 3 22.8 4 4
## 4 24.4 4 4
## 5 22.8 4 4
## 6 19.2 6 4
dplyr中的惰性求值
dplyr只有在必要的情况下才会执行操作
它在必要的情况下才会从数据库中载入数据
每一个操作函数在执行的时候,并未开始真正从数据库中请求,而是在必要的情况下,一起执行.
如以下的一系列操作并未开始执行数据提取:
library(dplyr)
myDF <- tbl(conDplyr,"mtcars")
myDF1<-filter(myDF,gear == 4)
myDF2<-select(myDF1,mpg,cyl,gear)
直到执行以下语句,才真正开始从数据库中提取数据。
head(myDF2)
## mpg cyl gear
## 1 21.0 6 4
## 2 21.0 6 4
## 3 22.8 4 4
## 4 24.4 4 4
## 5 22.8 4 4
## 6 19.2 6
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
主讲人简介 张冲,海归统计学硕士,CDA 认证数据分析师,前云南白药集团资深数据分析师,自媒体 Python 讲师,全网课程播放量破 ...
2026-04-10在数据可视化与业务分析中,同比分析是衡量业务发展趋势、识别周期波动的核心手段,其核心逻辑是将当前周期数据与上年同期数据进 ...
2026-04-10在机器学习模型的落地应用中,预测精度并非衡量模型可靠性的唯一标准,不确定性分析同样不可或缺。尤其是在医疗诊断、自动驾驶、 ...
2026-04-10数据本身是沉默的,唯有通过有效的呈现方式,才能让其背后的规律、趋势与价值被看见、被理解、被运用。统计制图(数据可视化)作 ...
2026-04-10在全球化深度发展的今天,跨文化传播已成为连接不同文明、促进多元共生的核心纽带,其研究核心围绕“信息传递、文化解读、意义建 ...
2026-04-09在数据可视化领域,折线图是展示时序数据、趋势变化的核心图表类型之一,其简洁的线条的能够清晰呈现数据的起伏规律。Python ECh ...
2026-04-09在数据驱动的时代,数据分析早已不是“凭经验、靠感觉”的零散操作,而是一套具备固定逻辑、标准化流程的系统方法——这就是数据 ...
2026-04-09长短期记忆网络(LSTM)作为循环神经网络(RNN)的重要改进模型,凭借其独特的门控机制(遗忘门、输入门、输出门),有效解决了 ...
2026-04-08在数据分析全流程中,数据质量是决定分析结论可靠性的核心前提,而异常值作为数据集中的“异类”,往往会干扰统计检验、模型训练 ...
2026-04-08在数字经济飞速发展的今天,数据已渗透到各行各业的核心场景,成为解读趋势、优化决策、创造价值的核心载体。而数据分析,作为挖 ...
2026-04-08在数据分析全流程中,数据处理是基础,图形可视化是核心呈现手段——前者负责将杂乱无章的原始数据转化为干净、规范、可分析的格 ...
2026-04-07在数据分析与统计推断中,p值是衡量假设检验结果显著性的核心指标,其本质是在原假设(通常为“无效应”“无差异”)成立的前提 ...
2026-04-07在数字经济深度渗透的今天,数据已成为企业生存发展的核心资产,企业的竞争本质已转变为数据利用能力的竞争。然而,大量来自生产 ...
2026-04-07Python凭借简洁的语法、丰富的生态库,成为算法开发、数据处理、机器学习等领域的首选语言。但受限于动态类型、解释性执行的特性 ...
2026-04-03在深度学习神经网络中,卷积操作是实现数据特征提取的核心引擎,更是让模型“看懂”数据、“解读”数据的关键所在。不同于传统机 ...
2026-04-03当数字化转型从企业的“战略口号”落地为“生存之战”,越来越多的企业意识到,转型的核心并非技术的堆砌,而是数据价值的深度挖 ...
2026-04-03在日常办公数据分析中,数据透视表凭借高效的汇总、分组功能,成为Excel、WPS等办公软件中最常用的数据分析工具之一。其中,“计 ...
2026-04-02在数字化交互的全场景中,用户的每一次操作都在生成动态的行为轨迹——电商用户的“浏览商品→点击详情→加入购物车”,内容APP ...
2026-04-02在数字化转型深度推进的今天,企业数据已成为驱动业务增长、构建核心竞争力的战略资产,而数据安全则是守护这份资产的“生命线” ...
2026-04-02在数据驱动决策的浪潮中,数据挖掘与数据分析是两个高频出现且极易被混淆的概念。有人将二者等同看待,认为“做数据分析就是做数 ...
2026-04-01