一、 NoSQL数据库的概述
1.1 什么是NoSQl数据库
NoSQL(No only SQL)数据库,泛指非关系型数据库,实现对于传统数据库而言的。
NoSQL 不依赖业务逻辑方式进行存储,而以简单的 key-value 模式存储。因此大大增加了数据库的扩展能力。
- 不遵循SQL标准
- 不支持ACID
- 远超于SQL的性能
1.2 NoSQL的适用场景
- 对数据的高并发读写
- 海量数据的读写
- 对数据的可扩展性
1.3 NoSQL的不适用场景
- 需要事务的支持
- 基于sql的结构化查询存储,处理复杂的关系查询
1.4 常见NoSQL数据库
1.4.1 Memcached
- 很早出现的NoSql数据库
- 数据都在内存中,一般不持久化
- 支持简单的key-value模式,支持类型单一
- 一般是作为缓存数据库辅助持久化的数据库!
1.4.2 Redis
- 几乎覆盖了Memcached的绝大部分功能
- 数据都在内存中,支持持久化,主要用作备份恢复
- 除了支持简单的key-value模式,还支持多种数据结构的存储,比如 list、set、hash、zset等。
- 一般是作为缓存数据库辅助持久化的数据库
1.4.3 MongoDB
- 高性能、开源、模式自由(schema free)的**文档型数据库
- 数据都在内存中, 如果内存不足,把不常用的数据保存到硬盘
- 虽然是key-value模式,但是对value(尤其是json)提供了丰富的查询功能
- 支持二进制数据及大型对象
- 可以根据数据的特点替代RDBMS ,成为独立的数据库。或者配合RDBMS,存储特定的数据。
二、Redis的简介和安装
第一节: Redis简介和适用场景
- Redis是当前比较热门的NOSQL系统之一,它是一个开源的使用ANSI c语言编写的key-value存储系统(区别于MySQL的二维表格的形式存储。)
- Redis数据都是缓存在计算机内存中,但是Redis会周期性的把更新的数据写入磁盘或者把修改操作写入追加的记录文件,实现数据的持久化。
- Redis读写速度快,Redis读取的速度是110000次/s,写的速度是81000次/s;
- Redis的所有操作都是原子性的
- Redis支持多种数据结构:string(字符串),list(列表),hash(哈希),set(集合),zset(有序集合)
- Redis支持集群部署
- 支持过期时间,支持事务,消息订阅
1.1 配合关系型数据库做高速缓存
高频次,热门访问的数据,降低数据库IO
1.2 多样的数据结构存储持久化数据
第二节: Redis的安装和基本操作
Redis官方网站 | Redis中文官方网站 |
---|---|
http://redis.io | http://redis.cn/ |
2.2 Redis安装
第一步 下载redis及版本选择
7.0.10 for Linux(redis-7.0.10.tar.gz)或者安装新版本
不用考虑在windows环境下对Redis的支持
第二步 下载安装最新版本的gcc编译器
- 安装C语言环境
yum -y install gcc
- 测试安装是否成功
gcc --version
第三步 上传redis-7.0.10.tar.gz放/opt目录
第四步 解压命令:tar -zxvf redis-7.0.10.tar.gz
第五步 解压完成后进入目录:cd redis-7.0.10
第六步 在redis-7.0.10目录下再次执行make命令(只是编译好)
如果没有准备好C语言编译环境,make 会报错
Jemalloc/jemalloc.h:没有那个文件
此时解决方案:运行make distclean
make disclean
- 安装好 gcc后再次make
第七步 跳过make test,继续执行make install
2.3 Redis的启动和停止
2.3.1 查看安装目录
cd /usr/local/bin
- redis-benchmark:性能测试工具,可以在自己本子运行,看看自己本子性能如何
- redis-check-aof:修复有问题的AOF文件,
- redis-check-dump:修复有问题的dump.rdb文件
- redis-sentinel:Redis哨兵/集群使用
- redis-server:Redis服务器启动命令
- redis-cli:客户端,操作入口
2.3.2 前台启动方式
redis-server
- 不推荐原因: 窗口不能关闭,关闭则服务停止
2.3.3 后台启动方式
- 在/root目录下创建myredis目录,用于存储启动使用的配置文件
cd /root
mkdir myredis
- 拷贝一份redis.conf到myredis目录
cp /opt/redis-7.0.10/redis.conf /root/myredis
- 修改配置文件中的内容 daemonize no改成yes
修改redis.conf(257行附近?或者搜索 ) 文件将里面的daemonize no 改成 yes,让服务在后台启动
修改配置文件中的 bind ,注释该配置,取消绑定仅主机登录
修改protected-mode 为no,取消保护模式
启动redis时,使用我们自己修改之后的配置文件
redis-server /root/myredis/redis.conf
- 查看服务启动状态
ps -ef | grep redis
2.3.4 通过客户端连接redis
- 通过客户端指令连接redis
redis-cli
- 如果想退出客户端可以按 ctrl + C ,退出客户端不会关闭 redis 服务。
- 通过客户端连接制定端口下的redis (默认6379)
redis-cli -p 6379
- 连接后,测试与redis的连通性
ping
2.3.5 停止redis服务
- 单实例非客户端连接模式下关闭服务
redis-cli shutdown.sh
- 在客户端连接模式下,直接使用shutdown关闭当前连接的redis服务
shutdown.sh
- 多实例关闭指定端口的redis服务
redis-cli -p 6379 shutdown
2.3.6 Redis小知识及操作
(1) 端口号 6379 由来
Alessia Merz
(2) 数据库操作
默认16个数据库,类似数组下标从0开始,初始默认使用0号库
使用命令 select 来切换数据库。如: select 8
统一密码管理,所有库同样密码。
dbsize查看当前数据库的key的数量
flushdb清空当前库
flushall通杀全部库
(3) Redis单线程+多路复用
三、Redis的常用数据类型和命令
第一节: key操作的相关命令
语法 | 功能 |
---|---|
keys * | 查看当前库所有key (匹配:keys *1) |
exists key | 判断某个key是否存在 |
type key | 查看你的key是什么类型 |
del key | 删除指定的key数据 |
unlink key | 非阻塞删除,仅将keys从keyspace元数据中删除,真正的删除会在后续异步操作 |
expire key 10 | 10秒钟:为给定的key设置过期时间 |
ttl key | 查看还有多少秒过期,-1表示永不过期,-2表示已过期 |
select | 命令切换数据库 |
dbsize | 查看当前数据库的key的数量 |
flushdb | 清空当前库 |
flushall | 清空全部库 |
第二节: 字符串类型(String)
2.1 简介
1、 String是Redis最基本的类型,你可以理解成与Memcached一模一样的类型,一个key对应一个value。
2、 String类型是二进制安全的。意味着Redis的string可以包含任何数据。比如jpg图片或者序列化的对象。
3、 String类型是Redis最基本的数据类型,一个Redis中字符串value最多可以是512M
2.2 常用命令
语法 | 解释 |
---|---|
set <key><value> | 添加键值对 |
NX:当数据库中key不存在时,可以将key-value添加数据库 | |
XX:当数据库中key存在时,可以将key-value添加数据库,与NX参数互斥 | |
EX:key的超时秒数 | |
PX:key的超时毫秒数,与EX互斥 | |
get <key> | 查询对应键值 |
append <key><value> | 将给定的<value> 追加到原值的末尾 |
strlen <key> | 获得值的长度 |
setnx <key><value> | 只有在 key 不存在时 设置 key 的值 |
incr <key> | 将 key 中储存的数字值增1,只能对数字值操作,如果为空,新增值为1 |
decr <key> | 将 key 中储存的数字值减1,只能对数字值操作,如果为空,新增值为-1 |
incrby / decrby <key><步长> | 将 key 中储存的数字值增减。自定义步长 |
mset <key1><value1><key2><value2> … | 同时设置一个或多个 key-value对 |
mget <key1><key2><key3> … | 同时获取一个或多个 value |
msetnx <key1><value1><key2><value2> … | 同时设置一个或多个 key-value 对,当且仅当所有给定 key 都不存在。有一个失败则都失败(原子性) |
getrange <key><起始位置><结束位置> | 获得值的范围,类似java中的substring,**前包,后包 |
setrange <key><起始位置><value> | 用 <value> 覆写<key>所储存的字符串值,从<起始位置>开始(索引从0开始)。 |
setex <key> <过期时间> <value> | 设置键值的同时,设置过期时间,单位秒。 |
getset <key><value> | 以新换旧,设置了新值同时获得旧值。 |
redis指令运行的原子性
- 所谓原子操作是指不会被线程调度机制打断的操作;这种操作一旦开始,就一直运行到结束,中间不会有任何 context switch (切换到另一个线程)。
- (1)在单线程中, 能够在单条指令中完成的操作都可以认为是"原子操作",因为中断只能发生于指令之间。
- (2)在多线程中,不能被其它进程(线程)打断的操作就叫原子操作。
- (3)Redis单命令的原子性主要得益于的单线程。
问题 JAVA中的 a++ 是否具有原子性
** 原子性:即不可分割性。比如 a=0;(a非long和double类型) 这个操作是不可分割的,那么我们说这个操作是原子操作。再比如:a++; 这个操作实际是a = a + 1;是可分割的,所以他不是一个原子操作。非原子操作都会存在线程安全问题,需要使用同步技术(sychronized)或者锁(Lock)来让它变成一个原子操作**。一个操作是原子操作,那么我们称它具有原子性。
2.3 数据结构
String的数据结构为简单动态字符串(Simple Dynamic String,缩写SDS)。是可以修改的字符串,内部结构实现上类似于Java的ArrayList,采用预分配冗余空间的方式来减少内存的频繁分配.
第三节 Redis 列表(List)
3.1 简介
3.2 常用命令
语法 | 解释 |
---|---|
语法功能lpush/rpush <key><value1><value2><value3> … | 从左边/右边插入一个或多个值 |
lpop/rpop <key> | 从左边/右边吐出一个值。值在键在,值光键亡 |
rpop/lpush <key1><key2> | 从<key1>列表右边吐出一个值,插到<key2>列表左边 |
lrange <key><start><stop> | 按照索引下标获得元素(从左到右) |
0左边第一个,-1右边第一个,(0-1表示获取所有) | |
lindex <key><index> | 按照索引下标获得元素(从左到右) |
llen <key> | 获得列表长度 |
linsert <key> before <value><newvalue> | 在<value>的前面插入<newvalue>插入值 |
linsert <key> after <value><newvalue> | 在<value>的后面插入<newvalue>插入值 |
lrem <key><n><value> | 从左边删除n个value(从左到右) |
lset<key><index><value> | 将列表key下标为index的值替换成value |
3.3 数据结构
List的数据结构为快速链表quickList。首先在列表元素较少的情况下会使用一块连续的内存存储,这个结构是ziplist,也即是压缩列表。
它将所有的元素紧挨着一起存储,分配的是一块连续的内存。当数据量比较多的时候才会改成quicklist。因为普通的链表需要的附加指针空间太大,会比较浪费空间。
比如这个列表里存的只是int类型的数据,结构上还需要两个额外的指针prev和next。
Redis将链表和ziplist结合起来组成了quicklist。也就是将多个ziplist使用双向指针串起来使用。
这样 既满足了快速的插入删除性能,又不会出现太大的空间冗余。
第四节Redis 集合(Set)
4.1 简介
Redis set对外提供的功能与list类似是一个列表的功能,特殊之处在于set是可以自动排重的,当你需要存储一个列表数据,又不希望出现重复数据时,set是一个很好的选择,并且set提供了判断某个成员是否在一个set集合内的重要接口,这个也是list所不能提供的。
Redis的Set是string类型的无序集合。它底层其实是一个value为null的hash表,所以添加,删除,查找的复杂度都是O(1)。一个算法,随着数据的增加,执行时间的长短,如果是O(1),数据增加,查找数据的时间不变
4.2 常用命令
语法 | 功能 |
---|---|
sadd <key><value1><value2> … | 将一个或多个 member 元素加入到集合 key 中,已经存在的 member 元素将被忽略 |
smembers <key> | 取出该集合的所有值。 |
sismember <key><value> | 判断集合<key>是否为含有该<value>值,有1,没有0 |
scard<key> | 返回该集合的元素个数。 |
srem <key><value1><value2> … | 删除集合中的某个元素。 |
spop <key> | 随机从该集合中吐出一个值 |
spop <key><N> | 随机从该集合中吐出N个值。 |
srandmember <key><n> | 随机从该集合中取出n个值。不会从集合中删除 。 |
smove <source><destination><value> | 把集合中一个值从一个集合移动到另一个集合 SMOVE set set2 a |
sinter <key1><key2> | 返回两个集合的交集元素。 |
sunion <key1><key2> | 返回两个集合的并集元素。 |
sdiff <key1><key2> | 返回两个集合的差集元素(key1中的,不包含key2中的) |
4.2 数据结构
Set数据结构是dict字典,字典是用哈希表实现的。Java中HashSet的内部实现使用的是HashMap,只不过所有的value都指向同一个对象。
Redis的set结构也是一样,它内部也使用hash结构,所有value都指向同一个内部值。
第五节 Redis 哈希(Hash)
5.1 简介
Redis hash 是一个键值对集合。Redis hash是一个string类型的field和value的映射表,hash特别适合用于存储对象。
类似Java里面的Map<String,Object>用户ID为查找的key,存储的value用户对象包含姓名,年龄,生日等信息
5.2 常用命令
语法 | 功能 |
---|---|
hset <key><field><value> | 给<key>集合中的 <field>键赋值<value> |
hget <key1><field> | 从<key1>集合<field>取出 value |
hmset <key1><field1><value1><field2><value2>… | 批量设置hash的值 |
hexists<key1><field> | 查看哈希表 key 中,给定域 field 是否存在。 |
hkeys <key> | 列出该hash集合的所有field |
hvals <key> | 列出该hash集合的所有value |
hincrby <key><field><increment> | 为哈希表 key 中的域 field 的值加上增量 1 -1 |
hsetnx <key><field><value> | 将哈希表 key 中的域 field 的值设置为 value ,当且仅当域 field 不存在 . |
5.3 数据结构
Hash类型对应的数据结构是两种:ziplist(压缩列表),hashtable(哈希表)。
当field-value长度较短且个数较少时,使用ziplist,否则使用hashtable。
第六节 Redis 有序集合Zset
6.1 简介
Redis有序集合zset与普通集合set非常相似,是一个没有重复元素的字符串集合。
不同之处是有序集合的每个成员都关联了一个评分(score),这个评分(score)被用来按照从最低分到最高分的方式排序集合中的成员。
集合的成员是唯一的,但是评分可以是重复了。因为元素是有序的, 所以你也可以很快的根据评分(score)或者次序(position)来获取一个范围的元素。
访问有序集合的中间元素也是非常快的,因此你能够使用有序集合作为一个没有重复成员的智能列表。
6.2 常用命令
语法 | 功能 |
---|---|
zadd <key><score1><value1><score2><value2>… | 将一个或多个 member 元素及其 score 值加入到有序集 key 当中。 |
zrange<key><start><stop> [WITHSCORES] | 升序返回有序集 key 中,下标在<start><stop>之间的元素,0代表第一个元素索引,-1代表最后一个元素索引.带WITHSCORES,可以让分数一起和值返回到结果集。 |
zrevrange <key><start><stop> [WITHSCORES] | 降序返回有序集 key 中,下标在<start><stop>之间的元素,0代表第一个元素索引,-1代表最后一个元素索引.带WITHSCORES,可以让分数一起和值返回到结果集 |
zrangebyscore <key> <min> <max> [withscores] [limit offset count] | 返回有序集 key 中,所有 score 值介于 min 和 max 之间(包括等于 min 或 max )的成员。有序集成员按 score 值递增(从小到大)次序排列。 |
zrevrangebyscore <key> <max> <min> [withscores] [limit offset count] | 同上,改为从大到小排列。 |
zincrby <key><increment><value> | 为元素的score加上增量 |
zrem <key><value> | 删除该集合下,指定值的元素 |
zcount <key><min><max> | 统计该集合,分数区间内的元素个数 |
zrank <key><value> | 返回该值在集合中的排名,从0开始。 |
6.3 数据结构
SortedSet(zset)是Redis提供的一个非常特别的数据结构,一方面它等价于Java的数据结构Map<String, Double>,
可以给每一个元素value赋予一个权重score,另一方面它又类似于TreeSet,内部的元素会按照权重score进行排序,
可以得到每个元素的名次,还可以通过score的范围来获取元素的列表。