五.docker环境搭建实例
五.docker环境搭建实例
- 1.安装tomcat
- 2.jdk安装
- 3.mysql安装主从复制
- 4.redis安装(集群模式)-哈希槽分区
- 5.Rabiitmq单机生产级安装
- 6.Elasticsearch搜索引擎搭建
- 7.Qdrant向量数据库搭建
一个docker的常用命令文档:
https://blog.csdn.net/qq_45392321/article/details/124218816
安装步骤:
- 搜索镜像
- 拉取镜像
- 查看镜像
- 启动镜像-服务端口映射
- 停止容器
- 移除容器
1.安装tomcat
docker hub上查找tomcat镜像(目前中国由于网络限制不可访问)
dockersearch tomcat拉取tomcat镜像到本地
dockerpull tomcat查看镜像
dockerimages通过镜像创建实例
dockerrun-it-p8080:8080 tomcat 退出就停止dockerrun-d-p8080:8080 tomcat 后台运行-p小写,主机端口:docker容器端口
-P大写,随机分配端口
-i:交互
t:终端
d:后台访问
解决
端口未映射或未开通端口防火墙
将webapps.dist重命名为webapps
后台运行镜像:dockerrun-d-p8080:8080 tomcat进入容器终端交互:
dockerexec-it10cb17c6b899 /bin/bash替换:
重新访问:
为什么docker中tomcat需要执行mv webapps.dist webapps后才可正常访问?
官方 Tomcat Docker 镜像为了安全和灵活性,默认情况下:
webapps(用作部署应用的目录) 目录是空的,
实际的示例应用放在 webapps.dist 目录中,
这样做是为了避免默认部署不必要的应用
2.jdk安装
在oracle官网下载对应jdk的Linux版本:jdk-8-linux-x64.tar.gz
https://www.oracle.com/java/technologies/downloads/通过secureCRT工具连上服务器,创建/root/programme/docker/jdk目录并上传下载好的jdk
mkdir jdk 创建jdk文件夹
rz 上传本地文件到服务器在上传的jdk文件同级目录创建Dockerfile
vim Dockerfile 创建文件并编辑FROM centos:7#2、指明该镜像的作者MAINTAINER liumingyong#3、在构建镜像时,指定镜像的工作目录,之后的命令都是基于此工作目录,如果不存在,则会创建目录RUNmkdir-p/root/programme/jdk WORKDIR /root/programme/jdk#4、一个复制命令,把jdk安装文件复制到镜像中,语法 ADD SRC DEST ,ADD命令具有自动解压功能ADD jdk-8-linux-x64.tar.gz /root/programme/jdk#5、配置环境变量,此处目录为tar.gz包解压后的名称,需提前解压知晓:ENVJAVA_HOME=/root/programme/jdk/jdk1.8.0_301 ENVCLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar ENVPATH=$JAVA_HOME/bin:$PATH#6、设置启动命令CMD["java","-version"]构建jdk1.8的镜像
docker build -t jdk:jdk1.8 . 构建jdk镜像
注意:- 构建jdk镜像docker build -t jdk1.8 .
若在Dockerfile文件所在目录执行则后面需要有一个点(.),否则要跟Dockerfile所在路径
- 构建jdk镜像docker build -t jdk1.8 .
查看镜像文件是否构建成功
docker images通过镜像构建容器并后台启动,run具备create和start的功能。
dockerrun-itd--namejdk_container jdk:jdk1.8 /bin/bash查看已运行容器列表
docker ps -a查看jdk在容器内部是否生效,需进入容器内部执行
dockerexec-it77b1b05ca0bc /bin/bash
到此jdk就安装好了!
3.mysql安装主从复制
直接用docker拉去镜像
dockerpull mysql:8.0.11#写版本号,则拉取确定的版本,不写则最新查看拉取的镜像
dockerimages#查看当前所有的镜像通过镜像构建容器并后台启动
dockerrun-d-p3307:3306--privileged=true--namemysql-master-v/usr/local/docker/mysql/log:/var/log/mysql-v/usr/local/docker/mysql/data:/var/lib/mysql-v/usr/local/docker/mysql/conf:/etc/mysql/conf.d-eMYSQL_ROOT_PASSWORD=root--restart=on-failure:5 mysql:8.0.11
注意:
a) 命令执行时在一行执行,否则多行执行可能会有空格执行失败
b) /usr/local/docker/mysql/conf:/etc/mysql 适用于mysql低版本镜像
/usr/local/docker/mysql/conf:/etc/mysql/conf.d 适用于mysql高版本镜像因为mysql8.0以上的配置位置在 /etc/mysql/conf.d
docker run:在docker中启动一个容器实例 -d:该容器在后台运行 -p 3306:3306:容器与主机映射端口为,主机3306,容器3306 --privileged=true:开启在容器中拥有root权限 --name mysql:容器运行后的名称 -v /root/programme/mysql/log:/var/log/mysql:将容器/var/log/mysql目录下的数据,备份到主机的 /root/programme/mysql/log目录下 -v /root/programme/mysql/data:/var/lib/mysql:将容器/var/lib/mysql目录下的数据,备份到主机的 /root/programme/mysql/data目录下 -v /root/programme/mysql/conf:/etc/mysql/conf.d:将容器/etc/mysql/conf.d目录下的数据,备份到主机的 /root/programme/mysql/conf目录下 -e MYSQL_ROOT_PASSWORD=root:设置当前mysql实例的密码为root mysql:8.0.11:需要运行的容器名称以及版本号切换到上述命令配置的主机/usr/local/docker/mysql/conf下创建 my.cnf文件
cd/usr/local/docker/mysql/confvimmy.cnfmy.cnf内容:在docker中安装的mysql默认字符集是latin1,需要改成utf8
[client]default_character_set=utf8[mysqld]# 监听所有网络接口,允许来自任何 IP 地址的连接bind-address=0.0.0.0 collation_server=utf8_general_ci character_set_server=utf8## 设置server_id,同一局域网中需要唯一server_id=101## 指定不需要同步的数据库名称binlog-ignore-db=mysql## 开启二进制日志功能log-bin=mall-mysql-bin## 设置二进制日志使用内存大小(事务)binlog_cache_size=1M## 设置使用的二进制日志格式(mixed,statement,row)binlog_format=mixed## 二进制日志过期清理时间。默认值为0,表示不自动清理。expire_logs_days=7## 跳过主从复制中遇到的所有错误或指定类型的错误,避免slave端复制中断。## 如:1062错误是指一些主键重复,1032错误是因为主从数据库数据不一致slave_skip_errors=1062重启mysql容器实例,让刚才的配置文件生效
dockerrestart mysql-master查看mysql容器是否成功正常运行
dockerps-a进入mysql-master容器
dockerexec-itmysql-master /bin/bash mysql-uroot-prootmaster容器创建的用户可以用于MySQL主从复制配置中的从服务器连接
# 创建用户并使用强密码CREATEUSER'slave'@'%'IDENTIFIED WITH mysql_native_password BY'123456';# 授予复制相关权限GRANT REPLICATION SLAVE, REPLICATION CLIENT ON *.* TO'slave'@'%';# 刷新权限使设置生效FLUSH PRIVILEGES;新建从服务器容器实例3308
dockerrun-d-p3308:3306--privileged=true--namemysql-slave-v/usr/local/docker/mysql-slave/log:/var/log/mysql-v/usr/local/docker/mysql-slave/data:/var/lib/mysql-v/usr/local/docker/mysql-slave/conf:/etc/mysql/conf.d-eMYSQL_ROOT_PASSWORD=root--restart=on-failure:5 mysql:8.0.11进入/usr/local/docker/mysql-slave/conf创建my.cnf
[client]default_character_set=utf8[mysqld]collation_server=utf8_general_ci character_set_server=utf8## 设置server_id,同一局域网中需要唯一server_id=102## 指定不需要同步的数据库名称binlog-ignore-db=mysql## 开启二进制日志功能,以备Slave作为其它数据库实例的Master时使用log-bin=mall-mysql-slave1-bin## 设置二进制日志使用内存大小(事务)binlog_cache_size=1M## 设置使用的二进制日志格式(mixed,statement,row)binlog_format=mixed## 二进制日志过期清理时间。默认值为0,表示不自动清理。expire_logs_days=7## 跳过主从复制中遇到的所有错误或指定类型的错误,避免slave端复制中断。## 如:1062错误是指一些主键重复,1032错误是因为主从数据库数据不一致slave_skip_errors=1062## relay_log配置中继日志relay_log=mall-mysql-relay-bin## log_slave_updates表示slave将复制事件写进自己的二进制日志log_slave_updates=1## slave设置为只读(具有super权限的用户除外)read_only=1# 添加以下行以解决认证问题default_authentication_plugin=mysql_native_password重启slave实例
dockerrestart mysql-slave进入master数据库查看主从同步状态
show master status;进入mysql-slave容器
dockerexec-itmysql-slave /bin/bash mysql-uroot-proot在从数据库中配置主从复制
change master tomaster_host='192.168.31.30',master_user='slave',master_password='123456',master_port=3307,master_log_file='mall-mysql-bin.000003',master_log_pos=155,master_connect_retry=30;
主从复制命令参数说明:
master_host:主数据库的IP地址,一定要是宿主机ip;
master_port:主数据库的运行端口;
master_user:在主数据库创建的用于同步数据的用户账号;
master_password:在主数据库创建的用于同步数据的用户密码;
master_log_file:指定从数据库要复制数据的日志文件,通过查看主数据的状态,获取File参数;
master_log_pos:指定从数据库从哪个位置开始复制数据,通过查看主数据的状态,获取Position参数;
master_connect_retry:连接失败重试的时间间隔,单位为秒。在从数据库中查看主从同步状态
show slave status\G在从数据库中开启主从同步
start slave;
再次查看从数据库状态发现已经同步主从复制测试
创建数据库:CREATE DATABASE IF NOT EXISTS testdb CHARACTER SET utf8mb4 COLLATE utf8mb4_unicode_ci;使用库:use testdb;
创建表
数据插入
主库查询
从库查询
4.redis安装(集群模式)-哈希槽分区
1~2亿条数据需要缓存,如何设计这个存储案例?
—单机单台100%不可能,肯定是分布式存储,用redis如何落地?一般如下3种方法:
哈希取余分区
hash(key) % N个机器台数,计算出哈希值,用来决定数据映射到哪一个节点上。
优点:
简单粗暴,直接有效,只需要预估好数据规划好节点。每台服务器固定处理一部分请求(并维护这些请求的信息),起到负载均衡+分而治之的作用。
缺点:
原来规划好的节点,进行扩容或者缩容就比较麻烦。如果需要弹性扩容或故障停机的情况下,会导致hash取余全部数据重新洗牌。一致性Hash算法分区
提出一致性Hash解决方案。目的是当服务器个数发生变动时,尽量减少影响客户端到服务器的映射关系一致性哈希算法必然有个hash函数并按照算法产生hash值,使这些hash值首尾相连逻辑上形成一个环形空间。把这个虚拟圆环称为Hash环。
将集群中服务器的IP或主机名作为关键字进行哈希,这样每台机器就能确定其在哈希环上的位置。
当我们需要存储一个kv键值对时,将这个key使用相同的函数Hash计算出哈希值并确定此数据在环上的位置,从此位置沿环顺时针“行走”,第一台遇到的服务器就是其应该定位到的服务器。
优点:
i) 容错性
如果一台服务器不可用,则受影响的数据仅仅是此服务器到其环空间中前一台服务器(即沿着逆时针方向行走遇到的第一台服务器)之间数据,其它不会受到影响。
ii) 扩展性
增加一台节点NodeX,X的位置在A和B之间,那收到影响的也就是A到X之间的数据,重新把A到X的数据录入到X上即可,不会导致hash取余全部数据重新洗牌。
缺点:
节点太少时,容易因为节点分布不均匀而造成数据倾斜(被缓存的对象大部分集中缓存在某一台服务器上)问题哈希槽分区
哈希槽实质就是一个数组,数组[0,2^14 -1]形成hash slot空间。解决一致性哈希算法数据倾斜均匀分配的问题,在数据和节点之间又加入了一层,把这层称为哈希槽(slot),用于管理数据和节点之间的关系,现在就相当于节点上放的是槽,槽里放的是数据。
一个集群只能有16384个槽,编号0-16383(0-2^14-1)。这些槽会分配给集群中的所有主节点,分配策略没有要求。可以指定哪些编号的槽分配给哪个主节点。redis 会根据节点数量大致均等的将哈希槽映射到不同的节点。集群会记录节点和槽的对应关系。接下来就需要对key求哈希值,然后对16384取余,余数是几key就落入对应的槽里。以槽为单位移动数据,因为槽的数目是固定的,处理起来比较容易,这样数据移动问题就解决了。
3主3从redis集群配置:
1)镜像拉取dockerpull redis:6.2.14
2)创建挂载目录及配置文件
配置内容:不同节点只需改端口和集群配置文件名,集群中各个节点密码需一致#端口port6381#开启redis集群cluster-enabledyes#集群配置文件cluster-config-file nodes-6381.conf#节点超时时间(5秒)cluster-node-timeout5000#开启持久化appendonlyyes#客户端连接Redis时需要的密码requirepass123456#从节点连接主节点时使用的密码masterauth123456
3)新建6个redis容器# 启动6个节点容器dockerrun-d--nameredis-node-1--nethost--privileged=true--restart=on-failure:5-v/usr/local/docker/redis/redis-node-1:/data-v/usr/local/docker/redis/configs/redis-node1.conf:/usr/local/etc/redis/redis.conf redis:6.2.14 /usr/local/etc/redis/redis.conf
4) 进入容器redis-node-1并为6个节点构建集群关系dockerexec-itredis-node-1 /bin/bash构建集群主从关系:
redis-cli--clustercreate192.168.31.30:6381192.168.31.30:6382192.168.31.30:6383192.168.31.30:6384192.168.31.30:6385192.168.31.30:6386 --cluster-replicas1-a123456–cluster-replicas 1 表示为每个master创建一个slave节点
5)链接进入6381查看集群状态redis-cli-p6381-a123456cluster info cluster nodes
6) 数据读写存储
在 redis-cli 命令中,需加-c 参数开启集群模式自动路由
因为是集群模式哈希槽分区,进入任意节点执行命令都会路由到相应节点
查看集群信息:redis-cli--clustercheck192.168.31.30:6381-a123456
7) 主从容错切换迁移案例:
初始节点状态redis-cli-p6382-a123456-ccluster nodes
主机6381和对应从机切换,先停止主机6381,对应从机6385将自动切换为主机quitexitdockerstop redis-node-1dockerexec-itredis-node-2 /bin/bash redis-cli-p6382-a123456-ccluster nodes
还原之前的3主3从
先启6381,6381将成为6385从节点:dockerstart redis-node-1
再停6385,6381将重新变成主节点:dockerstop redis-node-5
再启6385,6385将成为6381从节点:dockerstart redis-node-5
查看集群信息:redis-cli--clustercheck192.168.31.30:6381-a123456
8) 主从扩容案例
新建6387、6388两个节点+新建后启动+查看是否8节点dockerrun-d--nameredis-node-7--nethost--privileged=true--restart=on-failure:5-v/usr/local/docker/redis/redis-node-7:/data-v/usr/local/docker/redis/configs/redis-node7.conf:/usr/local/etc/redis/redis.conf redis:6.2.14 /usr/local/etc/redis/redis.confdockerrun-d--nameredis-node-8--nethost--privileged=true--restart=on-failure:5-v/usr/local/docker/redis/redis-node-8:/data-v/usr/local/docker/redis/configs/redis-node8.conf:/usr/local/etc/redis/redis.conf redis:6.2.14 /usr/local/etc/redis/redis.conf
进入6837容器内部dockerexec-itredis-node-7 /bin/bash
将新增的6387作为master节点加入集群
命令:
redis-cli --cluster add-node 实际IP地址:6387 实际IP地址:63816387 就是将要作为master的新增节点端口
6381 就是原来集群节点里面的任意节点端口redis-cli--clusteradd-node192.168.31.30:6387192.168.31.30:6381-a123456
查看集群情况
命令:redis-cli --cluster check 真实ip地址:6381redis-cli--clustercheck192.168.31.30:6381-a123456
重新分派槽位
命令:redis-cli --cluster reshard IP地址:端口号redis-cli--clusterreshard192.168.31.30:6381-a123456
查看集群情况
命令:redis-cli --cluster check 真实ip地址:6381redis-cli--clustercheck192.168.31.30:6381-a123456
6387的槽位是3个新的区间,之前的还是连续的原因是:重新分配成本太高,将旧主节点槽位各自匀出来一部分给6387。之前在6381set的值也随槽位移动到6387了。为主节点6387分配从节点6388
命令:redis-cli --cluster add-node ip:新slave端口 ip:新master端口 --cluster-slave --cluster-master-id 新主节点IDredis-cli--clusteradd-node192.168.31.30:6388192.168.31.30:6387 --cluster-slave --cluster-master-id 7500a80741403108f98eea7167a855c2a665f4c2-a123456
查看集群情况
命令:redis-cli --cluster check 真实ip地址:6381redis-cli--clustercheck192.168.31.30:6381-a123456
9) 主从缩容案例
缩容即将主从节点下线,如6387,6388
检查集群情况1获得6388的节点IDredis-cli--clustercheck192.168.31.30:6382-a123456
从集群中将从节点6388删除
命令:redis-cli --cluster del-node ip:从机端口 从机6388节点IDredis-cli--clusterdel-node192.168.31.30:6388 ef26aa0463455ac4d4fe6c64ce719e6b573d9cee-a123456redis-cli--clustercheck192.168.31.30:6382-a123456
将6387的槽位清空,重新分配,本例将清出来的槽号都给6381redis-cli--clusterreshard192.168.31.30:6381-a123456
检查集群情况1获得6388的节点IDredis-cli--clustercheck192.168.31.30:6382-a123456
将6387删除
命令:redis-cli --cluster del-node ip:端口 6387节点IDredis-cli--clusterdel-node192.168.31.30:6387 7500a80741403108f98eea7167a855c2a665f4c2-a123456
检查集群情况1获得6388的节点IDredis-cli--clustercheck192.168.31.30:6382-a123456
5.Rabiitmq单机生产级安装
创建 RabbitMQ 数据持久化目录
mkdir -p /usr/local/docker/rabbitmq/data
mkdir -p /usr/local/docker/rabbitmq/log
mkdir -p /usr/local/docker/rabbitmq/conf创建 RabbitMQ 配置文件
在 /usr/local/docker/rabbitmq/conf 目录下创建 rabbitmq.conf 文件:# RabbitMQ 生产环境配置# 默认用户(生产环境建议修改)default_user = admin default_pass = Lmy19960215# 监听端口listeners.tcp.default = 5672# 管理界面端口management.tcp.port = 15672# 最大连接数channel_max = 2047# 心跳检测(秒)heartbeat = 60# 磁盘空间限制(当剩余空间低于此值时停止接收消息)disk_free_limit.absolute = 2GB# 内存限制(超过此值会换页到磁盘)vm_memory_high_watermark.relative = 0.6# 日志级别log.file.level = info# 启用插件management.load_definitions =/etc/rabbitmq/definitions.json创建 Docker Compose 配置文件
在项目根目录创建或修改 docker-compose.yml:version:'3.8'services: rabbitmq: image: rabbitmq:3.12-management-alpine container_name: rabbitmq hostname: rabbitmq restart: always# 端口映射ports:-"5672:5672"# AMQP协议端口-"15672:15672"# 管理界面端口# 环境变量environment:-RABBITMQ_DEFAULT_USER=admin-RABBITMQ_DEFAULT_PASS=Lmy19960215-RABBITMQ_ERLANG_COOKIE=RABBITMQ-YIHEN-DRAMA-COOKIE-2026-TZ=Asia/Shanghai# 卷挂载volumes:-./config/rabbitmq.conf:/usr/local/docker/rabbitmq/conf/rabbitmq.conf-./config/definitions.json:/etc/rabbitmq/definitions.json-./data:/usr/local/docker/rabbitmq/data-./logs:/usr/local/docker/rabbitmq/log# 资源限制(生产环境必须)deploy: resources: limits: cpus:'0.8'memory: 2G reservations: cpus:'0.25'memory: 512M# 健康检查healthcheck: test:["CMD","rabbitmq-diagnostics","-q","ping"]interval: 30s timeout: 10s retries: 5 start_period: 30s# 日志配置logging: driver:"json-file"options: max-size:"10m"max-file:"3"# 网络配置networks:-rabbitmq-network# 系统参数优化sysctls:-net.core.somaxconn=65535 networks: rabbitmq-network: driver: bridge name: rabbitmq-drama-network
4:启动RabbitMQ服务
执行启动命令:
# 启动服务docker-compose up-d# 查看容器状态docker-composeps# 查看日志docker-compose logs-f rabbitmq
浏览器访问:
http://ip:15672/
5:配置防火墙规则
开放必要端口:
# Ubuntu (ufw)ufw allow 5672/tcp ufw allow 15672/tcp ufw reload6:快速操作汇总
# 启动服务cd/opt/rabbitmq && docker-compose up-d# 停止服务docker-compose down# 重启服务docker-compose restart# 查看状态docker-composeps# 查看日志docker-compose logs-f# 进入容器docker exec-it yihen-rabbitmq bash# 备份数据/opt/rabbitmq/backup.sh# 查看资源使用docker stats yihen-rabbitmq6.Elasticsearch搜索引擎搭建
Docker方式安装
# 1. 拉取镜像docker pull elasticsearch:8.11.3# 2. 启动容器docker run-d--name elasticsearch-p 9201:9200-p 9301:9300-e discovery.type=single-node-e xpack.security.enabled=false-e ES_JAVA_OPTS="-Xms512m -Xmx512m"-e TZ=Asia/Shanghai elasticsearch:8.11.3安装IK中文分词器
docker exec-it elasticsearch bash# 安装 IK 分词器./bin/elasticsearch-plugin install https://get.infini.cloud/elasticsearch/analysis-ik/8.11.3# 安装拼音分词器./bin/elasticsearch-plugin install https://get.infini.cloud/elasticsearch/analysis-pinyin/8.11.3exitdocker restart elasticsearch验证安装
浏览器访问:http://ip:9201
7.Qdrant向量数据库搭建
Docker方式安装:
# 1. 拉取镜像docker pull qdrant/qdrant:v1.12.6# 2. 启动容器docker run-d--name qdrant-p 6333:6333-p 6334:6334-e TZ=Asia/Shanghai qdrant/qdrant:v1.12.6验证安装:
HTTP API:http://ip:6333
Web界面:http://ip:6333/dashboard
