什么是minio?
MinIO 是一个基于Apache License v2.0开源协议的对象存储服务。它兼容亚马逊S3云存储服务接口,非常适合于存储大容量非结构化的数据,例如图片、视频、日志文件、备份数据和容器/虚拟机镜像等,而一个对象文件可以是任意大小,从几kb到最大5T不等。
MinIO是一个非常轻量的服务,可以很简单的和其他应用的结合,类似 NodeJS, Redis 或者 MySQL。
minio单机部署
- docker部署
稳定版
Copydocker pull minio/minio
docker run -p 9000:9000 minio/minio server /data
尝鲜版
Copydocker pull minio/minio:edge
docker run -p 9000:9000 minio/minio:edge server /data
- linux部署
chmod +x minio
./minio server /data
- windows部署
minio.exe server D:\Photos
分布式Minio介绍
- 分布式Minio有什么好处?
在大数据领域,通常的设计理念都是无中心和分布式。Minio分布式模式可以帮助你搭建一个高可用的对象存储服务,你可以使用这些存储设备,而不用考虑其真实物理位置。
==数据保护==
分布式Minio采用 erasure code(纠删码)来防范多个节点宕机和位衰减bit rot。
分布式Minio至少需要4个节点,使用分布式Minio自动引入了纠删码功能。
==高可用==
单机Minio服务存在单点故障,相反,如果是一个N节点的分布式Minio,只要有N/2节>点在线,你的数据就是安全的。不过你需要至少有N/2+1个节点 Quorum >来创建新的对象。
例如,一个8节点的Minio集群,每个节点一块盘,就算4个节点宕机,这个集群仍然>是可读的,不过你需要5个节点才能写数据。
==限制==
分布式Minio单租户存在最少4个盘最多16个盘的限制(受限于纠删码)。这种限制>确保了Minio的简洁,同时仍拥有伸缩性。如果你需要搭建一个多租户环境,你可以>轻松的使用编排工具(Kubernetes)来管理多个Minio实例。
注意,只要遵守分布式Minio的限制,你可以组合不同的节点和每个节点几块盘。比>如,你可以使用2个节点,每个节点4块盘,也可以使用4个节点,每个节点两块盘,>诸如此类。
==一致性==
Minio在分布式和单机模式下,所有读写操作都严格遵守read-after-write一致性模型。
Minio分布式集群搭建
==生产环境建议最少4节点==
本例采用两台服务器,四个节点
节点 | IP | data |
---|---|---|
minio1 | 10.51.52.20 | /data/minio/data1 |
minio2 | 10.51.52.20 | /data/minio/data1 |
minio3 | 10.51.52.21 | /data/minio/data3 |
minio4 | 10.51.52.21 | /data/minio/data4 |
- 下载minio
https://dl.min.io/server/minio/release/linux-amd64/minio
- 系统最大文件数修改
echo "* soft nofile 65535" >> /etc/security/limits.conf
echo "* hard nofile 65535" >> /etc/security/limits.conf
- 目录创建
mkdir -p /data/minio/{data1,data2}
- 创建集群启动脚本
vim /data/minio/run.sh
MINIO_ACCESS_KEY:用户名,长度最小是5个字符
MINIO_SECRET_KEY:密码,密码不能设置过于简单,不然minio会启动失败,长度最小是8个字符
–config-dir:指定集群配置文件目录
#!/bin/bash
export MINIO_ACCESS_KEY=Z2QldTk4NzkldTU3Q0VGaWxl
export MINIO_SECRET_KEY=JXVGRjAxQCUyMyV1OTg3OSV1NTdDRQ
nohup /data/minio/minio server http://10.51.52.20/data/minio/data1 http://10.51.52.20/data/minio/data2 \
http://10.51.52.21/data/minio/data3 http://10.51.52.21/data/minio/data4
>/data/minio/logs/running.log 2>&1 &
- minio.service服务脚本
- WorkingDirectory:二进制文件目录
- ExecStart:指定集群启动脚本
cat > /usr/lib/systemd/system/minio.service <<EOF
[Unit]
Description=Minio service
Documentation=https://docs.minio.io/
[Service]
WorkingDirectory=/data/minio/
ExecStart=/data/minio/run.sh
Restart=on-failure
RestartSec=5
[Install]
WantedBy=multi-user.target
- 权限修改
chmod +x /usr/lib/systemd/system/minio.service && chmod +x /data/minio/minio && chmod +x /data/minio/run.sh
- nginx代理
upstream minio{
server 10.51.52.20:9000;
server 10.51.52.21:9000;
}
server {
listen 9000;
server_name minio;
location / {
proxy_pass http://minio;
proxy_set_header Host $http_host;
client_max_body_size 1000m;
}
}
访问策略设置(公开访问)
#创建桶
./mc mbpublic桶名
Bucket created successfully `public`.
cd /data/minio/
wget https://dl.min.io/client/mc/release/linux-amd64/mc
#添加host 添加Key
./mc config host add minio http://10.51.52.20:9000 Z2QldTk4NzkldTU3Q0VGaWxl JXVGRjAxQCUyMyV1OTg3OSV1NTdDRQ
# 设置捅公开访问
./mc policy set public(访问级别) minio/public/(桶路径)
./mc policy set public minio/public/