Xtrabackup备份到S3

使用方式

Xtrabackup从2.4.14版本开始,支持stream模式直接存储到文件系统(主要依赖xbcloud)。无需备份到本地后,再上传到文件系统

xbcloud的目的是从云中下载全部或部分xbstream存档并将其上传到云。同时不会覆盖相同名称的备份。xbcloud通过管道接收来自xbstream的输入,因此可以使用xtrabackup作为管道来调用它,以直接传输至云而无需本地存储。

xbcloud将每个块作为一个单独的对象存储,名称为backup_name / database / table.ibd.NNNNNNNNNNNNNNNNNNNNNNNN,其中NNN ...是文件中块的0填充序列号。xtrabackup和xbstream生成的块的大小更改为10M。

xbcloud具有三个基本操作:放置,获取和删除。通过这些操作,可以创建,存储,检索,还原和删除备份。xbcloud操作清楚地映射到AWS S3 API中的类似操作。

在Percona XtraBackup 2.4.14之前,Swift是将备份存储在云存储中的唯一选择。在2.4.14版本之后,xbcloud还支持Amazon S3,MinIO和Google Cloud Storage。还支持其他与Amazon S3兼容的存储,例如Wasabi或Digital Ocean Spaces。

使用方式如下:

$ xtrabackup --backup --stream=xbstream --target-dir=/tmp | xbcloud \
put [options] <name>

创建备份并备份到Amazon S3

$ xtrabackup --backup --stream=xbstream --extra-lsndir=/tmp --target-dir=/tmp | \
xbcloud put --storage=s3 \
--s3-endpoint='s3.amazonaws.com' \
--s3-access-key='YOUR-ACCESSKEYID' \
--s3-secret-key='YOUR-SECRETACCESSKEY' \
--s3-bucket='mysql_backups'
--parallel=10 \
${date -I}-full_backup

使用Amazon S3时,以下选项可用:

Option Details
–s3-access-key 用于AWS访问密钥ID
–s3-secret-key 用于AWS秘密访问密钥
–s3-bucket 使用的AWS存储桶名称
–s3-region 用于指定AWS区域。默认值为us-east-1
–s3-api-version = <AUTO|2|4> 选择签名算法。默认值为AUTO。在这种情况下,xbcloud将进行探测。
–s3-bucket-lookup = <AUTO|PATH|DNS> 指定使用bucket.endpoint.com还是endpoint.com/bucket*样式请求。默认值为AUTO。在这种情况下,xbcloud将进行探测。

使用MinIO创建完整备份

$ xtrabackup --backup --stream=xbstream --extra-lsndir=/tmp --target-dir=/tmp | \
xbcloud put --storage=s3 \
--s3-endpoint='play.minio.io:9000' \
--s3-access-key='YOUR-ACCESSKEYID' \
--s3-secret-key='YOUR-SECRETACCESSKEY' \
--s3-bucket='mysql_backups'
--parallel=10 \
${date -I}-full_backup

配置文件:
不经常更改的参数可以存储在my.cnf或自定义配置文件中。以下示例是[xbcloud]组下的配置选项模板:

[xbcloud]
storage=s3
s3-endpoint=http://localhost:9000/
s3-access-key=minio
s3-secret-key=minio123
s3-bucket=backupsx
s3-bucket-lookup=path
s3-api-version=4

获取备份:

$ xbcloud get s3://operator-testing/bak22 ...

在此示例中,s3表示存储类型,operator-testing是存储桶名称,bak22是备份名称。此快捷方式扩展如下:

$ xbcloud get --storage=s3 --s3-bucket=operator-testing bak22 ...

附加参数:
xbcloud接受可以与任何存储类型一起使用的其他参数。--md5参数计算备份块的MD5哈希值。结果存储在遵循backup_name.md5模式的文件中。

$ xtrabackup --backup --stream=xbstream \
--parallel=8 2>backup.log | xbcloud put s3://operator-testing/bak22 \
--parallel=8 --md5 2>upload.log

可以使用--header参数在指定客户密钥时使用服务器端加密传递附加的HTTP标头。

使用–header进行AES256加密的示例

$ xtrabackup --backup --stream=xbstream --parallel=4 | \
xbcloud put s3://operator-testing/bak-enc/ \
--header="X-Amz-Server-Side-Encryption-Customer-Algorithm: AES256" \
--header="X-Amz-Server-Side-Encryption-Customer-Key: CuStoMerKey=" \
--header="X-Amz-Server-Side-Encryption-Customer-Key-MD5: CuStoMerKeyMd5==" \
--parallel=8

使用Amazon S3还原:

$ xbcloud get s3://operator-testing/bak22 \
--s3-endpoint=https://storage.googleapis.com/ \
--parallel=10 2>download.log | xbstream -x -C restore --parallel=8

增量备份:
首先,需要进行增量备份所基于的完整备份:

xtrabackup --backup --stream=xbstream --extra-lsndir=/storage/backups/ \
--target-dir=/storage/backups/ | xbcloud put \
--storage=swift --swift-container=test_backup \
--swift-auth-version=2.0 --swift-user=admin \
--swift-tenant=admin --swift-password=xoxoxoxo \
--swift-auth-url=http://127.0.0.1:35357/ --parallel=10 \
full_backup

然后,可以进行增量备份:

$ xtrabackup --backup --incremental-basedir=/storage/backups \
--stream=xbstream --target-dir=/storage/inc_backup | xbcloud put \
--storage=swift --swift-container=test_backup \
--swift-auth-version=2.0 --swift-user=admin \
--swift-tenant=admin --swift-password=xoxoxoxo \
--swift-auth-url=http://127.0.0.1:35357/ --parallel=10 \
inc_backup

Preparing增量备份
要Preparing备份,首先需要下载完整备份:

$ xbcloud get --swift-container=test_backup \
--swift-auth-version=2.0 --swift-user=admin \
--swift-tenant=admin --swift-password=xoxoxoxo \
--swift-auth-url=http://127.0.0.1:35357/ --parallel=10 \
full_backup | xbstream -xv -C /storage/downloaded_full

下载完整备份后,应做好以下准备:

$ xtrabackup --prepare --apply-log-only --target-dir=/storage/downloaded_full

准备完整备份后,可以下载增量备份

$ xbcloud get --swift-container=test_backup \
--swift-auth-version=2.0 --swift-user=admin \
--swift-tenant=admin --swift-password=xoxoxoxo \
--swift-auth-url=http://127.0.0.1:35357/ --parallel=10 \
inc_backup | xbstream -xv -C /storage/downloaded_inc

下载增量备份后,可以通过运行以下内容进行准备

$ xtrabackup --prepare --apply-log-only \
--target-dir=/storage/downloaded_full \
--incremental-dir=/storage/downloaded_inc

$ xtrabackup --prepare --target-dir=/storage/downloaded_full

部分下载云备份
如果不想下载整个备份来还原特定的数据库,则可以仅指定要还原的表

$ xbcloud get --swift-container=test_backup
--swift-auth-version=2.0 --swift-user=admin \
--swift-tenant=admin --swift-password=xoxoxoxo \
--swift-auth-url=http://127.0.0.1:35357/ full_backup \
ibdata1 sakila/payment.ibd \
> /storage/partial/partial.xbs

$ xbstream -xv -C /storage/partial < /storage/partial/partial.xbs

该命令将从完整备份中仅下载ibdata1sakila/payment.ibd

例子

搭建MinIO

[root@localhost ~]# mkdir /data/aws_s3
[root@localhost ~]# wget  https://dl.minio.io/server/minio/release/linux-amd64/minio
[root@localhost ~]#  chmod  755  /usr/local/bin/minio
[root@localhost ~]# minio server  /data/aws_s3

简单几步,已经搭建好MinIO服务器,默认端口9000,可以通过浏览器访问,AccessKey和SecretKey在启动时已经输出到屏幕。

浏览器打开后,填入两个Key,就可以顺利进入。

MinIO

点击右下角的“+”,可以创建bucket和上传文件,图中是已经创建好两个bucket。

MinIO支持分布式存储,可以可以用来搭建分布式存储系统 GlusterFS,这里只是做用单机做测试,不再赘述。

备份到MinIO

下载好最新的xtrabackup(这里用的是2.4.18),就可以开始备份了。

./xtrabackup --defaults-file=/etc/my.cnf --backup --stream=xbstream  \
--target-dir=/tmp/ --extra-lsndir=/tmp/ \
--host=127.0.0.1 --port=6666 --user=root --password=changeme | \ 
./xbcloud put --storage=s3 \
--s3-endpoint='http://localhost:9000' \
--s3-access-key='minioadmin' \
--s3-secret-key='minioadmin' \
--s3-bucket='6666' \
--parallel=10 \
6666-${date -I}-full_backup

当看到类似

191221 16:54:14 completed OK!
191221 16:54:14 ./xbcloud: Upload completed.

代表备份成功

完。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 216,919评论 6 502
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 92,567评论 3 392
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 163,316评论 0 353
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,294评论 1 292
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 67,318评论 6 390
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,245评论 1 299
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,120评论 3 418
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,964评论 0 275
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,376评论 1 313
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,592评论 2 333
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,764评论 1 348
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,460评论 5 344
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,070评论 3 327
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,697评论 0 22
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,846评论 1 269
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,819评论 2 370
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,665评论 2 354

推荐阅读更多精彩内容