利用阿里云OSS定期备份网站

博客之前一直采用的是本地备份方式,如果本地硬盘故障了那么数据也就都没了。在偶然的一天看了一篇文章《Python+Shell脚本结合阿里云OSS对象存储定时远程备份网站》,阿里云ECS到阿里云OSS可以走内网,正好我也是用的阿里云ECS,因为于是就开始折腾。

0x01 OSS配置

  1. 开通OSS,并创建Bucket
    登录阿里云控制台,开通OSS,然后新建一个Bucket(名称自定义),注意选择ECS相同的区域(比如青岛的ECS我就选择华北1),并且选择私有读写权限


    新建Bucket
  2. 创建认证秘钥


    点击安全令牌
  3. 开始授权


    开始授权

    创建得到的密钥最好保存一份,因为只能获取一次:


    AccessKey创建成功

0x02 SDK脚本

SDK脚本可以参考OSS帮助文档《SDK参考》,根据自己熟悉的语言选择。我这边使用的是Python SDK

  1. 安装SDK
    OSS的Python SDK需要用到oss2插件,如果服务器上已经安装了pip工具,可直接执行如下命令安装oss2插件
# pip install oss2

如果服务器没有pip工具则需要先安装,再安装oss2

# yum install python-pip -y

验证oss版本

 >>> import oss2
 >>> oss2.__version__
 '2.2.2'

上面的输出表明您已经成功安装了特定版本的Python SDK(这里以版本2.2.2为例)。

  1. 上传脚本
    官方代码请参考《Python SDK》。
    下面是我自己使用的上传脚本
# -*- coding: utf-8 -*-

from __future__ import print_function
import os, sys
import oss2

#输入AccessKeyId和AccessKeySecret
auth = oss2.Auth('<AccessKeyId>', '<AccessKeySecret>')

#输入Endpoint和Bucket名
bucket = oss2.Bucket(auth, '<Endpoint>', '<Bucket名>')

#本地文件路径
filePath = sys.argv[1]

#传到OSS上的名称
fileName = filePath.split("/")[-1]

#上传进度条
def percentage(consumed_bytes, total_bytes):
    if total_bytes:
        rate = int(100 * (float(consumed_bytes) / float(total_bytes)))
        print('\r{0}% '.format(rate), end='')
        sys.stdout.flush()

#上传文件
bucket.put_object(fileName, filePath, progress_callback=percentage)
print('\rUpload to OSS Success!')

使用方法:将上述代码保存为 upload.py,并上传到服务器/usr/local/bin下,执行如下命令可开始上传文件到OSS:

# python /usr/local/bin/upload.py  yangfannie.tar.gz /cache1/backup/yangfannie.com_3.tar.gz
提示Upload to OSS Success!即上传成功

在OSS的Object界面就可以看到刚上传的文件了


0x03 定时备份

这边用shell写的7天循环备份脚本

#!/bin/bash

test -f /etc/profile && . /etc/profile >/dev/null 2>&1

#获取脚本所在的目录
baseDir=$(cd $(dirname $0) && pwd)

#获取zip版本,如果没有则安装
zip --version >/dev/null || yum install -y zip

#获取下面的命令执行的位置
ZIP=$(which zip)
PYTHON=$(which python)
MYSQLDUMP=$(which mysqldump)

#获取星期几
TODAY=`date +%u`

# OSS上传文件函数
uploadToOSS()
{
    $PYTHON $baseDir/upload.py  $1
}
#7天循环备份DB脚本
backupDB()
{
    domain=$1
    dbname=$2
    mysqluser=$3
    mysqlpd=$4
    back_path=$5
    test -d $back_path || (mkdir -p $back_path || echo "$back_path not found!" && exit 2)
    cd $back_path
    $MYSQLDUMP -u$mysqluser -p$mysqlpd $dbname --skip-lock-tables --default-character-set=binary >$back_path/$domain\_db_$TODAY\.sql
    test -f $back_path/$domain\_db_$TODAY\.sql || (echo "MysqlDump failed!" && exit 2)
    #ZIP压缩,密码为12345678,密码可自行修改
    $ZIP -P12345678 -m $back_path/$domain\_db_$TODAY\.zip $domain\_db_$TODAY\.sql && \
    #上传到OSS
    uploadToOSS $back_path/$domain\_db_$TODAY\.zip
}

#7天循环备份网站脚本
backupFile()
{
    domain=$1
    site_path=$2
    back_path=$3
    test -d $site_path || (echo "$site_path not found!" && exit 2)
    test -d $back_path || (mkdir -p $back_path || echo "$back_path not found!" && exit 2)
    test -f $back_path/$domain\_$TODAY\.zip && rm -f $back_path/$domain\_$TODAY\.zip
    $ZIP -P1234qaz! -9r $back_path/$domain\_$TODAY\.zip $site_path && \
    uploadToOSS $back_path/$domain\_$TODAY\.zip
}
while [ $1 ]; do
    case $1 in
        '--db' | 'db' )
        backupDB $2 $3 $4 $5 $6
        exit
        ;;
        '--site' | 'site' )
        backupFile $2 $3 $4
        exit
        ;;

    esac
done

执行命令:

赋予脚本执行权限
# chmod +x  /usr/local/bin/backup.sh

备份DB并上传OSS(参数依次为:db、域名、数据库名称、数据库用户名、对应密码、备份路径)
# /usr/local/bin/backup.sh db yangfannie.com yangfannie root 12345678 /cache1/backup

备份网站并上传OSS(参数依次为:site、域名、网站根目录、备份路径)
# /usr/local/bin/backup.sh site yangfannie.com /home/www/yangfannie.com/ /cache1/backup/

最后把命令加到排程去定时执行即可

0 4 * * * /usr/local/bin/backup.sh site yangfannie.com /home/www/yangfannie.com/ /cache1/backup/ >/dev/null 2>&1
0 5 * * * /usr/local/bin/backup.sh db yangfannie.com yangfannie root 12345678 /cache1/backup >/dev/null 2>&1

0x04 Q&A

  1. ErrorCode: AccessDenied ErrorMessage: You have no right to access this object because of bucket acl.
    原因:子用户/临时用户没有访问Object的权限
    解决办法:辨别密钥是主用户、子用户还是临时用户的。需要用主用户的AccessKeyID。更多的权限问题请参考->OSS 权限问题及排查
    临时的用户的密钥的AccessKeyID,以STS开头比较好辨认,如“STS.MpsSonrqGM8bGjR6CRKNMoHXe”。
    主用户的密钥,需要到控制台 查看AccessKeyID是否存在,如果存在说明是主用户;如果不存在,该用户是子用户.
    子用户的秘钥在 访问控制 > 用户管理 > 管理 > 用户详情 > 用户AccessKey,查看子用户的AccessKeyID,并找到对应的子用户。

博客地址:http://yangfannie.com

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 216,591评论 6 501
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 92,448评论 3 392
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 162,823评论 0 353
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,204评论 1 292
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 67,228评论 6 388
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,190评论 1 299
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,078评论 3 418
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,923评论 0 274
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,334评论 1 310
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,550评论 2 333
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,727评论 1 348
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,428评论 5 343
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,022评论 3 326
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,672评论 0 22
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,826评论 1 269
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,734评论 2 368
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,619评论 2 354

推荐阅读更多精彩内容