记一次在中国区使用AWS Snowball

背景:

这是一个将本地数据中心的数据迁移至AWS S3的项目,数据量大概有60-70TB。存储服务器为Windows2012,文件类型主要由文本文件和视频媒体文件组成。
本以为是一次简单的数据迁移上云,没想到遇到了不少坑..


image.png

1.什么是snowball

简单的说 Snowball是一个快速、安全、便宜的数据迁移方案,这里的便宜是指比通过互联网传输的流量费要节省5倍左右,容量一般为50TB和80TB。
不仅可以将本地数据导入至S3,还可以将海量的S3数据传输回本地,不过在这里要注意的是,传入云中的数据是不计费的,从S3中导出数据是要按照数据量额外收取费用的。
查看定价

2.开始使用

使用的流程:

  • 1:创建任务(导入还是导出)


    image.png
  • 2:提供运输信息 (贵公司数据中心地址)


    image.png
  • 3:给任务起个名,选择目标存储桶


    image.png
  • 4:创建IAM角色 设置SNS通知提交后等待审核


    image.png

    image.png
  • 5:接收snowball后连接到本地网络,随机附带电源线, RJ45 网线、SFP+ 铜缆(或者 SFP+ 光学网络接口)默认可通过 DHCP 设定 IP,也可以手动设定固定 IP 地址)


    image.png
  • 6:下载snowball的客户端(这里是第一个坑,从文档里下载的client叫opshub是针对snowball edge,中国区只有snowball v1.....中国区client下载链接 : Linux Windows 目前为止官网上还是没有找到用于中国区的snowballv1的client下载地址 )

    image.png

  • 7:从控制台上下载manifest 和密码验证snowball的完整性并解锁开始使用(这里是第二个坑,我发现解锁的时候软件是没有任何响应的,最后发现作业状态是正在准备发运,可是我已经收到货了,后来联系了客服才知道是后台的问题没有更新状态的情况下是无法正常解锁的,通过开case等了一天之后才将状态更新...)

    错误的状态!

正确的状态
  • 8:传输数据,这里我使用的是Windows,使用powershell配合命令完成数据传输
## 连接snowball 提供地址、清单文件、解密密码
snowball start -i 192.168.0.10 -m /Downloads/JID2EXAMPLE-0c40-49a7-9f53-916aEXAMPLE81-manifest.bin -u 12345-abcde-12345-ABCDE-12345
## 返回信息:
# snowball status: OK
# Snowball appliance version: 1.0.1 build 2017-03-10.5744751551
# Snowball client version: 1.0.1 Build 146
# IP: 10.29.180.135
# Used space Free space Total space
# 3739.88 GB 70474.39 GB 74214.27 GB
# Ready to transfer. When you're finished, run "snowball stop".

## 拷贝本机/Desktop/SnowballTestData目录下所有文件到Snowball s3://ie-test-profiles-bjs/Logs目录中,注意桶名
snowball cp --recursive ~/Desktop/SnowballTestData s3://ie-test-profiles-bjs/Logs

## 列出存储桶中的数据
snowball ls s3://ie-test-profiles-bjs/Logs

## 删除存储桶中的数据
snowball rm -r  s3://ie-test-profiles-bjs/Logs
  • 9 snowball寄回有两种方式
  1. 根据控制台的邮件地址开case


    image.png
  2. snowball断电后墨水屏上也会显示寄回的方式

3.使用场景

  • 1 将大量本地数据中心上传至S3,至少是10TB以上,数据量小会比较不划算
  • 2 将大量S3的数据回传至本地的数据中心,将大大提高检索速度
  • 3 机器学习、边缘计算、内容分发等高级用法参考官网使用手册
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 215,294评论 6 497
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 91,780评论 3 391
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 161,001评论 0 351
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 57,593评论 1 289
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 66,687评论 6 388
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,679评论 1 294
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,667评论 3 415
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,426评论 0 270
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,872评论 1 307
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,180评论 2 331
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,346评论 1 345
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,019评论 5 340
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,658评论 3 323
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,268评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,495评论 1 268
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,275评论 2 368
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,207评论 2 352

推荐阅读更多精彩内容