DC/OS Local Persistent Volumes

MESOS 本地持久化存储类型:

  1. root,最基本的存储资源,默认是mesos agent工作路径的存储资源。

    • 应用共享式使用。

    • 在创建应用的同时,会在/var/lib/mesos/slave/volumes目录下创建应用的存储目录。

    • agent上报root类型存储2G。

        [
          {
            "name" : "disk",
            "type" : "SCALAR",
            "scalar" : { "value" : 2048 }
          }
        ]
    
  2. path,作为附加存储资源,可以将整块磁盘,通过目录存储的方式进行划分。用于日志存储、备份,用于无性能要求的存储。

    • 应用共享式使用。

    • 在创建应用的同时,会在path目录下创建应用的存储目录。

    • 如 mount /dev/sdb /mnt && mkdir /mnt/data, /dev/sdb 是10G,agent上报目录存储资源/mnt/data,使用2G大小。

        [
          {
            "name" : "disk",
            "type" : "SCALAR",
            "scalar" : { "value" : 2048 },
            "disk" : {
              "source" : {
                "type" : "PATH",
                "path" : { "root" : "/mnt/data" }
              }
            }
          }
        ]
    
  3. mount,作为附加存储资源,只能整块使用,不能像path类存储一样分割使用。用于database、write-ahead-log(WAL预写式日志),用于有性能要求的存储。

    • 应用独占式使用。

    • 在创建应用时,应用使用整个磁盘资源,允许有预存在的数据文件/目录,但是当mesos销毁应用时,会删除所有数据

    • 如 mount /dev/sdb /mnt/data, agent上报存储磁盘资源/mnt/data,使用大小2G。

        [
          {
            "name" : "disk",
            "type" : "SCALAR",
            "scalar" : { "value" : 2048 },
            "disk" : {
              "source" : {
                "type" : "MOUNT",
                "mount" : { "root" : "/mnt/data" }
              }
            }
          }
        ]
    

Marathon docker应用使用local persistent volume示例

Marathon对于这几种Persistent Volume的使用区分,主要是通过persistent.type来控制的。

操作流程:

1. marathon创建应用
2. 查看应用mount信息
3. 创建tmp.txt
4. 重启应用,查看tmp.txt
5. 查看应用的本地存储目录

root

创建marathon 应用

{
  "id": "/cwc/test/test-root",
  "instances": 1,
  "portDefinitions": [],
  "container": {
    "type": "DOCKER",
    "docker": {
      "image": "busybox"
    },
    "volumes": [
      {
        "persistent": {
          "size": 100
        },
        "mode": "RW",
        "containerPath": "mydata"
      },
      {
        "containerPath": "/mydata",
        "hostPath": "mydata",
        "mode": "RW"
      }
    ]
  },
  "cpus": 0.1,
  "mem": 128,
  "requirePorts": false,
  "cmd": "tail -f /dev/null",
  "residency": {
    "relaunchEscalationTimeoutSeconds": 10,
    "taskLostBehavior": "WAIT_FOREVER"
  }
}

这时候marathon随机选取了一个主机去部署应用,以后与这个应用相关的所有操作都只在这个主机上运行。
可以看到

  1. 应用容器内存储目录 /mydata

  2. 主机存储目录/var/lib/mesos/slave/volumes/roles/slave_public/cwc_test_test-root#mydata#743b88a7-8e17-11e7-b490-b6a91729f427

  3. 重启应用数据不变

  4. 重启agent,应用自动恢复,数据不变

  5. 应用销毁,数据消失

path

marathon 应用

{
  "id": "/cwc/test/test-path",
  "instances": 1,
  "portDefinitions": [],
  "container": {
    "type": "DOCKER",
    "docker": {
      "image": "busybox",
      "network": "HOST"
    },
    "volumes": [
      {
        "persistent": {
          "size": 100,
          "type": "path"
        },
        "mode": "RW",
        "containerPath": "mydata"
      },
      {
        "containerPath": "/mydata",
        "hostPath": "mydata",
        "mode": "RW"
      }
    ]
  },
  "cpus": 0.1,
  "mem": 128,
  "requirePorts": false,
  "cmd": "tail -f /dev/null",
  "residency": {
    "relaunchEscalationTimeoutSeconds": 10,
    "taskLostBehavior": "WAIT_FOREVER"
  }
}

这时候marathon随机选取了一个主机去部署应用,以后与这个应用相关的所有操作都只在这个主机上运行。
可以看到

  1. 应用容器内存储目录 /mydata

  2. 主机存储目录/mnt/data/volumes/roles/slave_public/cwc_test_test-path#mydata#8f2d2ba9-8e1c-11e7-b490-b6a91729f427/

  3. 重启应用数据不变

  4. agent重启,数据不变

  5. 应用销毁,数据消失

  6. agent 重新resize path resource,应用启动失败

mount

marathon 应用

{
  "id": "/cwc/test/test-mount",
  "instances": 1,
  "portDefinitions": [],
  "container": {
    "type": "DOCKER",
    "docker": {
      "image": "busybox"
    },
    "volumes": [
      {
        "persistent": {
          "size": 100,
          "type": "mount"
        },
        "mode": "RW",
        "containerPath": "mydata"
      },
      {
        "containerPath": "/mydata",
        "hostPath": "mydata",
        "mode": "RW"
      }
    ]
  },
  "cpus": 0.1,
  "mem": 128,
  "requirePorts": false,
  "cmd": "tail -f /dev/null",
  "constraints": [
    [
      "hostname",
      "LIKE",
      "192.168.131.4"
    ]
  ],
  "residency": {
    "relaunchEscalationTimeoutSeconds": 10,
    "taskLostBehavior": "WAIT_FOREVER"
  }
}
  1. 应用容器内存储目录 /mydata

  2. 主机存储目录/dcos/volume0/

  3. 重启应用数据存在

  4. agent重启,数据存在

  5. 应用销毁,数据消失

  6. agent 重新resize mount resource,应用启动失败

Marathon 使用Host Volume

{
    "type": "DOCKER",
    "volumes": [
        {
            "mode": "RO",
            "container_path": "/etc/localtime",
            "host_path": "/etc/localtime"
        },
        {
            "mode": "RW",
            "container_path": "/tmp",
            "host_path": "/tmp"
        }
    ],
    "docker": {
        "image": "busybox",
        "network": "HOST",
        "privileged": false,
        "parameters": [
            {
                "key": "label",
                "value": "MESOS_TASK_ID=cwc_test-local-path.75db9606-97d6-11e7-aaa2-36ce7409b167"
            }
        ],
        "force_pull_image": false
    }
}

资料检索

mesos multiple-disk

dcos persistent volume

marathon persistent volumes

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容

  • 之前基于ps-lite实现了word2vec。下一步就是让这个算法能够分布式的跑起来。最简单的分布式方案大概是如下...
    xlvector阅读 5,105评论 1 7
  • 如何使用一个PaaS集群,其实就是如何使用它的网络、存储,这两点关系着应用的部署。DC/OS集群中,网络分为Hos...
    rm_rf阅读 4,262评论 0 0
  • 摘要 为了满足渲染、基因测序等计算密集型服务的需求,UCloud 已推出了“计算工厂”产品,让用户可以快速创建大量...
    UCloud云计算阅读 4,082评论 0 1
  • 刚看了个故事,大概内容是这样:某公司总裁,才华横溢,管理却十分独裁。手下主管十分不满,个个牢骚满腹,离心离...
    完美的小玉桃阅读 3,199评论 0 0
  • 我喜欢写作。 以前上学的时候,喜欢写日记,虽然已记不清写了什么;现如今,忙碌的生活,已很久没有拿起笔,写写内心的感...
    黄金屋916阅读 1,033评论 0 0