ironic和ironic-inspector支持ARM裸机

ironic对于多架构的支持还是不错的,而ironic-inspector的dnsmasq服务则需要用户自行配置一下。

要支持ARM裸机的部署,首先需要制作出支持ARM的部署镜像,目前ironic已经迁移到使用ironic-python-agent-builder来制作镜像,diskimage-builder中的ironic-agent element则已经作废。

ipa-b编译aarch64镜像

编译环境需要先安装一些依赖包:kpartx, qemu-img, PyYAML, git, policycoreutils-python (semanage)

安装ipa-b:

pip install --user ironic-python-agent-builder

编译脚本如下:

#!/bin/bash
BUILDROOT=$(readlink -e .)
export DIB_DEBUG_TRACE=1
export DIB_AVOID_PACKAGES_UPDATE=1
export ARCH=aarch64
#export DIB_LOCAL_IMAGE=$BUILDROOT/Fedora-Cloud-Base-31-1.9.aarch64.raw.xz
export DIB_INSTALLTYPE_pip_and_virtualenv=package
DIB_DISTRIBUTION_MIRROR=https://mirrors.tuna.tsinghua.edu.cn/fedora
export DIB_PYPI_MIRROR_URL=https://pypi.tuna.tsinghua.edu.cn/simple
export DIB_DEV_USER_USERNAME=ironic
export DIB_DEV_USER_PASSWORD=ironic
export DIB_DEV_USER_PWDLESS_SUDO=yes
# More secure way is to use pubkey
# export DIB_DEV_USER_AUTHORIZED_KEYS=$HOME/.ssh/id_rsa.pub
ironic-python-agent-builder -o ironic-deploy-fedora -e pip-cache -e devuser -e dynamic-login fedora

因为国内镜像源基本没有提供aarch64的源,从国外源下载比较慢,可以先下载基础镜像到本地,然后通过DIB_LOCAL_IMAGE指定本地镜像,避免重复下载。
当然,DIB本身也支持本地缓存。此外,连接yum源和pypi源的网络不是很好,基本上要反复多次才能下载完成需要的包。

NOTE: 制作centos7镜像最后会报找不到内核,这是基础镜像的问题,因此这里使用了Fedora版本。

ironic-inspector的dnsmasq配置

ARM服务器只支持UEFI启动,使用PXE引导时需要通过grub,启动文件为grubaa64.efi,可以从官方发行版ISO的BOOT/EFI路径下获取。

配置/etc/ironic-inspector/dnsmasq.conf,将aarch64 DHCP请求导向使用grubaa64.efi:

# This is the recommend minimum for using introspection
port=0
bind-interfaces
interface=enp11s0f0
enable-tftp
dhcp-match=aarch64, option:client-arch, 11 # aarch64 efi
dhcp-boot=tag:aarch64, grubaa64.efi
dhcp-range=192.168.200.100,192.168.200.200
tftp-root=/tftpboot
dhcp-sequential-ip

这里启用dnsmasq的tftp,可以方便查看grubaa64.efi查找配置文件的路径。例如下面的引导记录:

    Nov 27 16:12:08 arm-computer07 dnsmasq-tftp[15417]: sent /tftpboot/grubaa64.efi to 192.168.200.101
    Nov 27 16:12:09 arm-computer07 dnsmasq-tftp[15417]: file /tftpboot/grub.cfg-01-00-07-3e-92-a9-a8- not found
    Nov 27 16:12:09 arm-computer07 dnsmasq-tftp[15417]: file /tftpboot/grub.cfg-C0A8C865 not found
    Nov 27 16:12:09 arm-computer07 dnsmasq-tftp[15417]: file /tftpboot/grub.cfg-C0A8C86 not found
    Nov 27 16:12:09 arm-computer07 dnsmasq-tftp[15417]: file /tftpboot/grub.cfg-C0A8C8 not found
    Nov 27 16:12:09 arm-computer07 dnsmasq-tftp[15417]: file /tftpboot/grub.cfg-C0A8C not found
    Nov 27 16:12:09 arm-computer07 dnsmasq-tftp[15417]: file /tftpboot/grub.cfg-C0A8 not found
    Nov 27 16:12:09 arm-computer07 dnsmasq-tftp[15417]: file /tftpboot/grub.cfg-C0A not found
    Nov 27 16:12:09 arm-computer07 dnsmasq-tftp[15417]: file /tftpboot/grub.cfg-C0 not found
    Nov 27 16:12:09 arm-computer07 dnsmasq-tftp[15417]: file /tftpboot/grub.cfg-C not found
    Nov 27 16:12:09 arm-computer07 dnsmasq-tftp[15417]: file /tftpboot/grub.cfg not found
    Nov 27 16:12:09 arm-computer07 dnsmasq-tftp[15417]: file /tftpboot/EFI/BOOT/grub.cfg-01-00-07-3e-92-a9-a8- not found
    Nov 27 16:12:09 arm-computer07 dnsmasq-tftp[15417]: file /tftpboot/EFI/BOOT/grub.cfg-C0A8C865 not found
    Nov 27 16:12:09 arm-computer07 dnsmasq-tftp[15417]: file /tftpboot/EFI/BOOT/grub.cfg-C0A8C86 not found
    Nov 27 16:12:09 arm-computer07 dnsmasq-tftp[15417]: file /tftpboot/EFI/BOOT/grub.cfg-C0A8C8 not found
    Nov 27 16:12:09 arm-computer07 dnsmasq-tftp[15417]: file /tftpboot/EFI/BOOT/grub.cfg-C0A8C not found
    Nov 27 16:12:09 arm-computer07 dnsmasq-tftp[15417]: file /tftpboot/EFI/BOOT/grub.cfg-C0A8 not found
    Nov 27 16:12:09 arm-computer07 dnsmasq-tftp[15417]: file /tftpboot/EFI/BOOT/grub.cfg-C0A not found
    Nov 27 16:12:09 arm-computer07 dnsmasq-tftp[15417]: file /tftpboot/EFI/BOOT/grub.cfg-C0 not found
    Nov 27 16:12:09 arm-computer07 dnsmasq-tftp[15417]: file /tftpboot/EFI/BOOT/grub.cfg-C not found
    Nov 27 16:12:09 arm-computer07 dnsmasq-tftp[15417]: sent /tftpboot/EFI/BOOT/grub.cfg to 192.168.200.101
    Nov 27 16:12:09 arm-computer07 dnsmasq-tftp[15417]: sent /tftpboot/EFI/BOOT/grub.cfg to 192.168.200.101
    Nov 27 16:12:09 arm-computer07 dnsmasq-tftp[15417]: file /tftpboot/EFI/BOOT/arm64-efi/command.lst not found
    Nov 27 16:12:09 arm-computer07 dnsmasq-tftp[15417]: file /tftpboot/EFI/BOOT/arm64-efi/fs.lst not found
    Nov 27 16:12:09 arm-computer07 dnsmasq-tftp[15417]: file /tftpboot/EFI/BOOT/arm64-efi/crypto.lst not found
    Nov 27 16:12:09 arm-computer07 dnsmasq-tftp[15417]: file /tftpboot/EFI/BOOT/arm64-efi/terminal.lst not found
    Nov 27 16:12:09 arm-computer07 dnsmasq-tftp[15417]: sent /tftpboot/EFI/BOOT/grub.cfg to 192.168.200.101
    Nov 27 16:12:09 arm-computer07 dnsmasq-tftp[15417]: sent /tftpboot/EFI/BOOT/grub.cfg to 192.168.200.101
    Nov 27 16:12:09 arm-computer07 dnsmasq-tftp[15417]: sent /tftpboot/EFI/BOOT/grub.cfg to 192.168.200.101

由于ironic-inspector主机发现并没有MAC和IP的信息,因此只能提供默认配置,比如可以将grub配置放在/tftpboot/grub.cfg或者/tftpboot/EFI/BOOT/grub.cfg

NOTE: grub查找的位置和文件名与grub实现有关,不同架构也可能存在差异

NOTE: grub.cfg-01-00-07-3e-92-a9-a8- 多一个后缀是grub bug,后续版本应该会移除末尾的-。

grub.cfg可以简单地写为:

set default="1"
set timeout=5

menuentry 'Introspection for aarch64' {
    linux ironic-agent.kernel text showopts selinux=0 ipa-inspection-callback-url=http://{IP}:5050/v1/continue ipa-inspection-collectors=default ipa-collect-lldp=1 systemd.journald.forward_to_console=no
    initrd ironic-agent.initramfs
}

将IP替换为inspector服务本机地址。

异架构裸机管理

如果环境中存在多种不同架构的裸机,则不能通过一个grub.cfg配置,此时可以借用ironic的思路,使用一个主grub.cfg配置入口,
通过grub变量的方式引导到不同的grub配置,与架构有关的grub参数是$grub_cpu。

主grub.cfg可以写为:

set default=master
set timeout=5
set hidden_timeout_quiet=false

menuentry "master"  {
configfile /tftpboot/grub-${grub_cpu}.cfg
}

对于grubaa64.efi,它的grub_cpu是arm64,对于x86服务器则是i386,那么就需要编写两套grub.cfg文件,grub-arm64.cfg存放ARM相关配置,grub-i386.cfg存放x86相关配置。

ironic的配置

ironic通过pxe_bootfile_name_by_arch和pxe_config_template_by_arch来支持多架构。ARM裸机在ironic节点的cpu_arch为aarch64,
ironic会优先从arch相关的配置项中读取配置,可以为ARM裸机指定引导文件及配置模板:

[pxe]
pxe_bootfile_name_by_arch = aarch64:grubaa64.efi
pxe_config_template_by_arch = aarch64:/tftpboot/grub-aarch64.template

grub模板可以沿用grub_pxe_config.template,可以根据需要调整,比如grubaa64.efi不支持linuxefi和initrdefi命令,需要改成使用linux和initrd:

set default=deploy
set timeout=5
set hidden_timeout_quiet=false

menuentry "deploy"  {
    linux {{ pxe_options.deployment_aki_path }} selinux=0 troubleshoot=0 text {{ pxe_options.pxe_append_params|default("", true) }} boot_server={{pxe_options.tftp_server}}
    initrd {{ pxe_options.deployment_ari_path }}
}

menuentry "boot_partition"  {
    linux {{ pxe_options.aki_path }} root={{ ROOT }} ro text {{ pxe_options.pxe_append_params|default("", true) }} boot_server={{pxe_options.tftp_server}}
    initrd {{ pxe_options.ari_path }}
}

menuentry "boot_ramdisk"  {
    linux {{ pxe_options.aki_path }} root=/dev/ram0 text {{ pxe_options.pxe_append_params|default("", true) }} {{ pxe_options.ramdisk_opts|default('', true) }}
    initrd {{ pxe_options.ari_path }}
}

menuentry "boot_whole_disk"  {
    linux chain.c32 mbr:{{ DISK_IDENTIFIER }}
}

剩下的就可以交给ironic处理了。

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 217,826评论 6 506
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 92,968评论 3 395
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 164,234评论 0 354
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,562评论 1 293
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 67,611评论 6 392
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,482评论 1 302
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,271评论 3 418
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 39,166评论 0 276
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,608评论 1 314
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,814评论 3 336
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,926评论 1 348
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,644评论 5 346
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,249评论 3 329
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,866评论 0 22
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,991评论 1 269
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 48,063评论 3 370
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,871评论 2 354

推荐阅读更多精彩内容