LinuCエヴァンジェリストの鯨井貴博@opensourcetechです。
Ubuntu Server 20.04.3 LTS(Focal Fossa)でKVM環境を構築するメモです。
KVMとは?
Kernel-based Virtual Machineの略で、Linuxへ導入することで仮想マシンを載せる基盤であるハイパーバイザーにすることができます。
https://www.redhat.com/ja/topics/virtualization/what-is-KVM
使用したLinux Distributionは、Ubuntu Server 20.04.3 LTS(Focal Fossa)です。
https://releases.ubuntu.com/20.04/?C=M;O=D
ubuntu@ubuntu20:~$ cat /etc/os-release NAME="Ubuntu" VERSION="20.04.3 LTS (Focal Fossa)" ID=ubuntu ID_LIKE=debian PRETTY_NAME="Ubuntu 20.04.3 LTS" VERSION_ID="20.04" HOME_URL="https://www.ubuntu.com/" SUPPORT_URL="https://help.ubuntu.com/" BUG_REPORT_URL="https://bugs.launchpad.net/ubuntu/" PRIVACY_POLICY_URL="https://www.ubuntu.com/legal/terms-and-policies/privacy-policy" VERSION_CODENAME=focal UBUNTU_CODENAME=focal ubuntu@ubuntu20:~$ uname -a Linux ubuntu20 5.4.0-91-generic #102-Ubuntu SMP Fri Nov 5 16:31:28 UTC 2021 x86_64 x86_64 x86_64 GNU/Linux
OSのインストール後、最新状態への更新(apt)を実施しています。
ubuntu@ubuntu20:~$ sudo apt update && sudo apt upgrade [sudo] password for ubuntu: 0% [Working]0% [Connecting to jp.archive.ubuntu.com (160.26.2.187)] . . .
要件を満たしているか確認
/proc/cpuinfoでCPUがsvm(AMD)かvmx(Intel)に対応しているか確認します。
ubuntu@ubuntu20:~$ cat /proc/cpuinfo processor : 0 vendor_id : GenuineIntel cpu family : 6 model : 58 model name : Intel(R) Core(TM) i5-3470 CPU @ 3.20GHz stepping : 9 microcode : 0x21 cpu MHz : 2793.510 cache size : 6144 KB physical id : 0 siblings : 4 core id : 0 cpu cores : 4 apicid : 0 initial apicid : 0 fpu : yes fpu_exception : yes cpuid level : 13 wp : yes flags : fpu vme de pse tsc msr pae mce cx8 apic sep mtrr pge mca cmov pat pse36 clflush dts acpi mmx fxsr sse sse2 ss ht tm pbe syscall nx rdtscp lm constant_tsc arch_perfmon pebs bts rep_good nopl xtopology nonstop_tsc cpuid aperfmperf pni pclmulqdq dtes64 monitor ds_cpl vmx smx est tm2 ssse3 cx16 xtpr pdcm pcid sse4_1 sse4_2 x2apic popcnt tsc_deadline_timer aes xsave avx f16c rdrand lahf_lm cpuid_fault epb pti ssbd ibrs ibpb stibp tpr_shadow vnmi flexpriority ept vpid fsgsbase smep erms xsaveopt dtherm ida arat pln pts md_clear flush_l1d bugs : cpu_meltdown spectre_v1 spectre_v2 spec_store_bypass l1tf mds swapgs itlb_multihit srbds bogomips : 6385.30 clflush size : 64 cache_alignment : 64 address sizes : 36 bits physical, 48 bits virtual power management: processor : 1 vendor_id : GenuineIntel cpu family : 6 model : 58 model name : Intel(R) Core(TM) i5-3470 CPU @ 3.20GHz stepping : 9 microcode : 0x21 cpu MHz : 2793.547 cache size : 6144 KB physical id : 0 siblings : 4 core id : 1 cpu cores : 4 apicid : 2 initial apicid : 2 fpu : yes fpu_exception : yes cpuid level : 13 wp : yes flags : fpu vme de pse tsc msr pae mce cx8 apic sep mtrr pge mca cmov pat pse36 clflush dts acpi mmx fxsr sse sse2 ss ht tm pbe syscall nx rdtscp lm constant_tsc arch_perfmon pebs bts rep_good nopl xtopology nonstop_tsc cpuid aperfmperf pni pclmulqdq dtes64 monitor ds_cpl vmx smx est tm2 ssse3 cx16 xtpr pdcm pcid sse4_1 sse4_2 x2apic popcnt tsc_deadline_timer aes xsave avx f16c rdrand lahf_lm cpuid_fault epb pti ssbd ibrs ibpb stibp tpr_shadow vnmi flexpriority ept vpid fsgsbase smep erms xsaveopt dtherm ida arat pln pts md_clear flush_l1d bugs : cpu_meltdown spectre_v1 spectre_v2 spec_store_bypass l1tf mds swapgs itlb_multihit srbds bogomips : 6385.30 clflush size : 64 cache_alignment : 64 address sizes : 36 bits physical, 48 bits virtual power management: processor : 2 vendor_id : GenuineIntel cpu family : 6 model : 58 model name : Intel(R) Core(TM) i5-3470 CPU @ 3.20GHz stepping : 9 microcode : 0x21 cpu MHz : 2794.076 cache size : 6144 KB physical id : 0 siblings : 4 core id : 2 cpu cores : 4 apicid : 4 initial apicid : 4 fpu : yes fpu_exception : yes cpuid level : 13 wp : yes flags : fpu vme de pse tsc msr pae mce cx8 apic sep mtrr pge mca cmov pat pse36 clflush dts acpi mmx fxsr sse sse2 ss ht tm pbe syscall nx rdtscp lm constant_tsc arch_perfmon pebs bts rep_good nopl xtopology nonstop_tsc cpuid aperfmperf pni pclmulqdq dtes64 monitor ds_cpl vmx smx est tm2 ssse3 cx16 xtpr pdcm pcid sse4_1 sse4_2 x2apic popcnt tsc_deadline_timer aes xsave avx f16c rdrand lahf_lm cpuid_fault epb pti ssbd ibrs ibpb stibp tpr_shadow vnmi flexpriority ept vpid fsgsbase smep erms xsaveopt dtherm ida arat pln pts md_clear flush_l1d bugs : cpu_meltdown spectre_v1 spectre_v2 spec_store_bypass l1tf mds swapgs itlb_multihit srbds bogomips : 6385.30 clflush size : 64 cache_alignment : 64 address sizes : 36 bits physical, 48 bits virtual power management: processor : 3 vendor_id : GenuineIntel cpu family : 6 model : 58 model name : Intel(R) Core(TM) i5-3470 CPU @ 3.20GHz stepping : 9 microcode : 0x21 cpu MHz : 2793.810 cache size : 6144 KB physical id : 0 siblings : 4 core id : 3 cpu cores : 4 apicid : 6 initial apicid : 6 fpu : yes fpu_exception : yes cpuid level : 13 wp : yes flags : fpu vme de pse tsc msr pae mce cx8 apic sep mtrr pge mca cmov pat pse36 clflush dts acpi mmx fxsr sse sse2 ss ht tm pbe syscall nx rdtscp lm constant_tsc arch_perfmon pebs bts rep_good nopl xtopology nonstop_tsc cpuid aperfmperf pni pclmulqdq dtes64 monitor ds_cpl vmx smx est tm2 ssse3 cx16 xtpr pdcm pcid sse4_1 sse4_2 x2apic popcnt tsc_deadline_timer aes xsave avx f16c rdrand lahf_lm cpuid_fault epb pti ssbd ibrs ibpb stibp tpr_shadow vnmi flexpriority ept vpid fsgsbase smep erms xsaveopt dtherm ida arat pln pts md_clear flush_l1d bugs : cpu_meltdown spectre_v1 spectre_v2 spec_store_bypass l1tf mds swapgs itlb_multihit srbds bogomips : 6385.30 clflush size : 64 cache_alignment : 64 address sizes : 36 bits physical, 48 bits virtual power management: ubuntu@ubuntu20:~$ cat /proc/cpuinfo | grep svm ubuntu@ubuntu20:~$ cat /proc/cpuinfo | grep vmx flags : fpu vme de pse tsc msr pae mce cx8 apic sep mtrr pge mca cmov pat pse36 clflush dts acpi mmx fxsr sse sse2 ss ht tm pbe syscall nx rdtscp lm constant_tsc arch_perfmon pebs bts rep_good nopl xtopology nonstop_tsc cpuid aperfmperf pni pclmulqdq dtes64 monitor ds_cpl vmx smx est tm2 ssse3 cx16 xtpr pdcm pcid sse4_1 sse4_2 x2apic popcnt tsc_deadline_timer aes xsave avx f16c rdrand lahf_lm cpuid_fault epb pti ssbd ibrs ibpb stibp tpr_shadow vnmi flexpriority ept vpid fsgsbase smep erms xsaveopt dtherm ida arat pln pts md_clear flush_l1d flags : fpu vme de pse tsc msr pae mce cx8 apic sep mtrr pge mca cmov pat pse36 clflush dts acpi mmx fxsr sse sse2 ss ht tm pbe syscall nx rdtscp lm constant_tsc arch_perfmon pebs bts rep_good nopl xtopology nonstop_tsc cpuid aperfmperf pni pclmulqdq dtes64 monitor ds_cpl vmx smx est tm2 ssse3 cx16 xtpr pdcm pcid sse4_1 sse4_2 x2apic popcnt tsc_deadline_timer aes xsave avx f16c rdrand lahf_lm cpuid_fault epb pti ssbd ibrs ibpb stibp tpr_shadow vnmi flexpriority ept vpid fsgsbase smep erms xsaveopt dtherm ida arat pln pts md_clear flush_l1d flags : fpu vme de pse tsc msr pae mce cx8 apic sep mtrr pge mca cmov pat pse36 clflush dts acpi mmx fxsr sse sse2 ss ht tm pbe syscall nx rdtscp lm constant_tsc arch_perfmon pebs bts rep_good nopl xtopology nonstop_tsc cpuid aperfmperf pni pclmulqdq dtes64 monitor ds_cpl vmx smx est tm2 ssse3 cx16 xtpr pdcm pcid sse4_1 sse4_2 x2apic popcnt tsc_deadline_timer aes xsave avx f16c rdrand lahf_lm cpuid_fault epb pti ssbd ibrs ibpb stibp tpr_shadow vnmi flexpriority ept vpid fsgsbase smep erms xsaveopt dtherm ida arat pln pts md_clear flush_l1d flags : fpu vme de pse tsc msr pae mce cx8 apic sep mtrr pge mca cmov pat pse36 clflush dts acpi mmx fxsr sse sse2 ss ht tm pbe syscall nx rdtscp lm constant_tsc arch_perfmon pebs bts rep_good nopl xtopology nonstop_tsc cpuid aperfmperf pni pclmulqdq dtes64 monitor ds_cpl vmx smx est tm2 ssse3 cx16 xtpr pdcm pcid sse4_1 sse4_2 x2apic popcnt tsc_deadline_timer aes xsave avx f16c rdrand lahf_lm cpuid_fault epb pti ssbd ibrs ibpb stibp tpr_shadow vnmi flexpriority ept vpid fsgsbase smep erms xsaveopt dtherm ida arat pln pts md_clear flush_l1d
また、kvm・kvm_intel(kvm_amd)も読み込まれているのでOKですね。
ubuntu@ubuntu20:~$ lsmod | grep kvm kvm_intel 282624 16 kvm 663552 1 kvm_intel
KVMのインストール
KVM動作に必要なソフトウェア(qemu-kvm libvirt-daemon-system libvirt-clients bridge-utils)をインストールします。
ubuntu@ubuntu20:~$ sudo apt install qemu-kvm libvirt-daemon-system libvirt-clients bridge-utils [sudo] password for ubuntu: Reading package lists... 0% . . .
続いて、virt-managerもインストールします。
ubuntu@ubuntu20:~$ sudo apt install virt-manager [sudo] password for ubuntu: Reading package lists... 0% . . .
必要なソフトウェアは、以上です。
virshコマンドが実行できればOKです。
ubuntu@ubuntu20:~$ virsh list --all Id Name State --------------------
また、操作中のユーザでKVMを操作できるようにlibvirt、及びkvmグループに所属させます。
ubuntu@ubuntu20:~$ sudo usermod -aG libvirt $USER ubuntu@ubuntu20:~$ sudo usermod -aG kvm $USER
ブリッジネットワークの設定
今の状態のネットワークは、以下のように構成されています。
KVM稼働のホストの物理NICで、外部ネットワーク(192.168.1.0/24)と内部の仮想ネットワーク(192.168.122.0/24)がルーティングされ、VM発の通信のみが可能となっています。
このままだと、外部からVMへアクセスできません。
ubuntu@ubuntu20:~$ ip addr show 1: lo: <LOOPBACK,UP,LOWER_UP> mtu 65536 qdisc noqueue state UNKNOWN group default qlen 1000 link/loopback 00:00:00:00:00:00 brd 00:00:00:00:00:00 inet 127.0.0.1/8 scope host lo valid_lft forever preferred_lft forever inet6 ::1/128 scope host valid_lft forever preferred_lft forever 2: eno1: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1500 qdisc fq_codel state UP group default qlen 1000 link/ether b8:ca:3a:76:00:9d brd ff:ff:ff:ff:ff:ff inet 192.168.1.101/24 brd 192.168.1.255 scope global eno1 valid_lft forever preferred_lft forever inet6 240f:32:57b8:1:baca:3aff:fe76:9d/64 scope global dynamic mngtmpaddr noprefixroute valid_lft 296sec preferred_lft 296sec inet6 fe80::baca:3aff:fe76:9d/64 scope link valid_lft forever preferred_lft forever 3: virbr0: <NO-CARRIER,BROADCAST,MULTICAST,UP> mtu 1500 qdisc noqueue state DOWN group default qlen 1000 link/ether 52:54:00:0b:be:27 brd ff:ff:ff:ff:ff:ff inet 192.168.122.1/24 brd 192.168.122.255 scope global virbr0 valid_lft forever preferred_lft forever 4: virbr0-nic: <BROADCAST,MULTICAST> mtu 1500 qdisc fq_codel master virbr0 state DOWN group default qlen 1000 link/ether 52:54:00:0b:be:27 brd ff:ff:ff:ff:ff:ff
なので、外部からVMへアクセスできるようにブリッジネットワークを追加設定します。
network-managerをインストールします。
ubuntu@ubuntu20:~$ sudo apt install network-manager Reading package lists... 0% . . .
nmcliコマンドなどが動作すれば、OKです。
ubuntu@ubuntu20:~$ nmcli device DEVICE TYPE STATE CONNECTION virbr0 bridge unmanaged -- eno1 ethernet unmanaged -- lo loopback unmanaged -- virbr0-nic tun unmanaged -- ubuntu@ubuntu20:~$ nmcli con show
しかし、各NICがnetwork-managerの管理対象となっていないので、STATEがunmanagedとなっています。connectionも表示されません。
netplanを使って、管理対象にします。
netplanは、以下の絵にあるように/etc/netplan配下のyamlファイルを使ってネットワーク構成を操作します。
https://netplan.io/
ubuntu@ubuntu20:~$ cd /etc/netplan/ ubuntu@ubuntu20:~$ sudo cp -p 00-installer-config.yaml 99-my-config.yaml ubuntu@ubuntu20:/etc/netplan$ cat 99-my-config.yaml # This is the network config written by 'subiquity' network: renderer: NetworkManager ・・・・追加した行 ethernets: eno1: addresses: - 192.168.1.101/24 gateway4: 192.168.1.1 nameservers: addresses: - 8.8.8.8 - 8.8.4.4 - 192.168.1.1 search: [] version: 2
そして構成変更。
メッセージに従って、"ENTER"キーを押します。
ubuntu@ubuntu20:/etc/netplan$ sudo netplan try --timeout 10 Warning: Stopping systemd-networkd.service, but it can still be activated by: systemd-networkd.socket Do you want to keep these settings? Press ENTER before the timeout to accept the new configuration Changes will revert in 10 secondsChanges will revert in 9 secondsChanges will revert in 8 secondsChanges will revert in 7 secondsChanges will revert in 6 secondsChanges will revert in 5 seconds Configuration accepted. ubuntu@ubuntu20:/etc/netplan$ nmcli device DEVICE TYPE STATE CONNECTION eno1 ethernet connected netplan-eno1 virbr0 bridge connected virbr0 lo loopback unmanaged -- virbr0-nic tun unmanaged --
すると、STATEが"unmanaged"から"connected"になり、CONNECTIONも追加されました。
続いて、新しいブリッジネットワーク用にbr0を追加し、そこで動作する"stp"を無効化します。
また、connection "bridge-br0"にネットワーク設定を追加します。
ubuntu@ubuntu20:/etc/netplan$ sudo nmcli connection add type bridge ifname br0 Connection 'bridge-br0' (0dd8c789-04c5-4eab-a696-3e97cb33c033) successfully added. ubuntu@ubuntu20:/etc/netplan$ nmcli connection show NAME UUID TYPE DEVICE bridge-br0 0dd8c789-04c5-4eab-a696-3e97cb33c033 bridge br0 netplan-eno1 10838d80-caeb-349e-ba73-08ed16d4d666 ethernet eno1 virbr0 72c573ed-70c3-420c-b75d-d7bdae81628d bridge virbr0 ubuntu@ubuntu20:/etc/netplan$ nmcli connection show bridge-br0 | grep stp bridge.stp: yes ubuntu@ubuntu20:/etc/netplan$ sudo nmcli connection modify bridge-br0 bridge.stp no noubuntu@ubuntu20:/etc/netplan$ nmcli connection show bridge-br0 | grep stp bridge.stp: no ubuntu@ubuntu20:/etc/netplan$ sudo nmcli connection modify bridge-br0 ipv4.method manual ipv4.addresses "192.168.1.101/24" ipv4.gateway "192.168.1.1" ipv4.dns 8.8.8.8
そして、物理NICである"eno1"と"br0"を関連付けします。
また、不要となるconnection "netplan-eno1"を削除します。
ubuntu@ubuntu20:/etc/netplan$ sudo nmcli connection add type bridge-slave ifname eno1 master bridge-br0 Connection 'bridge-slave-eno1' (a42c2be5-ddfc-4ee5-a472-55e4830b45d4) successfully added. ubuntu@ubuntu20:/etc/netplan$ nmcli connection show NAME UUID TYPE DEVICE bridge-br0 0dd8c789-04c5-4eab-a696-3e97cb33c033 bridge br0 netplan-eno1 10838d80-caeb-349e-ba73-08ed16d4d666 ethernet eno1 virbr0 72c573ed-70c3-420c-b75d-d7bdae81628d bridge virbr0 bridge-slave-eno1 a42c2be5-ddfc-4ee5-a472-55e4830b45d4 ethernet -- ubuntu@ubuntu20:/etc/netplan$ sudo nmcli connection delete netplan-eno1 Connection 'netplan-eno1' (10838d80-caeb-349e-ba73-08ed16d4d666) successfully deleted.
その後、再起動(sudo systemctl reboot)します。
※※SSHなどのアクセスが一度切れます。
再起動後、ネットワーク周りの確認をして完了です。
ubuntu@ubuntu20:~$ nmcli device DEVICE TYPE STATE CONNECTION br0 bridge connected bridge-br0 virbr0 bridge connected virbr0 eno1 ethernet connected bridge-slave-eno1 lo loopback unmanaged -- virbr0-nic tun unmanaged -- ubuntu@ubuntu20:~$ ip addr show 1: lo: <LOOPBACK,UP,LOWER_UP> mtu 65536 qdisc noqueue state UNKNOWN group default qlen 1000 link/loopback 00:00:00:00:00:00 brd 00:00:00:00:00:00 inet 127.0.0.1/8 scope host lo valid_lft forever preferred_lft forever inet6 ::1/128 scope host valid_lft forever preferred_lft forever 2: eno1: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1500 qdisc fq_codel master br0 state UP group default qlen 1000 link/ether b8:ca:3a:76:00:9d brd ff:ff:ff:ff:ff:ff 3: virbr0: <NO-CARRIER,BROADCAST,MULTICAST,UP> mtu 1500 qdisc noqueue state DOWN group default qlen 1000 link/ether 52:54:00:0b:be:27 brd ff:ff:ff:ff:ff:ff inet 192.168.122.1/24 brd 192.168.122.255 scope global virbr0 valid_lft forever preferred_lft forever 4: virbr0-nic: <BROADCAST,MULTICAST> mtu 1500 qdisc fq_codel master virbr0 state DOWN group default qlen 1000 link/ether 52:54:00:0b:be:27 brd ff:ff:ff:ff:ff:ff 5: br0: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1500 qdisc noqueue state UP group default qlen 1000 link/ether b8:ca:3a:76:00:9d brd ff:ff:ff:ff:ff:ff inet 192.168.1.101/24 brd 192.168.1.255 scope global dynamic noprefixroute br0 valid_lft 6896sec preferred_lft 6896sec inet6 240f:32:57b8:1:80d2:98ae:57a:21b8/64 scope global temporary dynamic valid_lft 272sec preferred_lft 272sec inet6 240f:32:57b8:1:bab5:a28:40cf:aaa1/64 scope global dynamic mngtmpaddr noprefixroute valid_lft 272sec preferred_lft 272sec inet6 fe80::79b1:143:405c:9722/64 scope link noprefixroute valid_lft forever preferred_lft forever ubuntu@ubuntu20:~$ brctl show bridge name bridge id STP enabled interfaces br0 8000.b8ca3a76009d no eno1 virbr0 8000.5254000bbe27 yes virbr0-nic
おわりに
これでKVM環境の構築は完了です。
ソフトウェアのインストールより、ブリッジネットワーク周りの方が大変ですねw
※KVMの内部ネットワークに対する理解が深まったのでよかったです。
次回は、実際にKVM上でVMを導入して動かしてみようと思います。