Opensourcetechブログ

OpensourcetechによるNGINX/Kubernetes/Zabbix/Neo4j/Linuxなどオープンソース技術に関するブログです。

Ubuntu Server 20.04.3 LTS (Focal Fossa)でKVM環境を構築する


LinuCエヴァンジェリストの鯨井貴博@opensourcetechです。

Ubuntu Server 20.04.3 LTS(Focal Fossa)でKVM環境を構築するメモです。


KVMとは?
Kernel-based Virtual Machineの略で、Linuxへ導入することで仮想マシンを載せる基盤であるハイパーバイザーにすることができます。
https://www.redhat.com/ja/topics/virtualization/what-is-KVM


使用したLinux Distributionは、Ubuntu Server 20.04.3 LTS(Focal Fossa)です。
https://releases.ubuntu.com/20.04/?C=M;O=D

ubuntu@ubuntu20:~$ cat /etc/os-release 
NAME="Ubuntu"
VERSION="20.04.3 LTS (Focal Fossa)"
ID=ubuntu
ID_LIKE=debian
PRETTY_NAME="Ubuntu 20.04.3 LTS"
VERSION_ID="20.04"
HOME_URL="https://www.ubuntu.com/"
SUPPORT_URL="https://help.ubuntu.com/"
BUG_REPORT_URL="https://bugs.launchpad.net/ubuntu/"
PRIVACY_POLICY_URL="https://www.ubuntu.com/legal/terms-and-policies/privacy-policy"
VERSION_CODENAME=focal
UBUNTU_CODENAME=focal
ubuntu@ubuntu20:~$ uname -a
Linux ubuntu20 5.4.0-91-generic #102-Ubuntu SMP Fri Nov 5 16:31:28 UTC 2021 x86_64 x86_64 x86_64 GNU/Linux



OSのインストール後、最新状態への更新(apt)を実施しています。

ubuntu@ubuntu20:~$ sudo apt update && sudo apt upgrade
[sudo] password for ubuntu: 
0% [Working]0% [Connecting to jp.archive.ubuntu.com (160.26.2.187)]
.
.
.



要件を満たしているか確認
/proc/cpuinfoでCPUがsvm(AMD)かvmx(Intel)に対応しているか確認します。

ubuntu@ubuntu20:~$ cat /proc/cpuinfo 
processor   : 0
vendor_id   : GenuineIntel
cpu family  : 6
model       : 58
model name  : Intel(R) Core(TM) i5-3470 CPU @ 3.20GHz
stepping    : 9
microcode   : 0x21
cpu MHz     : 2793.510
cache size  : 6144 KB
physical id : 0
siblings    : 4
core id     : 0
cpu cores   : 4
apicid      : 0
initial apicid  : 0
fpu     : yes
fpu_exception   : yes
cpuid level : 13
wp      : yes
flags       : fpu vme de pse tsc msr pae mce cx8 apic sep mtrr pge mca cmov pat pse36 clflush dts acpi mmx fxsr sse sse2 ss ht tm pbe syscall nx rdtscp lm constant_tsc arch_perfmon pebs bts rep_good nopl xtopology nonstop_tsc cpuid aperfmperf pni pclmulqdq dtes64 monitor ds_cpl vmx smx est tm2 ssse3 cx16 xtpr pdcm pcid sse4_1 sse4_2 x2apic popcnt tsc_deadline_timer aes xsave avx f16c rdrand lahf_lm cpuid_fault epb pti ssbd ibrs ibpb stibp tpr_shadow vnmi flexpriority ept vpid fsgsbase smep erms xsaveopt dtherm ida arat pln pts md_clear flush_l1d
bugs        : cpu_meltdown spectre_v1 spectre_v2 spec_store_bypass l1tf mds swapgs itlb_multihit srbds
bogomips    : 6385.30
clflush size    : 64
cache_alignment : 64
address sizes   : 36 bits physical, 48 bits virtual
power management:

processor   : 1
vendor_id   : GenuineIntel
cpu family  : 6
model       : 58
model name  : Intel(R) Core(TM) i5-3470 CPU @ 3.20GHz
stepping    : 9
microcode   : 0x21
cpu MHz     : 2793.547
cache size  : 6144 KB
physical id : 0
siblings    : 4
core id     : 1
cpu cores   : 4
apicid      : 2
initial apicid  : 2
fpu     : yes
fpu_exception   : yes
cpuid level : 13
wp      : yes
flags       : fpu vme de pse tsc msr pae mce cx8 apic sep mtrr pge mca cmov pat pse36 clflush dts acpi mmx fxsr sse sse2 ss ht tm pbe syscall nx rdtscp lm constant_tsc arch_perfmon pebs bts rep_good nopl xtopology nonstop_tsc cpuid aperfmperf pni pclmulqdq dtes64 monitor ds_cpl vmx smx est tm2 ssse3 cx16 xtpr pdcm pcid sse4_1 sse4_2 x2apic popcnt tsc_deadline_timer aes xsave avx f16c rdrand lahf_lm cpuid_fault epb pti ssbd ibrs ibpb stibp tpr_shadow vnmi flexpriority ept vpid fsgsbase smep erms xsaveopt dtherm ida arat pln pts md_clear flush_l1d
bugs        : cpu_meltdown spectre_v1 spectre_v2 spec_store_bypass l1tf mds swapgs itlb_multihit srbds
bogomips    : 6385.30
clflush size    : 64
cache_alignment : 64
address sizes   : 36 bits physical, 48 bits virtual
power management:

processor   : 2
vendor_id   : GenuineIntel
cpu family  : 6
model       : 58
model name  : Intel(R) Core(TM) i5-3470 CPU @ 3.20GHz
stepping    : 9
microcode   : 0x21
cpu MHz     : 2794.076
cache size  : 6144 KB
physical id : 0
siblings    : 4
core id     : 2
cpu cores   : 4
apicid      : 4
initial apicid  : 4
fpu     : yes
fpu_exception   : yes
cpuid level : 13
wp      : yes
flags       : fpu vme de pse tsc msr pae mce cx8 apic sep mtrr pge mca cmov pat pse36 clflush dts acpi mmx fxsr sse sse2 ss ht tm pbe syscall nx rdtscp lm constant_tsc arch_perfmon pebs bts rep_good nopl xtopology nonstop_tsc cpuid aperfmperf pni pclmulqdq dtes64 monitor ds_cpl vmx smx est tm2 ssse3 cx16 xtpr pdcm pcid sse4_1 sse4_2 x2apic popcnt tsc_deadline_timer aes xsave avx f16c rdrand lahf_lm cpuid_fault epb pti ssbd ibrs ibpb stibp tpr_shadow vnmi flexpriority ept vpid fsgsbase smep erms xsaveopt dtherm ida arat pln pts md_clear flush_l1d
bugs        : cpu_meltdown spectre_v1 spectre_v2 spec_store_bypass l1tf mds swapgs itlb_multihit srbds
bogomips    : 6385.30
clflush size    : 64
cache_alignment : 64
address sizes   : 36 bits physical, 48 bits virtual
power management:

processor   : 3
vendor_id   : GenuineIntel
cpu family  : 6
model       : 58
model name  : Intel(R) Core(TM) i5-3470 CPU @ 3.20GHz
stepping    : 9
microcode   : 0x21
cpu MHz     : 2793.810
cache size  : 6144 KB
physical id : 0
siblings    : 4
core id     : 3
cpu cores   : 4
apicid      : 6
initial apicid  : 6
fpu     : yes
fpu_exception   : yes
cpuid level : 13
wp      : yes
flags       : fpu vme de pse tsc msr pae mce cx8 apic sep mtrr pge mca cmov pat pse36 clflush dts acpi mmx fxsr sse sse2 ss ht tm pbe syscall nx rdtscp lm constant_tsc arch_perfmon pebs bts rep_good nopl xtopology nonstop_tsc cpuid aperfmperf pni pclmulqdq dtes64 monitor ds_cpl vmx smx est tm2 ssse3 cx16 xtpr pdcm pcid sse4_1 sse4_2 x2apic popcnt tsc_deadline_timer aes xsave avx f16c rdrand lahf_lm cpuid_fault epb pti ssbd ibrs ibpb stibp tpr_shadow vnmi flexpriority ept vpid fsgsbase smep erms xsaveopt dtherm ida arat pln pts md_clear flush_l1d
bugs        : cpu_meltdown spectre_v1 spectre_v2 spec_store_bypass l1tf mds swapgs itlb_multihit srbds
bogomips    : 6385.30
clflush size    : 64
cache_alignment : 64
address sizes   : 36 bits physical, 48 bits virtual
power management:

ubuntu@ubuntu20:~$ cat /proc/cpuinfo | grep svm
ubuntu@ubuntu20:~$ cat /proc/cpuinfo | grep vmx
flags       : fpu vme de pse tsc msr pae mce cx8 apic sep mtrr pge mca cmov pat pse36 clflush dts acpi mmx fxsr sse sse2 ss ht tm pbe syscall nx rdtscp lm constant_tsc arch_perfmon pebs bts rep_good nopl xtopology nonstop_tsc cpuid aperfmperf pni pclmulqdq dtes64 monitor ds_cpl vmx smx est tm2 ssse3 cx16 xtpr pdcm pcid sse4_1 sse4_2 x2apic popcnt tsc_deadline_timer aes xsave avx f16c rdrand lahf_lm cpuid_fault epb pti ssbd ibrs ibpb stibp tpr_shadow vnmi flexpriority ept vpid fsgsbase smep erms xsaveopt dtherm ida arat pln pts md_clear flush_l1d
flags       : fpu vme de pse tsc msr pae mce cx8 apic sep mtrr pge mca cmov pat pse36 clflush dts acpi mmx fxsr sse sse2 ss ht tm pbe syscall nx rdtscp lm constant_tsc arch_perfmon pebs bts rep_good nopl xtopology nonstop_tsc cpuid aperfmperf pni pclmulqdq dtes64 monitor ds_cpl vmx smx est tm2 ssse3 cx16 xtpr pdcm pcid sse4_1 sse4_2 x2apic popcnt tsc_deadline_timer aes xsave avx f16c rdrand lahf_lm cpuid_fault epb pti ssbd ibrs ibpb stibp tpr_shadow vnmi flexpriority ept vpid fsgsbase smep erms xsaveopt dtherm ida arat pln pts md_clear flush_l1d
flags       : fpu vme de pse tsc msr pae mce cx8 apic sep mtrr pge mca cmov pat pse36 clflush dts acpi mmx fxsr sse sse2 ss ht tm pbe syscall nx rdtscp lm constant_tsc arch_perfmon pebs bts rep_good nopl xtopology nonstop_tsc cpuid aperfmperf pni pclmulqdq dtes64 monitor ds_cpl vmx smx est tm2 ssse3 cx16 xtpr pdcm pcid sse4_1 sse4_2 x2apic popcnt tsc_deadline_timer aes xsave avx f16c rdrand lahf_lm cpuid_fault epb pti ssbd ibrs ibpb stibp tpr_shadow vnmi flexpriority ept vpid fsgsbase smep erms xsaveopt dtherm ida arat pln pts md_clear flush_l1d
flags       : fpu vme de pse tsc msr pae mce cx8 apic sep mtrr pge mca cmov pat pse36 clflush dts acpi mmx fxsr sse sse2 ss ht tm pbe syscall nx rdtscp lm constant_tsc arch_perfmon pebs bts rep_good nopl xtopology nonstop_tsc cpuid aperfmperf pni pclmulqdq dtes64 monitor ds_cpl vmx smx est tm2 ssse3 cx16 xtpr pdcm pcid sse4_1 sse4_2 x2apic popcnt tsc_deadline_timer aes xsave avx f16c rdrand lahf_lm cpuid_fault epb pti ssbd ibrs ibpb stibp tpr_shadow vnmi flexpriority ept vpid fsgsbase smep erms xsaveopt dtherm ida arat pln pts md_clear flush_l1d


また、kvm・kvm_intel(kvm_amd)も読み込まれているのでOKですね。

ubuntu@ubuntu20:~$ lsmod | grep kvm
kvm_intel             282624  16
kvm                   663552  1 kvm_intel




KVMのインストール
KVM動作に必要なソフトウェア(qemu-kvm libvirt-daemon-system libvirt-clients bridge-utils)をインストールします。

ubuntu@ubuntu20:~$ sudo apt install qemu-kvm libvirt-daemon-system libvirt-clients bridge-utils
[sudo] password for ubuntu: 
Reading package lists... 0%
.
.
.


続いて、virt-managerもインストールします。

ubuntu@ubuntu20:~$ sudo apt install virt-manager
[sudo] password for ubuntu: 
Reading package lists... 0%
.
.
.



必要なソフトウェアは、以上です。
virshコマンドが実行できればOKです。

ubuntu@ubuntu20:~$ virsh list -all
 Id   Name   State
--------------------


また、操作中のユーザでKVMを操作できるようにlibvirt、及びkvmグループに所属させます。

ubuntu@ubuntu20:~$ sudo usermod -aG libvirt $USER
ubuntu@ubuntu20:~$ sudo usermod -aG kvm $USER




ブリッジネットワークの設定
今の状態のネットワークは、以下のように構成されています。
KVM稼働のホストの物理NICで、外部ネットワーク(192.168.1.0/24)と内部の仮想ネットワーク(192.168.122.0/24)がルーティングされ、VM発の通信のみが可能となっています。
このままだと、外部からVMへアクセスできません。

ubuntu@ubuntu20:~$ ip addr show
1: lo: <LOOPBACK,UP,LOWER_UP> mtu 65536 qdisc noqueue state UNKNOWN group default qlen 1000
    link/loopback 00:00:00:00:00:00 brd 00:00:00:00:00:00
    inet 127.0.0.1/8 scope host lo
       valid_lft forever preferred_lft forever
    inet6 ::1/128 scope host 
       valid_lft forever preferred_lft forever
2: eno1: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1500 qdisc fq_codel state UP group default qlen 1000
    link/ether b8:ca:3a:76:00:9d brd ff:ff:ff:ff:ff:ff
    inet 192.168.1.101/24 brd 192.168.1.255 scope global eno1
       valid_lft forever preferred_lft forever
    inet6 240f:32:57b8:1:baca:3aff:fe76:9d/64 scope global dynamic mngtmpaddr noprefixroute 
       valid_lft 296sec preferred_lft 296sec
    inet6 fe80::baca:3aff:fe76:9d/64 scope link 
       valid_lft forever preferred_lft forever
3: virbr0: <NO-CARRIER,BROADCAST,MULTICAST,UP> mtu 1500 qdisc noqueue state DOWN group default qlen 1000
    link/ether 52:54:00:0b:be:27 brd ff:ff:ff:ff:ff:ff
    inet 192.168.122.1/24 brd 192.168.122.255 scope global virbr0
       valid_lft forever preferred_lft forever
4: virbr0-nic: <BROADCAST,MULTICAST> mtu 1500 qdisc fq_codel master virbr0 state DOWN group default qlen 1000
    link/ether 52:54:00:0b:be:27 brd ff:ff:ff:ff:ff:ff


なので、外部からVMへアクセスできるようにブリッジネットワークを追加設定します。
network-managerをインストールします。

ubuntu@ubuntu20:~$ sudo apt intstall network-manager
Reading package lists... 0%
.
.
.


nmcliコマンドなどが動作すれば、OKです。

ubuntu@ubuntu20:~$ nmcli device
DEVICE      TYPE      STATE      CONNECTION 
virbr0      bridge    unmanaged  --         
eno1        ethernet  unmanaged  --         
lo          loopback  unmanaged  --         
virbr0-nic  tun       unmanaged  --         
ubuntu@ubuntu20:~$ nmcli con show


しかし、各NICがnetwork-managerの管理対象となっていないので、STATEがunmanagedとなっています。connectionも表示されません。

netplanを使って、管理対象にします。
netplanは、以下の絵にあるように/etc/netplan配下のyamlファイルを使ってネットワーク構成を操作します。
https://netplan.io/



ubuntu@ubuntu20:~$ cd /etc/netwplan/
ubuntu@ubuntu20:~$ sudo cp - p 00-installer-config.yaml 99-installer-config.yaml
ubuntu@ubuntu20:/etc/netplan$ cat 99-my-config.yaml 
# This is the network config written by 'subiquity'
network:
  renderer: NetworkManager ・・・・追加した行
  ethernets:
    eno1:
      addresses:
      - 192.168.1.101/24
      gateway4: 192.168.1.1
      nameservers:
        addresses:
        - 8.8.8.8
        - 8.8.4.4
        - 192.168.1.1
        search: []
  version: 2


そして構成変更。
メッセージに従って、"ENTER"キーを押します。

ubuntu@ubuntu20:/etc/netplan$ sudo netplan triy --timeout 10
Warning: Stopping systemd-networkd.service, but it can still be activated by:
  systemd-networkd.socket
Do you want to keep these settings?


Press ENTER before the timeout to accept the new configuration


Changes will revert in 10 secondsChanges will revert in  9 secondsChanges will revert in  8 secondsChanges will revert in  7 secondsChanges will revert in  6 secondsChanges will revert in  5 seconds
Configuration accepted.
ubuntu@ubuntu20:/etc/netplan$ nmcli device
DEVICE      TYPE      STATE      CONNECTION   
eno1        ethernet  connected  netplan-eno1 
virbr0      bridge    connected  virbr0       
lo          loopback  unmanaged  --           
virbr0-nic  tun       unmanaged  --  

すると、STATEが"unmanaged"から"connected"になり、CONNECTIONも追加されました。



続いて、新しいブリッジネットワーク用にbr0を追加し、そこで動作する"stp"を無効化します。 また、connection "bridge-br0"にネットワーク設定を追加します。

ubuntu@ubuntu20:/etc/netplan$ sudo nmcli connection add type bridge ifname br0
Connection 'bridge-br0' (0dd8c789-04c5-4eab-a696-3e97cb33c033) successfully added.
ubuntu@ubuntu20:/etc/netplan$ nmcli connection show
NAME          UUID                                  TYPE      DEVICE 
bridge-br0    0dd8c789-04c5-4eab-a696-3e97cb33c033  bridge    br0    
netplan-eno1  10838d80-caeb-349e-ba73-08ed16d4d666  ethernet  eno1   
virbr0        72c573ed-70c3-420c-b75d-d7bdae81628d  bridge    virbr0 
ubuntu@ubuntu20:/etc/netplan$ nmcli connection show bridge-br0 | grep stp
bridge.stp:                             yes
ubuntu@ubuntu20:/etc/netplan$ suodo nmcli connection modify bridge-br0 bridge.stp  no
noubuntu@ubuntu20:/etc/netplan$ nmcli connection show bridge-br0 | grep stp

bridge.stp:                             no
ubuntu@ubuntu20:/etc/netplan$ sudo nmcli connection modify bridge-br0 ipv4.method manual ipv4.addresses "192.168.1.101/24" ipv4.gateway "192.168.1.1" ipv4.dns 8.8.8.8


そして、物理NICである"eno1"と"br0"を関連付けします。
また、不要となるconnection "netplan-eno1"を削除します。

ubuntu@ubuntu20:/etc/netplan$ sudo nmcli connection add type bridge-slave ifname  eno1 master bridge-br0
Connection 'bridge-slave-eno1' (a42c2be5-ddfc-4ee5-a472-55e4830b45d4) successfully added.
ubuntu@ubuntu20:/etc/netplan$ nmcli connection show
NAME               UUID                                  TYPE      DEVICE 
bridge-br0         0dd8c789-04c5-4eab-a696-3e97cb33c033  bridge    br0    
netplan-eno1       10838d80-caeb-349e-ba73-08ed16d4d666  ethernet  eno1   
virbr0             72c573ed-70c3-420c-b75d-d7bdae81628d  bridge    virbr0 
bridge-slave-eno1  a42c2be5-ddfc-4ee5-a472-55e4830b45d4  ethernet  --     
ubuntu@ubuntu20:/etc/netplan$ sudo nmcli connection delete netplan-eno1
Connection 'netplan-eno1' (10838d80-caeb-349e-ba73-08ed16d4d666) successfully deleted.


※※SSHなどのアクセスが一度切れるかも


最後にネットワーク周りの確認をして完了です。

ubuntu@ubuntu20:~$ nmcli device
DEVICE      TYPE      STATE      CONNECTION        
br0         bridge    connected  bridge-br0        
virbr0      bridge    connected  virbr0            
eno1        ethernet  connected  bridge-slave-eno1 
lo          loopback  unmanaged  --                
virbr0-nic  tun       unmanaged  --                
ubuntu@ubuntu20:~$ ip addr show
1: lo: <LOOPBACK,UP,LOWER_UP> mtu 65536 qdisc noqueue state UNKNOWN group default qlen 1000
    link/loopback 00:00:00:00:00:00 brd 00:00:00:00:00:00
    inet 127.0.0.1/8 scope host lo
       valid_lft forever preferred_lft forever
    inet6 ::1/128 scope host 
       valid_lft forever preferred_lft forever
2: eno1: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1500 qdisc fq_codel master br0 state UP group default qlen 1000
    link/ether b8:ca:3a:76:00:9d brd ff:ff:ff:ff:ff:ff
3: virbr0: <NO-CARRIER,BROADCAST,MULTICAST,UP> mtu 1500 qdisc noqueue state DOWN group default qlen 1000
    link/ether 52:54:00:0b:be:27 brd ff:ff:ff:ff:ff:ff
    inet 192.168.122.1/24 brd 192.168.122.255 scope global virbr0
       valid_lft forever preferred_lft forever
4: virbr0-nic: <BROADCAST,MULTICAST> mtu 1500 qdisc fq_codel master virbr0 state DOWN group default qlen 1000
    link/ether 52:54:00:0b:be:27 brd ff:ff:ff:ff:ff:ff
5: br0: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1500 qdisc noqueue state UP group default qlen 1000
    link/ether b8:ca:3a:76:00:9d brd ff:ff:ff:ff:ff:ff
    inet 192.168.1.101/24 brd 192.168.1.255 scope global dynamic noprefixroute br0
       valid_lft 6896sec preferred_lft 6896sec
    inet6 240f:32:57b8:1:80d2:98ae:57a:21b8/64 scope global temporary dynamic 
       valid_lft 272sec preferred_lft 272sec
    inet6 240f:32:57b8:1:bab5:a28:40cf:aaa1/64 scope global dynamic mngtmpaddr noprefixroute 
       valid_lft 272sec preferred_lft 272sec
    inet6 fe80::79b1:143:405c:9722/64 scope link noprefixroute 
       valid_lft forever preferred_lft forever
ubuntu@ubuntu20:~$ brctl show
bridge name bridge id       STP enabled interfaces
br0     8000.b8ca3a76009d   yes     eno1
virbr0      8000.5254000bbe27   yes     virbr0-nic




おわりに
これでKVM環境の構築は完了です。

ソフトウェアのインストールより、ブリッジネットワーク周りの方が大変ですねw
※KVMの内部ネットワークに対する理解が深まったのでよかったです。

次回は、実際にKVM上でVMを導入して動かしてみようと思います。

Opensourcetech by Takahiro Kujirai