Я возвращаюсь к этим темам: Потому что, на мой взгляд, на них так и не дали адекватных ответов. И ни одна из них не была прокомментирована командой поддержки Proxmox.
В одной из тем предлагают использовать pbs-client для бэкапов, но это может привести к нескольким проблемам:
- целевой CephFS том, который нужно бэкапить, должен быть смонтирован, если pbs-client запущен на одном узле. Что будет, если этот узел упадет? (то есть никакого охвата всего кластера)
- pbs-client точно медленный (тесты показывают скорость около 32,75 МиБ/с).
Вот пример ниже. Код:
root@pve01:~# proxmox-backup-client backup CephFS.pxar:/mnt/pve/CephFSPool/ --repository backup@pbs@192.168.10.21:BckpCephFS
Starting backup: host/pve1/2021-06-08T16:20:14Z
Client name: pve1
Starting backup protocol: Tue Jun 8 18:20:14 2021
No previous manifest available.
Upload directory '/mnt/pve/CephFSPool/' to 'backup@pbs@192.168.10.21:8007:BckpCephFS' as CephFS.pxar.didx
CephFS.pxar: had to backup 822.32 MiB of 11.34 GiB (compressed 754.83 MiB) in 25.11s
CephFS.pxar: average backup speed: 32.75 MiB/s
CephFS.pxar: backup was done incrementally, reused 10.53 GiB (92.9%)
Uploaded backup catalog (352 B)
Duration: 25.13s
End Time: Tue Jun 8 18:20:39 2021
Для сравнения, локальная скорость записи на пуле бэкапа около ± 250 MB/s:
root@pbs1:/mnt/datastore/backup/BckpCephFS# dd if=/dev/zero of=MonFichier_local bs=1k count=1000000
1000000+0 records in
1000000+0 records out
1024000000 bytes (1.0 GB, 977 MiB) copied, 4.03585 s, 254 MB/s
Будет ли команда Proxmox работать над тем, чтобы позволить PBS делать более эффективный бэкап CephFS? Есть ли какие-то советы, как ускорить процесс в PBS в таком кейсе?
Для сравнения, у нас есть то же хранилище, которое используется для бэкапа ВМ, и его производительность такая:
INFO: starting new backup job: vzdump 102 --storage PmxBckp --mode snapshot --node pve1 --remove 0
INFO: Starting Backup of VM 102 (qemu)
INFO: Backup started at 2021-06-08 18:53:34
INFO: status = running
INFO: VM Name: test-VM
INFO: include disk 'scsi0' 'NVMePool:vm-102-disk-0' 20G
INFO: backup mode: snapshot
INFO: ionice priority: 7
INFO: creating Proxmox Backup Server archive 'vm/102/2021-06-08T16:53:34Z'
INFO: skipping guest-agent 'fs-freeze', agent configured but not running?
INFO: started backup task 'ab2c6310-77ca-4f57-a4e8-c4e6b8f8b2e9'
INFO: resuming VM again
INFO: scsi0: dirty-bitmap status: created new
INFO: 2% (612.0 MiB of 20.0 GiB) in 3s, read: 204.0 MiB/s, write: 166.7 MiB/s
INFO: 10% (2.1 GiB of 20.0 GiB) in 6s, read: 526.7 MiB/s, write: 165.3 MiB/s
INFO: 53% (10.7 GiB of 20.0 GiB) in 9s, read: 2.8 GiB/s, write: 164.0 MiB/s
INFO: 100% (20.0 GiB of 20.0 GiB) in 11s, read: 4.7 GiB/s, write: 82.0 MiB/s
INFO: backup is sparse: 18.39 GiB (91%) total zero data
INFO: backup was done incrementally, reused 18.39 GiB (91%)
INFO: transferred 20.00 GiB in 11 seconds (1.8 GiB/s)
INFO: Finished Backup of VM 102 (00:00:15)
INFO: Backup finished at 2021-06-08 18:53:49
INFO: Backup job finished successfully
TASK OK
То есть разница между «файловым бэкапом» → «локальным бэкапом» → «бэкапом тома» ОГРОМНАЯ.
Буду благодарен за любые советы, как получить более приемлемые показатели при файловом бэкапе. Спасибо!
В одной из тем предлагают использовать pbs-client для бэкапов, но это может привести к нескольким проблемам:
- целевой CephFS том, который нужно бэкапить, должен быть смонтирован, если pbs-client запущен на одном узле. Что будет, если этот узел упадет? (то есть никакого охвата всего кластера)
- pbs-client точно медленный (тесты показывают скорость около 32,75 МиБ/с).
Вот пример ниже. Код:
root@pve01:~# proxmox-backup-client backup CephFS.pxar:/mnt/pve/CephFSPool/ --repository backup@pbs@192.168.10.21:BckpCephFS
Starting backup: host/pve1/2021-06-08T16:20:14Z
Client name: pve1
Starting backup protocol: Tue Jun 8 18:20:14 2021
No previous manifest available.
Upload directory '/mnt/pve/CephFSPool/' to 'backup@pbs@192.168.10.21:8007:BckpCephFS' as CephFS.pxar.didx
CephFS.pxar: had to backup 822.32 MiB of 11.34 GiB (compressed 754.83 MiB) in 25.11s
CephFS.pxar: average backup speed: 32.75 MiB/s
CephFS.pxar: backup was done incrementally, reused 10.53 GiB (92.9%)
Uploaded backup catalog (352 B)
Duration: 25.13s
End Time: Tue Jun 8 18:20:39 2021
Для сравнения, локальная скорость записи на пуле бэкапа около ± 250 MB/s:
root@pbs1:/mnt/datastore/backup/BckpCephFS# dd if=/dev/zero of=MonFichier_local bs=1k count=1000000
1000000+0 records in
1000000+0 records out
1024000000 bytes (1.0 GB, 977 MiB) copied, 4.03585 s, 254 MB/s
Будет ли команда Proxmox работать над тем, чтобы позволить PBS делать более эффективный бэкап CephFS? Есть ли какие-то советы, как ускорить процесс в PBS в таком кейсе?
Для сравнения, у нас есть то же хранилище, которое используется для бэкапа ВМ, и его производительность такая:
INFO: starting new backup job: vzdump 102 --storage PmxBckp --mode snapshot --node pve1 --remove 0
INFO: Starting Backup of VM 102 (qemu)
INFO: Backup started at 2021-06-08 18:53:34
INFO: status = running
INFO: VM Name: test-VM
INFO: include disk 'scsi0' 'NVMePool:vm-102-disk-0' 20G
INFO: backup mode: snapshot
INFO: ionice priority: 7
INFO: creating Proxmox Backup Server archive 'vm/102/2021-06-08T16:53:34Z'
INFO: skipping guest-agent 'fs-freeze', agent configured but not running?
INFO: started backup task 'ab2c6310-77ca-4f57-a4e8-c4e6b8f8b2e9'
INFO: resuming VM again
INFO: scsi0: dirty-bitmap status: created new
INFO: 2% (612.0 MiB of 20.0 GiB) in 3s, read: 204.0 MiB/s, write: 166.7 MiB/s
INFO: 10% (2.1 GiB of 20.0 GiB) in 6s, read: 526.7 MiB/s, write: 165.3 MiB/s
INFO: 53% (10.7 GiB of 20.0 GiB) in 9s, read: 2.8 GiB/s, write: 164.0 MiB/s
INFO: 100% (20.0 GiB of 20.0 GiB) in 11s, read: 4.7 GiB/s, write: 82.0 MiB/s
INFO: backup is sparse: 18.39 GiB (91%) total zero data
INFO: backup was done incrementally, reused 18.39 GiB (91%)
INFO: transferred 20.00 GiB in 11 seconds (1.8 GiB/s)
INFO: Finished Backup of VM 102 (00:00:15)
INFO: Backup finished at 2021-06-08 18:53:49
INFO: Backup job finished successfully
TASK OK
То есть разница между «файловым бэкапом» → «локальным бэкапом» → «бэкапом тома» ОГРОМНАЯ.
Буду благодарен за любые советы, как получить более приемлемые показатели при файловом бэкапе. Спасибо!
