Информация
Услуги
  • Внедрение
  • Настройка
  • Поддержка
  • Ремонт
Контакты
Оплата
Новости
Доставка
Загрузки
Форум
Настройка
    info@proxmox.su
    +7 (495) 320-70-49
    Заказать звонок
    Аспро: ЛайтШоп
    Войти
    0 Сравнение
    0 Избранное
    0 Корзина
    Аспро: ЛайтШоп
    Войти
    0 Сравнение
    0 Избранное
    0 Корзина
    Аспро: ЛайтШоп
    Телефоны
    +7 (495) 320-70-49
    Заказать звонок
    0
    0
    0
    Аспро: ЛайтШоп
    • +7 (495) 320-70-49
      • Назад
      • Телефоны
      • +7 (495) 320-70-49
      • Заказать звонок
    • info@proxmox.su
    • Москва, Бакунинская улица, 69с1
    • Пн-Пт: 09-00 до 18-00
      Сб-Вс: выходной
    • 0 Сравнение
    • 0 Избранное
    • 0 Корзина
    Главная
    Форум
    Proxmox Виртуальная Среда
    AMD Ryzen 7 "Renoir" 4750G APU и проброс iGPU (в Windows 10 гостевую систему)?

    Форумы: Proxmox Виртуальная Среда, Proxmox Backup Server, Proxmox Mail Gateway, Proxmox Datacenter Manager
    Поиск  Пользователи  Правила  Войти
    Страницы: 1
    RSS
    AMD Ryzen 7 "Renoir" 4750G APU и проброс iGPU (в Windows 10 гостевую систему)?, Proxmox Виртуальная Среда
     
    NetworkingMicrobe
    Guest
    #1
    0
    25.02.2021 02:30:00
    Привет! Я недавно собрал компактную систему (SFF) с новым APU Ryzen 7 "Renoir" 4750G и комплектом корпуса/материнской платы ASRock X300. Хочу настроить на нем PVE (v6.3-1) с несколькими гостевыми машинами и хочу передать интегрированную GPU (Radeon RX Vega-based) в Windows 10 VM. Согласно этому посту на форуме, вероятно, мне придётся сначала включить экспериментальные драйверы Renoir APU в ядре при загрузке, так как они стандартны только в ядре 5.5, используя команду: amdgpu.exp_hw_support=1. Затем я думаю найти номера шины и функции моей iGPU с помощью команды lspci, а затем запустить lspci -nks <bus/function>, чтобы получить имя модуля ядра, которое я затем добавлю в файл /etc/modprobe.d/pve-blacklist.conf. Думаю, я даже могу добавить имя модуля к параметру ядра modprobe.blacklist=... в GRUB. Я в тупике, что мне делать дальше, чтобы фактически назначить iGPU VM. Какие-нибудь советы о том, как может выглядеть процесс, когда система придёт, или это провальное дело? Кто-нибудь успешно назначал интегрированную GPU AMD APU гостевой VM (в идеале, Windows 10)? Заранее спасибо.
     
     
     
    pottproll
    Guest
    #2
    0
    23.03.2021 10:26:00
    Интересно! А какие у тебя IOMMU Groups? Например, вот код:
    for d in /sys/kernel/iommu_groups/*/devices/*; do n=${d#*/iommu_groups/*}; n=${n%%/*}; printf 'IOMMU Group %s ' "$n"; lspci -nns "${d##*/}"; done.

    Что происходит без acs_override? Хочу пробросить iGPU (4350G и Asrock A520M-ITX) на macOS/Win10 VM. Попробую, когда будет время на днях.
     
     
     
    NetworkingMicrobe
    Guest
    #3
    0
    23.03.2021 12:24:00
    Привет @pottproll, без патча ACS override, мои группы IOMMU выглядят так (обрати внимание, как iGPU 03:00.0 и его аудиоустройство 03:00.1 находятся в одной группе с кучей другого оборудования, что мешает мне передать их без зависания системы):

    Код:
    IOMMU Group 0 00:01.0 Host bridge [0600]: Advanced Micro Devices, Inc. [AMD] Renoir PCIe Dummy Host Bridge [1022:1632]
    IOMMU Group 1 00:02.0 Host bridge [0600]: Advanced Micro Devices, Inc. [AMD] Renoir PCIe Dummy Host Bridge [1022:1632]
    IOMMU Group 1 00:02.2 PCI bridge [0604]: Advanced Micro Devices, Inc. [AMD] Renoir PCIe GPP Bridge [1022:1634]
    IOMMU Group 1 00:02.3 PCI bridge [0604]: Advanced Micro Devices, Inc. [AMD] Renoir PCIe GPP Bridge [1022:1634]
    IOMMU Group 1 01:00.0 Network controller [0280]: Intel Corporation Dual Band Wireless-AC 3168NGW [Stone Peak] [8086:24fb] (rev 10)
    IOMMU Group 1 02:00.0 Ethernet controller [0200]: Realtek Semiconductor Co., Ltd. RTL8111/8168/8411 PCI Express Gigabit Ethernet Controller [10ec:8168] (rev 15)
    IOMMU Group 2 00:08.0 Host bridge [0600]: Advanced Micro Devices, Inc. [AMD] Renoir PCIe Dummy Host Bridge [1022:1632]
    IOMMU Group 2 00:08.1 PCI bridge [0604]: Advanced Micro Devices, Inc. [AMD] Renoir Internal PCIe GPP Bridge to Bus [1022:1635]
    IOMMU Group 2 00:08.2 PCI bridge [0604]: Advanced Micro Devices, Inc. [AMD] Renoir Internal PCIe GPP Bridge to Bus [1022:1635]
    IOMMU Group 2 03:00.0 VGA compatible controller [0300]: Advanced Micro Devices, Inc. [AMD/ATI] Renoir [1002:1636] (rev d8)
    IOMMU Group 2 03:00.1 Audio device [0403]: Advanced Micro Devices, Inc. [AMD/ATI] Device [1002:1637]
    IOMMU Group 2 03:00.2 Encryption controller [1080]: Advanced Micro Devices, Inc. [AMD] Family 17h (Models 10h-1fh) Platform Security Processor [1022:15df]
    IOMMU Group 2 03:00.3 USB controller [0c03]: Advanced Micro Devices, Inc. [AMD] Renoir USB 3.1 [1022:1639]
    IOMMU Group 2 03:00.4 USB controller [0c03]: Advanced Micro Devices, Inc. [AMD] Renoir USB 3.1 [1022:1639]
    IOMMU Group 2 04:00.0 SATA controller [0106]: Advanced Micro Devices, Inc. [AMD] FCH SATA Controller [AHCI mode] [1022:7901] (rev 81)
    IOMMU Group 3 00:14.0 SMBus [0c05]: Advanced Micro Devices, Inc. [AMD] FCH SMBus Controller [1022:790b] (rev 51)
    IOMMU Group 3 00:14.3 ISA bridge [0601]: Advanced Micro Devices, Inc. [AMD] FCH LPC Bridge [1022:790e] (rev 51)
    IOMMU Group 4 00:18.0 Host bridge [0600]: Advanced Micro Devices, Inc. [AMD] Renoir Device 24: Function 0 [1022:1448]
    IOMMU Group 8 00:18.1 Host bridge [0600]: Advanced Micro Devices, Inc. [AMD] Renoir Device 24: Function 1 [1022:1449]
    IOMMU Group 8 00:18.2 Host bridge [0600]: Advanced Micro Devices, Inc. [AMD] Renoir Device 24: Function 2 [1022:144a]
    IOMMU Group 8 00:18.3 Host bridge [0600]: Advanced Micro Devices, Inc. [AMD] Renoir Device 24: Function 3 [1022:144b]
    IOMMU Group 8 00:18.4 Host bridge [0600]: Advanced Micro Devices, Inc. [AMD] Renoir Device 24: Function 4 [1022:144c]
    IOMMU Group 8 00:18.5 Host bridge [0600]: Advanced Micro Devices, Inc. [AMD] Renoir Device 24: Function 5 [1022:144d]
    IOMMU Group 8 00:18.6 Host bridge [0600]: Advanced Micro Devices, Inc. [AMD] Renoir Device 24: Function 6 [1022:144e]
    IOMMU Group 8 00:18.7 Host bridge [0600]: Advanced Micro Devices, Inc. [AMD] Renoir Device 24: Function 7 [1022:144f]

    С патчем ACS override, группы IOMMU выглядят так:

    Код:
    IOMMU Group 1 00:02.0 Host bridge [0600]: Advanced Micro Devices, Inc. [AMD] Renoir PCIe Dummy Host Bridge [1022:1632]
    IOMMU Group 2 00:02.2 PCI bridge [0604]: Advanced Micro Devices, Inc. [AMD] Renoir PCIe GPP Bridge [1022:1634]
    IOMMU Group 3 00:02.3 PCI bridge [0604]: Advanced Micro Devices, Inc. [AMD] Renoir PCIe GPP Bridge [1022:1634]
    IOMMU Group 4 00:08.0 Host bridge [0600]: Advanced Micro Devices, Inc. [AMD] Renoir PCIe Dummy Host Bridge [1022:1632]
    IOMMU Group 5 00:08.1 PCI bridge [0604]: Advanced Micro Devices, Inc. [AMD] Renoir Internal PCIe GPP Bridge to Bus [1022:1635]
    IOMMU Group 6 00:08.2 PCI bridge [0604]: Advanced Micro Devices, Inc. [AMD] Renoir Internal PCIe GPP Bridge to Bus [1022:1635]
    IOMMU Group 7 00:14.0 SMBus [0c05]: Advanced Micro Devices, Inc. [AMD] FCH SMBus Controller [1022:790b] (rev 51)
    IOMMU Group 7 00:14.3 ISA bridge [0601]: Advanced Micro Devices, Inc. [AMD] FCH LPC Bridge [1022:790e] (rev 51)
    IOMMU Group 8 00:18.0 Host bridge [0600]: Advanced Micro Devices, Inc. [AMD] Renoir Device 24: Function 0 [1022:1448]
    IOMMU Group 8 00:18.1 Host bridge [0600]: Advanced Micro Devices, Inc. [AMD] Renoir Device 24: Function 1 [1022:1449]
    IOMMU Group 8 00:18.2 Host bridge [0600]: Advanced Micro Devices, Inc. [AMD] Renoir Device 24: Function 2 [1022:144a]
    IOMMU Group 8 00:18.3 Host bridge [0600]: Advanced Micro Devices, Inc. [AMD] Renoir Device 24: Function 3 [1022:144b]
    IOMMU Group 8 00:18.4 Host bridge [0600]: Advanced Micro Devices, Inc. [AMD] Renoir Device 24: Function 4 [1022:144c]
    IOMMU Group 8 00:18.5 Host bridge [0600]: Advanced Micro Devices, Inc. [AMD] Renoir Device 24: Function 5 [1022:144d]
    IOMMU Group 8 00:18.6 Host bridge [0600]: Advanced Micro Devices, Inc. [AMD] Renoir Device 24: Function 6 [1022:144e]
    IOMMU Group 8 00:18.7 Host bridge [0600]: Advanced Micro Devices, Inc. [AMD] Renoir Device 24: Function 7 [1022:144f]
    IOMMU Group 9 01:00.0 Network controller [0280]: Intel Corporation Dual Band Wireless-AC 3168NGW [Stone Peak] [8086:24fb] (rev 10)
    IOMMU Group 10 02:00.0 Ethernet controller [0200]: Realtek Semiconductor Co., Ltd. RTL8111/8168/8411 PCI Express Gigabit Ethernet Controller [10ec:8168] (rev 15)
    IOMMU Group 11 03:00.0 VGA compatible controller [0300]: Advanced Micro Devices, Inc. [AMD/ATI] Renoir [1002:1636] (rev d8)
    IOMMU Group 12 03:00.1 Audio device [0403]: Advanced Micro Devices, Inc. [AMD/ATI] Device [1002:1637]
    IOMMU Group 13 03:00.2 Encryption controller [1080]: Advanced Micro Devices, Inc. [AMD] Family 17h (Models 10h-1fh) Platform Security Processor [1022:15df]
    IOMMU Group 14 03:00.3 USB controller [0c03]: Advanced Micro Devices, Inc. [AMD] Renoir USB 3.1 [1022:1639]
    IOMMU Group 15 03:00.4 USB controller [0c03]: Advanced Micro Devices, Inc. [AMD] Renoir USB 3.1 [1022:1639]
    IOMMU Group 16 04:00.0 SATA controller [0106]: Advanced Micro Devices, Inc. [AMD] FCH SATA Controller [AHCI mode] [1022:7901] (rev 81)
     
     
     
    Ramalama
    Guest
    #4
    0
    23.03.2021 12:37:00
    @NetworkingMicrobe Попробуй, пожалуйста, официальное ядро pve 5.11.7? Там внесли изменения в инициализацию групп iommu. И напиши, изменились ли у тебя группы?
     
     
     
    NetworkingMicrobe
    Guest
    #5
    0
    23.03.2021 12:45:00
    Спасибо за ответ. Я не думаю, что проблема в IOMMU группах как таковых, так как похоже, что дело действительно в самом драйвере AMD, который устанавливается Windows (всё работает нормально, хотя производительность и не идеальная, пока я не установил драйвер). В любом случае, я установил ядро 5.11.7-1, и мои IOMMU группы выглядят точно так же, как и в текущем стабильном ядре в PVE (см. мой комментарий выше, чтобы увидеть, как они выглядят с включённым или выключенным ACS override). И с включённым, и с выключенным ACS override.
     
     
     
    leesteken
    Guest
    #6
    0
    23.03.2021 12:55:00
    Без обид, но это выглядит действительно странно. Опция pcie_acs_override=downstream(,multifunction) должна разделять все устройства (и функции) на отдельные группы, и ни один нормальный motherboard/BIOS не должен так делать по умолчанию. Я бы считал это багом, если ядро всегда применяло эту опцию. Может, я не прав, или что-то пошло не так?
     
     
     
    NetworkingMicrobe
    Guest
    #7
    0
    23.03.2021 13:00:00
    Прости, забарахлило (видимо, кофе сегодня не выпил). Я хотел сказать, что мои IOMMU группы выглядят одинаково в 5.11.7-1 и в текущем стабильном ядре в PVE. Разумеется, если включить ACS override, я вижу гораздо больше групп (всего 9), потому что у каждого устройства появляется своя, как я уже писал выше. Если это выключено, то у меня получается только 4 группы.
     
     
     
    Ramalama
    Guest
    #8
    0
    23.03.2021 14:53:00
    Спасибо за информацию. Ты уже второй, кто подтвердил, что группы (iommu) плохие с zen2 igpu cpu. Не знаю, насколько влияет материнская плата, 520 точно не идеальная для iommu group, но пока что мне кажется, что больше всего влияет сам процессор. В любом случае, спасибо за попытку и пока.
     
     
     
    NetworkingMicrobe
    Guest
    #9
    0
    23.03.2021 16:26:00
    Я всё же смог разобраться и запустить работу, но проблема возникает, когда я устанавливаю драйвера AMD в гостевой ОС – тогда на VGA/HDMI/DP выводится какой-то мусор. А без драйверов производительность при просмотре видео и перемещении окон просто ужасная.
     
     
     
    leesteken
    Guest
    #10
    0
    23.03.2021 16:46:00
    Похоже, никто раньше так далеко не заходил, я думаю. Мне кажется, что драйвер (как, вероятно, было или есть с Intel?) не предполагает наличие интегрированной GPU в такой конфигурации. Он использует память хост-CPU, что усложняет passthrough. Я предполагаю, что драйвер хочет согласовать диапазоны адресов памяти и/или ожидает определенных каналов между GPU и CPU, которых нет в VM. Либо драйверам нужно поддерживать эту конфигурацию, либо QEMU нужно что-то особенное сделать, чтобы это заработало.
     
     
     
    pottproll
    Guest
    #11
    0
    23.03.2021 16:53:00
    Какой процессор ты использовал? Хост или KVM по умолчанию? Может, это поможет разобраться: ? Я не думаю, что дело в процессоре. Другой парень получал гораздо лучшие группы с его материнской платой x570 после обновления BIOS: Сейчас меняю немного железа, поэтому в ближайшие несколько дней не смогу протестировать.
     
     
     
    NetworkingMicrobe
    Guest
    #12
    0
    23.03.2021 17:05:00
    Еще кое-что заметил: хотя экран выглядит ужасно (снова, смотри мой предыдущий комментарий выше с примером фото), мышь полностью реагирует, и я вижу, как движется курсор. Иногда, если я достаточно случайно кликаю, драйвер "вылетает", и в диспетчере устройств появляется код 43 для iGPU, то есть драйверы видеоадаптера Windows берут верх, и я могу использовать систему, но опять же с очень плохой графической производительностью. @pottproll Я использовал опцию "default" для CPU (kvm64). Когда я пробовал опцию "host", я получаю ту же проблему: мышь реагирует, но всё остальное — пиксельное случайное барахло. Windows 10 в диспетчере задач сообщает "AMD Ryzen 7 PRO 4750G with Radeon Graphics", хотя. Некоторые пользователи на Reddit с другими (дискретными) видеокартами AMD сообщают о похожих проблемах (хотя фотографий для подтверждения нет) с недавними драйверами AMD — возможно, он как-то определяет, что мы находимся в виртуальной машине... Я пробовал менять Vendor IDs во флагах CPU QEMU на какие-то случайные, но безрезультатно. Смотри ссылки ниже: https://www.reddit.com/r/VFIO/comments/kdx5pl/working_amd_drivers_for_gpu_passt­hrough_newer/ https://www.reddit.com/r/VFIO/comments/gtufa5/latest_2051_driver_broke_vm_gpu_p­assthrough_on/ К сожалению, я пробовал самый старый доступный драйвер, который поддерживает APU iGPU в целом, и всё равно у меня та же проблема. Драйверы "AMD Pro", которые некоторые пользователи используют для своих дискретных видеокарт, также не поддерживают APU.

    EDIT: Я также пробовал менять vendor_ID, добавив следующую строку в файл конфигурации моей ВМ, но без успеха: Код: args: -cpu 'host,hv_ipi,hv_relaxed,hv_reset,hv_runtime,hv_spinlocks=0x1fff,hv_stimer,hv_synic,hv_time,hv_vapic,hv_vendor_id=1234567890ab,hv_vpindex,kvm=off,+kvm_pv_eoi,+kvm_pv_unhalt'
     
     
     
    NetworkingMicrobe
    Guest
    #13
    0
    23.03.2021 17:14:00
    И вот еще мысль: материнская плата – решающий фактор для групп IOMMU. В моем случае я использую комплект корпуса/материнской платы ASRock X300W DeskMini, других слотов PCIe нет, только сокет для процессора и встроенный звук. Однако, AMD APU все должны выглядеть одинаково с точки зрения группировки IOMMU для встроенной графики, связанного звукового устройства, контроллера USB и контроллера шифрования.
     
     
     
    Ramalama
    Guest
    #14
    0
    23.03.2021 17:42:00
    В целом верно, но у другого парня все равно материнская плата очень похожа на мою. А у меня с x5800 и со всеми идеальными группами ввода-вывода в BIOS. (Есть 3 версии BIOS: изначальная, первая бета и недавно обновленная финальная, которая 1:1 как последняя бета, просто поменяли номер версии... даже спорил с ASRock, и они подтвердили, что просто увеличили номер версии и ничего больше). (Спорил с ними насчет AGESA 1.2.0.0... и платы ASRock Rack на x570, AGESA 1.2.0.0 они в ближайшее время точно не получат). Впрочем, на мой взгляд, реальное различие между нами – в процессорах, и я не исключаю влияние материнской платы на группы ввода-вывода, потому что везде пишут, что оба фактора важны. Я просто думаю, что особенно у серии G влияние процессора на это сильнее, чем у материнской платы. Или, чтобы сказать по-другому, да, понижение помогло ему, но и смена процессора, вероятно, тоже бы помогла, кто знает. Или может быть, дело просто в материнской плате, у которой есть какие-то таблицы для отдельных процессоров... В общем, это бесконечная дискуссия xD А по поводу проброса, было бы круто, если бы кто-нибудь сделал драйвер для проброса, который просто эмулировал бы GPU и отправлял все команды хост-машине. Представьте себе, как с монтированием устройств в lxc. Тогда нам бы не пришлось бороться с пробросом или группами ввода-вывода. И теоретически это не должно быть невозможно. Наверное, не очень безопасно.
     
     
     
    leesteken
    Guest
    #15
    0
    23.03.2021 17:47:00
    Что-то вроде VirGL? Говорят, это уже какое-то время работает, но для гипервизора вроде Proxmox оно не очень подходит.
     
     
     
    Ramalama
    Guest
    #16
    0
    23.03.2021 19:51:00
    Точно, полагаю, virtio-gpu – это virgl. Но почему-то никто этим не занимается. Я даже могу представить это как замену mxgpu или дорогостоящей альтернативе vgpu от Nvidia. Но да, это то, о чем можно помечтать, и, конечно же, это никогда не будет закончено xD
     
     
     
    NetworkingMicrobe
    Guest
    #17
    0
    23.03.2021 20:14:00
    Покопался немного дальше и решил запустить утилиту GPU-Z, чтобы получить более подробную информацию о GPU, как в родной W10, так и в гостевой VM на Proxmox VE. Результаты ниже, я выделил различия... (подключен к VM через RDP, не уверен, влияет ли это). Не понимаю, почему показывает Bus PCI, когда конфигурация VM для проброса выглядит так: `Code: hostpci0: 03:00.0;03:00.1,pcie=1,x-vga=1`. Очевидно, PCIe, а также машина типа Q35.

    EDIT: И забыл выделить "Revision", он тоже отличается (00 против D8).
     
     
     
    Ramalama
    Guest
    #18
    0
    23.03.2021 20:24:00
    Насколько я помню, тебе нужен OVMF и нужно попробовать q35 v5.1 и v5.2.
     
     
     
    NetworkingMicrobe
    Guest
    #19
    0
    21.03.2021 17:42:00
    @Stefan_R, спасибо за подсказку. У меня получилось как-то завести passthrough iGPU APU 4750G в гостевой W10, и работает вполне неплохо (хотя ограничено ~24-30Гц частотой обновления и без аппаратного ускорения), пока не установь драйвера AMD. После установки всё летит в тартарары. Ниже прикреплено изображение того, что происходит с выводом изображения после установки драйверов. Курсор мыши всё ещё полностью отзывчив и двигается, но всё остальное – это пиксельный бардак. Если отключить устройство AMD Radeon Graphics в диспетчере устройств Windows (через RDP), всё возвращается в норму. Передача VBIOS не имеет значения, поэтому сейчас я работаю без него. Иногда драйвер просто полностью вылетает, и экран снова выглядит нормально, а в диспетчере устройств я получаю ошибку 43. Чтобы это заработало, мне пришлось включить IOMMU, разбить группы IOMMU и очистить EFI framebuffer при загрузке: Код: GRUB_CMDLINE_LINUX_DEFAULT="quiet amd_iommu=on pcie_acs_override=downstream,multifunction video=efifb:off" Я также добавил модуль ядра amdgpu в файл pve-blacklist.conf и связал iGPU (и связанное интегрированное аудиоустройство) с VFIO при загрузке: Код: # cat /etc/modprobe.d/vfio.conf
    options vfio-pci ids=1002:1636,1002:1637 В конце концов, мне пришлось использовать машину с Q35 и SeaBIOS и добавить следующую строку в файл конфигурации VM, чтобы передать iGPU и его аудиоустройство на одном многофункциональном устройстве: Код: hostpci0: 03:00.0;03:00.1,pcie=1,x-vga=1 Некоторые пользователи на Reddit сталкивались с похожими проблемами при передаче AMD GPU в целом: https://www.reddit.com/r/VFIO/comments/kdx5pl/working_amd_drivers_for_gpu_passt­hrough_newer/ https://www.reddit.com/r/VFIO/comments/gtufa5/latest_2051_driver_broke_vm_gpu_p­assthrough_on/ Однако исправления, связанные с изменением vendor_id VM на что-то другое (1234567890ab или KVMKVMKVM или случайное значение), не помогли. Я в тупике, не знаю, что еще попробовать. Я хотел бы, чтобы драйвера работали, так как это действительно помогло бы с производительностью. Я не использую VM для игр или чего-то интенсивного, но даже просмотр видео на YouTube или быстрое перемещение окна сейчас оставляет желать лучшего.

    {
    "lightbox_close": "Закрыть",
    "lightbox_next": "Следующий",
    "lightbox_previous": "Предыдущий",
    "lightbox_error": "Запрошенный контент не удается загрузить. Пожалуйста, попробуйте снова позже.",
    "lightbox_start_slideshow": "Запустить слайд-шоу",
    "lightbox_stop_slideshow": "Остановить слайд-шоу",
    "lightbox_full_screen": "На весь экран",
    "lightbox_thumbnails": "Миниатюры",
    "lightbox_download": "Загрузить",
    "lightbox_share": "Поделиться",
    "lightbox_zoom": "Увеличение",
    "lightbox_new_window": "Новое окно",
    "lightbox_toggle_sidebar": "Переключить боковую панель"
    }
     
     
     
    Страницы: 1
    Читают тему
    +7 (495) 320-70-49
    info@proxmox.su

    Конфиденциальность Оферта
    © 2026 Proxmox.su
    Главная Каталог 0 Корзина 0 Избранные Кабинет 0 Сравнение Акции Контакты Услуги Бренды Отзывы Компания Лицензии Документы Реквизиты Поиск Блог Обзоры