Вводная часть
Ребенок подрос и появилась желание собрать дома свой сервер с виртуализацией для экспериментов и повседневного использования. Повысить скил в Linux, продуктах Citrix, python. Посмотреть внутрянку Elastic Search и других интересных продуктов.
Цены указаны на февраль 2021 г. К концу мая 2021 г. цены вырасли существенно.
Выбор оборудования
Кроме желания необходима финансовая составляющая и выбор оборудования.
Б/у оборудование особого желания не было покупать поэтому необходимо было выбрать максимально бюджетное и производительное оборудование.
Первым делом выбор процессора — выбор пал все таки на б/у Xeon E5 2678 v3 с хорошо известной китайского market place стоимость ~ 7300 р. и ждать недели 3. Но делать нечего берем.
Пока ехал целевой процессор взял на всеми известной российской барахолке бюджетный Xeon E5 2630L v3. — 2 000 р.
Следующим важным компонентом материнская плата — покупать китайскую плату без гарантии на той же площадке побоялся. Цена такой материнки с хорошим VRM которую можно брать в районе 8500 р. В нашем интернет-магазине нашел новые материнки под данный сокет и с гарантией. Долго выбирал между ASUS SABERTOOTH X99 и ASUS X99-DELUXE II. Комплектация последней была богаче, цена была плюс-минус одинаковая. В итоге выбор пал на ASUS SABERTOOTH X99 — 5 лет гарантии, дополнительный вентилятор для охлаждения VRM, заглушки под не используемые разъемы, доп охлаждение, защита всей материнской платы и другие плюшки. Итого потрачено с учетом использования подарочных бонусов — 17 654 р. Спустя 3 месяца она стала стоить 27000 р.
Далее выбор правильного питания для сборки — тут выбор огромный и отзывы как всегда противоречивые. Кто-то хвалит одни и ругает другие. Выбор пал на bequiet! System Power 9 700 Вт ATX BN248 — 5490 р. Чего-то особенного не ждал. Тихий блок питания, аккуратные провода в оплетке.
Для охлаждения взял Cooler Master Hyper H412R 120W RR-H412-20PK-R2 за 1600 р. Как показали тесты справляется на ура. Пока менять не планирую.
В качестве планок памяти выбор пал на MICRON (Crucial) DDR4 16Gb 3200MHz pc-25600 ECC, Reg (MTA18ASF2G72PDZ-3G2E1) for server. С учетом подарочных бонусов к праздникам и бонусов за предыдущие покупки вышли пока так — две планки по 5570 р. и одна планка за 5010 р. На китайском маркет плейсе планка на 16 ГБ стоит 3800-4000р. Решено было доплатить около 1700 за каждую планку — в итоге имеем якобы 10 лет гарантии. Эти планки видимо пользуются популярностью и они периодически пропадают из продажи либо стоят ~ 8000 р. Пока будет 3 планки и жду следующих скидок и акций 🙂
Далее корпус, важны были следующие критерии:
-
цена — не более 4000 р.
-
хорошая продуваемость
-
нижнее расположение блока питания
-
кожах для блока питания
-
место для кабель менеджмента
-
возможность установить 3 hdd и хотябы один ssd
-
установить несколько 140 мм вентиляторов на вдув и выдув
В итоге выбрал Deepcool MATREXX 55 MESH за 3490 р. Многие скажут, что в него можно установить всего 2 3,5 hdd. Да это так, но отзывы по нему хорошие и цена приятная. Ну а третий hdd будет лежать на кожухе.
К корпусу купил 5 вентиляторов ID-Cooling White (WF-14025) и один ID-Cooling White 120mm 4-Pin 800-1800 RPM (WF-12025) обошлись в 2950 р.
От старого компьютера осталось 3 hdd WD. Два на 500 Гб и один на 1 Тб. Но на них есть данные которые надо оставить. Под систему и VM купил Western Digital Black SN750 M.2 500 Gb PCIe Gen3x4 TLC (WDS500G3X0C) — 6590 р. Выбирал между этим и таким же только с радиатором. Разница в цене была в тысячу. Из-за особенностей материнской платы с радиатором мог не влезть и взял такой.
В планах купить ASUS HYPER M.2 X16 CARD V2 и еще парочку таких же ssd и перенести систему на sata ssd.
Провел тесты nvme накопителя встроенными средствами разным размером и количеством :
Для сервера все комплектующие куплены и можно собирать. Так стоп, а видеокарта где. Вот с ней большая проблема. Во время бума майнинга купить по адекватной цена видеокарту не так просто, а если учесть что она должна поддерживать 4к монитор еще сложнее. Пока будем использовать старую и без поддержки 4к — Radeon HD 4670.
В итоге сервер в первоначальной конфигурации немного вышел из бюджета и составил ~ 63 000 р.
Операционная система
Пока решил остановиться на Linux с KVM. В качестве дистрибутива выбрал Fedora далее устанавливать KVM и обвязкой.
Установка ОС
В использовании Linux можно сказать новичок и это вызывает некоторые трудности из-за древней видеокарты. Установка заработала в режиме загрузки UEFI и с упрощенной графикой.
Разбиваем диск на разделы с использованием LVM.
Установка на nvme накопитель прошла достаточно быстро.
После установки система запускает в максимальном разрешении HD 1280×1024.
Исправляем это путем редактирования файла — /etc/default/grub удаляем nomodeset
и обновляем загрузчик
sudo grub2-mkconfig
Ребутаемся и получаем интересный эффект — проблема со стартом gdm — видеосигнал не идет на монитор и он уходит в спячку.
Перехожу в консольный режим Alt + Ctrl + F3
Быстрого решения не нашел и в итоге ставлю lightdm и включаю его. Если подскажите решение буду благодарен.
sudo gdm install lightdm lightdm-gtk
# отключаем gdm
sudo systemctl disable gdm
# включаем lightdm
sudo systemctl enable lightdm
После ребута все работает как часы — появилась графика и разрешение хотя бы FullHD. На 4K мониторе не очень комфортно.
Первым делом установка обновлений и установка минимального набора пакетов ОС
sudo dnf update
sudo dnf install fedora-workstation-repositories
sudo dnf config-manager --set-enabled google-chrome
sudo dnf install google-chrome-stable
Дальше настало время установи kvm для возможности запуска виртуальным VM. Для этого устанавливаем kvm, необходимых пакетов и утилит для мониторинга системы:
sudo dnf -y install bridge-utils libvirt virt-install qemu-kvm
sudo dnf -y install virt-top libguestfs-tools
sudo systemctl start libvirtd
sudo systemctl enable libvirtd
sudo dnf -y install virt-manager
sudo dnf -y install htop
sudo dnf -y install iftop
sudo dnf -y install ftop
sudo dnf install lm_sensors lm_sensors-sensord
sudo sensors-detect
Дальше в планах развернуть схему Citrix Virtual Desktop. В качестве контроллера AD использовать Debian c SAMBA 4.