RAID контроллер для HDD в proxmox

Подскажите кто какие контроллеры использует для подключения HDD в proxmox?
Я правильно понимаю что этот должен подойти?

Игрался с таким и похожими с алика, с ESXi полет был нормальный, отказался от физического рейда, после того как у знакомого он отвалился, пришлось ждать с алика такой же, на аналоге рейд не пересобрался.
Если рассматриваете физический рейд-контроллер для дома, вероятно есть смысл покупать сразу два.

#справочно

Я не использую железные raid контроллеры(это не говорит, что они плохие, просто не использую)

Обращаю внимание новичков, что PVE по умолчанию работает с ZFS, с которым работа через железные рейды официально - не поддерживаются.

image

Дополню немного комментарий @admin
Все, что он написал - чистая правда!, но

Открываем описание контроллера по ссылке

9300-8I LSI SAS3008 12 Гбит/с SATA/SAS 8-портовый HBA IT-режим ZFS FreeNAS unRAID +2*SFF-8643 Используемый кабель SATA

Я немного читал про это дело + рассматривал вариант сборки собственного полноценного NAS

Ну и ремарка по поводу рейда

У меня на работе сервак старенький, но рабочий, там тоже стоит похожий raid контроллер, так вот он настолько старый, что настраивать можно только загрузившись в BIOS, утилита под linux у меня пару лет назад уже не собиралась т.к. была очень старая, в итоге вроде и рейд есть и легко на него систему поставил и даже там Proxmox с ZFS нормально работает, но ни настройки нормальной нет ни мониторинга. + Как писали выше, если контроллер выйдет из строя, то не факт, что получится собрать рейд на другом.

Так вот, по поводу подобных железок, для них есть прошивка IT-режима, не знаю, можно ли прошивать самостоятельно, можно ли настроить без нее, но вот по ссылке как раз таки такая железка и она работает не как аппаратный raid контроллер, а как простой PCI-E to SATA/SAS контроллер (с передачей всех дисков отдельно и софтовым рейдом), стабильный и крутой в отличие от всяких JMB

Так вот, по поводу подобных железок, если надо много портов и не хочется покупать что-то типа этого (а я купил) и очень любите Proxmox VE (а я люблю), то часто делается такая схема

  1. На хост ставится Proxmox VE
  2. В нем создается виртуалка с TrueNas/Unraid/OMV и т.д. и т.п.
  3. Этот контроллер прокидывается в вируалку через PCI Passthrough одним устройством
  4. Все подключенные к нему диски сразу появляются в виртуалке со всеми плюшками типа SMART, управлением сном, получением информации о диске

Я сейчас использую вариант с пробросом отдельных дисков и имею рад проблем

  1. Приходится каждый диск подключать или руками или при помощи скрипта menu
  2. SMART в proxmox, truenas не видит ни SMART ни обороты ни прочую информацию
  3. Если отваливается диск, то виртуалка не стартует, у меня было так, что просто поменялся путь и все равно не стартанула, с этим же контроллером и этой схемой виртуалка бы запустилась, рейд в деградации, но по крайней мере остальные пулы доступны и мы видим уведомление о том, что диск пропал

Конкретно по этому контроллеру ничего сказать не могу т.к. не работал с ним, но если на материнке не хватает SATA портов или нужны SAS диски и есть свободные полноразмерные PCI-E слоты, то можно брать.

2 лайка

Просто, элегантно, жизнеспособно!
I like it =)

а у нас работает в одном сервере рейд 5 года с 2022 что ли
прокс видит его просто как один диск и все

под линупс ставится софт для управления и мониторинга и можно через вебморду смотреть

наличие рейда не отменяет каждодневный бекап на отдельный сервер бекапов пбс

главное не пользуйтесь встроеным 5м рейдом на интеловских платах, он там кривой

Мне полноценный рейд и не нужен главное что бы можно подключить диски и Proxmox мог видеть их по отдельности + возможность подключить SAS диски.

Идея хорошая, но я буду использовать в разных местах.
Я правильно понимаю что данные контроллеры смогут работать с быстросъемными корзинами?

Обычно с ними и используют

Апну немного тему, кто вообще в целом что использует для подключения много HDD? Простые SATA расширения в PCI-E с алика почти все х1, и не выглядят надежным.
Ищу для себя что-то на 10+ HDD, важно чтобы работал passthrough в ВМ, планирую прокидывать в TrueNAS и чтобы он видел смарт дисков, может кто-нибудь поделится опытом?

А чем не устраивает тот, что в первом сообщении?

Да я вот на них и смотрю в принципе, просто интересно общее мнение о подобных контроллерах с алика.

Ну это старые серверные железки, рабочие, как правило. Я очень часто вижу их в сборках
Вот товарищ такой себе поставил, но там без Proxmox и truenas, а собственная система создания сетевых хранилищ.

Стоит только обращать внимание, чтобы была соответствующая прошивка, позволяющая пробрасывать все диски в систему

2 лайка

Напишу небольшой отзыв по этой железки.
Хочу отметить что у меня плата Lenovo rd450x и соответственно в биосе я нормально эту плату контроллера для HDD не обнаружил, НО проксмокс нормально определил, нашел дрова и подхватил жесткие. На момент установки у меня диски были смонтированые как ZFS и как ext4, но sas дисками еще не пробовал т.к. еще нету в наличии.

2 лайка

Всех приветствую!
Подскажите, а реализовал кто-нибудь в итоге идею с PCI Passthrough?

Просто я собирал домашний сервер уже много лет назад и тогда выбрал VMware ESXi в качестве гипервизора (просто было с ним опыта больше на тот момент).
Там без проблем пробросил по такой схеме Raid контроллер в виртуалку.

Через какое-то время в сервере сдох системный SSD (не повезло с кингстоном) и пришлось переустанавливать гипервизор и доставать виртуалки из бэкапов.
В этот момент подумал, что неплохо бы переехать на проксмокс, чтобы быть на одной системе с другими своими серверами.

Но на этапе попытки проброса контроллера в виртуалку на проксмоксе я не справился. Убил вечер, копался, но так и не вышло пробросить контроллер в ВМ.
В итоге поставил снова ESXi.

В целом, мысли переехать на proxmox постоянно посещают меня и хотелось бы услышать людей, у которых есть положительный опыт реализации такого сценария на проксе :slight_smile:

Заранее спасибо за ответ!

нужен драйвер и не использовать Zfs
у меня стоит в одном сервере и норм
адаптек какой-то вроде

пробрасывается не контроллер в виртуалку, а диск можно физический в виде рейда или на этом рейде хранить виртуальные диски

а если ты хочеш пробрасывать отдельные физические диски в виртуалки (зачем?), то нужен контроллер с прошивкой hba, если она вообще есть на него

тогда он не будет работать как рейд, а просто будет как расширитель сата портов

1 лайк

Именно в таком режиме я сейчас и использую на ESXi.

Логика примерно такая: не важно, что произойдёт с моим сервером, рейд-контроллером. Я всегда могу переехать на другое железо с другим HBA и восстановленная с бэкапа виртуалка с XPenology увидит физические диски со своими данными.

Аппаратный рейд прекрасен ровно до момента отказа аппаратного рейд контроллера…

К другой части поста добавлю: 1) прокидывать в truenas pci с родными (материнке) Sata…например, мне повезло, что на китайской маьеринке 6 сата… Но не очень повезло в том, что они все на олном pci и отдельно не прокинуть
2) указанные nvme-sata также использую надо внимательно выбирать чип на котором они сделаны. Нужен совресенный более менее (две конторы и два чипа вчего) которые нормально разрулят скорости sata.
Но я использую для “мусорных” ssd (загрузка proxmox) и hdd (файлопомойка), т к кроме проблем описанных выше - это хлипкие разъемы…хлипкая тонкая плата…

Есть модели с таким режимом, а есть те, которые можно перепрошить…отличие таких варианоов - цена обычно заметно выше.
Подробнее надо смотреть на форуме Proxmox по моделям и истории успеха.

Рассматривал, когда думал купить бу дешевых серверных sata, но:

  1. Они вроде как шумят и свистят на порядок громче.
  2. Покупал бы 0,6..1 Тб…и стоимость электроэнергии и габариты наверно также будут в минус