Целостность бекапов

Привет всем

Посоветуйте утилиту для проверки целостности бекапов.

Планирую делать бекапы с сервера на холодный носитель с помощью Rsync. Выбрал именно эту утилиту, так как бекапы прозрачные. Могу сразу использовать файл без какого либо разархивирование и т.п. процессов. А хардлинки позволят экономить место. При этом система воспринимает хардлинки как отдельный файл и может сразу с ними работать. В общем Rsync - это мой выбор

Бекапить буду на SSD, так как он уже есть и работает шустро. Но как известно долго хранить данные на SSD нельзя, заряд может утекать с ячеек, фалы повреждаться. Чтобы решить эту проблему можно просто периодически читать файл. Но вручную это конечно же не удобно

Как можно решить эту проблему? Насколько я понимаю при просчете контрольных сумм файл считывается полностью, то есть проблема с долгим хранением должна быть решена. Но пока в поисках удобного способа. Знаю, что для долгого хранения лучше подходит HDD. Но этот вариант не рассматриваю

2 лайка

В соседней теме уже обсуждали нечто подобное

Я там aide предлагал, почему бы не использовать его и тут?

Хотя, я топлю за PBS, он и проверять архивы умеет и дедуплицирукт и правила очистки
Можно монтировать бэкапы в фс, а потом просто скопировать нужный файл. Единственное чего не нашел полноценно, так это сравненя бэкапов между собой на предмет показа списка изученных файлов.

Упустил вариант с AIDE. Спасибо, поищу подробнее

PBS - это скорее не удобный вариант в моем случае. Бекапы делаются с сервера на холодный носитель, который ставится в рабочий ПК. То есть на сервере должен быть клиент PBS для отправки данных, а на рабочем ПК - сервер PBS. Ну либо поиграться с шарами

А при валидации PBS считывает данные с диска? То есть это стандартная проверка контрольных сумм?

Да считает данные и проверяет контрольные суммы, можно поставить проверку сразу после создания или по расписанию, у меня в 9 утра запускается проверка, в нее входят новые бэкапы + те, которым больше 30 дней

Желтым помечен проверенный ранее, но прошло больше 30 дней и будет проверен завтра утром

2 лайка

Ну по поводу PBS не спорю, что не всем он подходит, но мне прям хорошо вписался.

А вот сейчас делал бэкап не в PBS а на NFS пул и подумал, что тоже прикрутить бы что-то типа AIDE, а потом вспомнил, что у меня есть zfs scrub

:green_circle: Что делает zfs scrub

  • ZFS хранит для каждого блока данных контрольную сумму (CRC или SHA256 — зависит от настроек).
  • Эти контрольные суммы хранятся в метаданных родительского блока, то есть вне самих данных.
  • При выполнении zfs scrub система:
    1. Проходит все блоки данных в пуле.
    2. Считывает данные с диска.
    3. Проверяет их контрольную сумму с той, что записана при последней записи.
    4. Если они не совпадают — сообщает об ошибке целостности (checksum error).

Я знаю, что тут не все используют и хотят использовать (по ряду причин) ZFS, но если мы говорим не про внешнее изменение файлов, а именно про целостность данных на диске, то zfs scrub как минимум решает эту задачу, а при наличии реплик еще и исправляет в случае ошибок.

2 лайка

Да, Вы правы. ZFS мне просто не хочется использовать в силу личных предпочтений. Но сама идея хорошая, ее можно адаптировать. Как вариант - BTRFS-scrub. Мне кажется Scrub в любой ФС желает одно и тоже. Спасибо