Создание файлового сервера RAID1 для организации

[syberdaim]

Здравствуйте! Дорогие Линуксмены
Сегодня я собираю файловый сервер RAID1 на базе Linux Mint 18.2 Sonya Cinnamon 64 bit для организации. Это мой первый опыт раньше никогда не сталкивался с RAID и файловым сервером по этому буду спрашивать у Вас помощи.
Для этого я выбрал оборудование:

• Мат.плата ASUS PRIME H270-PRO
• Процессор S-1151 Intel Сore i7-7700, 3.6 GHz (Kabylake)
• DDR 4 Geil 4 Gb GEIL GP44GB2400C16SC PC4-19200 2400Mhz 2 штуки
• 120GB SSD Kingston SUV400S37/120G
• Винчестер для NAS систем 3Tb Seagate SATA 6Gb/s 5900rpm 3.5" 64Mb 3 штуки
• Видеокарта Asus 1 GB EN210 Silent/DI, nVidia EN210, DVI/HDMI VGA, DDR3 64bit
• Блок питания HuntKey LW-6550HG, P-IV, Max 550W, 12cm FAN
• UPS, SVC, V-1500-F, Smart, USB, AVR Стабилизатор:165-275В, Бат,:12В/9 Ач*2шт,,

Этот материнская плата был выбран потому что он не дорогой и поддерживает RAID. Процессор выбрал самый мощный потому что для работы с RAID нужны мощность процессора. Оперативки 8Г думаю хватит. SSD Диск в нем будет установлен основная операционная система. А все данные будет хранится винчестере для NAS систем 3Tb Seagate SATA 6Gb/s с системой RAID1. А трети диск для запаса буду держат если один из них будет выходит из строя на его место поставлю. Знаю видеокарта не нужен но у мат. платы нету ВГА выхода по этому включил видеокарту что бы при установке ОС мог подключит монитор и смотреть. Блок питания думаю мощность хватит. ИБП если электричество выключится. Я сначала хотел сделать RAID10 у него скорости больше будет и шансы сохранения данных тоже чуть больше. Но потом узнал что если мат. плата сгорит и не возможно будет данные восстановит потому что в RAID10 данные сразу на два диска записывается а эти два диска как один невозможно подключит. А в RAID1 данные записывается на один диск а на второй просто зеркалируется по этому если выйдет из строя мат. плата то любой из двух дисков подключив в другой компьютер можно вытащить данные.
Это вопрос первый - правильно ли я собрал системный блок и RAID для файлового сервера?

Теперь второй вопрос
В организаций существует где то 50 компьютеров 10 процентов в Виндовс и 90 процентов в Линуксе со временем все станет Линуксом но все равно надо оставить поддержку для Виндовса если кто то придет с ноутбуком у него 100 процентов будет Виндовс. Мне надо сделать в этом Linux Mint 18.2 Sonya Cinnamon 64 bit одну общую папку с доступом внутри него будет папки с именами сотрудников организации и права у него: любой сотрудник может заходит в любую папку другого сотрудника и изменять там удалять то есть все. но никто кроме меня не должен удалять либо изменять папки с именем сотрудника то есть только я создаю и я удаляю папки с именем сотрудников а остальные нет им позволено все только внутри папке сотрудников. Например: ОбщаяПапка/ИвановИван/ Документы Ивана. Вот как забрать права у ОбщаяПапка что бы они не мог изменять удалять папку ИвановИван а внутри папки ИвановИван можно все им КАК это сделать?

Третий вопрос
Еще одна папка будет но это не общая папка внутри этого папки тоже папки с именами сотрудников но в ограниченном размере 30ГБ то есть сотрудник не может запихать файлов больше 30 ГБ. Сотрудники смогли подключатся только к своим папкам с логином и паролем с любого компьютера.
Вот вопрос как ограничить размер папки 30ГБ? и как подключится с любого компьютера к своему папку с логинем и паролем?

Вот такие вопросы. Может среди вас есть кто то кто сделал файловый сервер на линуксе может есть кто то не сделал но знает как это сделать Помогите пожалуйста!

[Unborn]

Этот материнская плата был выбран потому что он не дорогой и поддерживает RAID.

В таком случае нужно минимум две штуки покупать, если RAID аппаратный.

А все данные будет хранится винчестере для NAS систем 3Tb Seagate SATA 6Gb/s с системой RAID1.

Изучаем - RAID

Сегодня я собираю файловый сервер RAID1 на базе Linux Mint 18.2 Sonya Cinnamon 64 bit для организации.

Никто домашние хомячные дистры в организациях, да ещё и сервером, не использует.

[Chocobo]

собираю файловый сервер RAID1 на базе Linux Mint 18.2 Sonya Cinnamon 64 bit

Начало пути, оно такое конечно, но продуктивные сервера лучше сразу собирать по уму - бери дебиан или центось.

Процессор выбрал самый мощный потому что для работы с RAID нужны мощность процессора

Чтоб рейд потребовал мощей kabylake - прочего железа не хватит. Первым делом упрешься в сеть, которая думаю в лучшем случае будет гигабитной на выходе с серва, затем в SATA-диски. В общем на такие объемы под файлопомойку можно использовать железо явно поскромней.

В организаций существует где то 50 компьютеров 10 процентов в Виндовс и 90 процентов в Линуксе со временем все станет

для линукс-хостов - проще и беспроблемней NFS, а права разрулить через idmapd, для прочего костылять с самбой

Третий вопрос

А тут наверное и вовсе какой-нибудь OwnCloud логичней использовать, ну или в крайнем случае FTP.

[Real]

syberdaim, что-то ты не с того бока зашёл...
Описанная тобою конффигурация - сплошной бред (имхо) проц избыточен в N-раз, видеокарта не нужна вообще и т.д.

Итак: "файловый сервер" - программно-аппаратный комплекс (ваш Кэп)
Чтобы определиться с аппаратной частью, хорошо-бы знать программную.
А чтобы определиться с программной - надо понимать какие задачи будет решать девайс.

Смотрим готовые решения (первое нагугленное):
- лирика https://www.asustor.com/product?p_id=53
- спецификации https://www.asustor.com/product/spec?p_id=53
Видим:
- Процессор: Intel Celeron J3455 Quad-Core 1.5 GHz - да и то, упоминается в связи с 4K видео (и это без дискретной видеокарты вообще)
- Сеть: Gigabit Ethernet x 2 - куда-же без толстых линий связи

Но главное в этих готовых NAS`ах - софт, под который это железо и подобрано. Поэтому я бы решал вопрос так:
- поискал готовое подходящее решение, с учётом бэкдоров, ляпов, регулярности обновлений прошивок и всего вот этого.
- или смотрел-бы на готовые решения как ориентир для сборки своего и начал-бы всё-равно с софта.

И ещё, я с некоторых пор не доверяю конторе Seagate (после их конфуза с мухой-цц), перешёл на WD Black. Кстати, как раз зеркальный RAID я на них и собирал и отработали у меня они в рейде лет восемь, так-же как ты хочешь - на материнке (ASUS P5KC). И они у меня абсолютно живые и по сей день. Но WD Black шумные и вибрируют (мои), но для твоей задачи это пофигу.

p.s. это я ктому, что на сэкономленные деньги от i7 и видяшки можно взять толстую PCI-E сетевушку, нормальный PCI-E RAID-контроллер со своим кешем, и винты посеръёзнее и можеть быть памяти больше (вдруг для виртуалок) - т.е. действительно важное для [файлового] [сервера]

[slant]

Процессор выбрал самый мощный потому что для работы с RAID нужны мощность процессора. Оперативки 8Г думаю хватит. SSD Диск в нем будет установлен основная операционная система.

Как комментаторы выше уже сказали - для чисто файлового сервера конфигурация бредовая, особенно если это малый офис.
1. Мощный процессор (а так-же плата под него и топовая память по частотам) для software RAID нужен, только если это RAID 5, 6, или что-то подобное. Для RAID 1 или 10 - даром не нужно. Они практически не создают нагрузку. Но с RAID 5 и 6 связываться не советую ни одному новичку.

2. Память - сильно зависит от количества подключений к серверу. Нужно знать сценарий использования. В прочем - это в любом случае нужно для адекватной оценки - сколько будет у сервера клиентов, сколько из них могут обращаться одновременно, что именно они на нем делать будут....

3. SSD как системный диск файлового сервера - даром не нужен. Если сервер действительно будет файловым, а данные будут лежать на других дисках. Т.к. система грузится "один раз", после чего почти все крутится в памяти и системный диск трогает только чтобы логи дописать. Лучше уж сделать из него L2 кеш, но это нетривиальное занятие для новичка, опять-же.

4. Видеокарту можно снять после установки. Т.е. использовать времянку какую-нить. Но скорее всего после пересмотра железа вы найдете материнку с видеовыходом, и вопрос решится сам.

5. Если сервер будет с высокой нагрузкой - диски для данных WD Black. Если с умеренной - WD Red. Если с очень умеренной (важен объем а не скорость) - можно даже WD Blue, но с тюнингом, вот таким: Диски WD "зеленой" серии - что надо сделать, чтобы не убить их за ~1 год под линуксом. Сигейты - несколько подпорчена у них репутация. Но вообще, вопрос вкуса сейчас. Общее качество примерно одинаково в основной массе, за исключением самых топовых и самых младших моделей. Топовые - часто сыроваты, а на младших - экономят, или вообще туда может попасть частичная отбраковка. Соответственно, тоже отказов побольше. Предпочитаю брать модели из середины актуального ряда - обычно, самое то получается. Главное - нормальны корпус, чтобы охлаждение было полноценным. Тут важно не просто наличие вентилятора на обдув, а вытяжка нагретого воздуха вокруг дисков. У меня часто корпуса вообще без отдельного обдува на диски, но при этом температура на них менее 40 градусов. И это очень важно для долгожительства. Диск у которого средняя температура 45 градусов - годами жить будет только при большом везении. А неравномерный обдув (т.е. вентилятором НА диск при плохом отводе) может только навредить. Механика тонкая, тепловое расширение запросто сказывается, особенно неравномерное...

6. Если сгорит мат-плата это никак не повлияет на возможности пересобрать soft-raid на другом железе - только не нужно пользоваться т.н. полусофтовым рейдом на материнке (если он там есть). Толку от них в сервере под линуксом - ноль целых, шиш десятых. Только проблеммы. Если вы не используете настоящий аппаратный raid контроллер (а их не бывает интегрированных в десктоп материнки, т.к. цена решения - как 2-3 этих самых материнки топового же сегмента), то вам нужно просто создать soft-raid средствами самой операционки (mdadm). Он вообще не будет привязан к железу, соответственно не будет никаких проблем с восстановлением в случае чего. В десктопных же матерниках, даже топовых геймерских - стоят т.н. полусофтовые рейды. По большому счету это самый обычный SATA контроллер с небольшой правкой в биосе, читая которую драйвер этого рейда облегчает пользователю сборку RAID конфигурации из дисков. А в остальном - как будто ничего и нету, ЦП его обслуживает, как обычный SATA контроллер. По сути - маркетинг и мастер настройки. Для винды может быть и удобно, но не для линукса. Еще один плюс нормального soft-raid - не нужны строго идентичные диски. Может быть важно в последствии.

7. Дистрибутив. Минт, он конечно стабилен. Если очень захотеть, можно и на нем файлопомойку завести. Но по хорошему, на сервере 60-70% того, что будет установлено с mint-ом в комплекте - совершенно безполезный на сервере софт, который только место занимает, на диске и в памяти. Ставить на сервер, из дружелюбного, я бы посоветовал Debian. Причем если осилишь - сразу в custom варианте, без графики вообще (текстовый режим при установке, доступ и управление через ssh после).

[syberdaim]

Спасибо Всем кто ответили. Некоторые вещи понял а некоторые не понял по этому буду ответит на которые я понял

Никто домашние хомячные дистры в организациях, да ещё и сервером, не использует.

Начало пути, оно такое конечно, но продуктивные сервера лучше сразу собирать по уму - бери дебиан или центось.

7. Дистрибутив. Минт, он конечно стабилен. Если очень захотеть, можно и на нем файлопомойку завести. Но по хорошему, на сервере 60-70% того, что будет установлено с mint-ом в комплекте - совершенно безполезный на сервере софт, который только место занимает, на диске и в памяти. Ставить на сервер, из дружелюбного, я бы посоветовал Debian. Причем если осилишь - сразу в custom варианте, без графики вообще (текстовый режим при установке, доступ и управление через ssh после).

На счет ОС я выбрал Линукс минт потому что 18,2 версию я использую я его знаю ну не так как профессионалы но знаю Он у меня хорошо работает проблем нету если не экспериментировать с программой или настройками. А вот на счет Дебиана я в нем полный 0 я даже его никогда не видел и ничего не знаю о нем. Но вы рекомендуете его использовать Хорошо буду его изучать и использовать но не обещаю если я в нем не осилю то буду использовать Минт.
На счет RAID контролера не хочу его покупать потому что он слишком дорого стоит еще почитал что у него батарейка должен быт и что то еще А если он сгорит то как восстановит данные? что бы этого не было то придется сразу 2 контролера покупать дорого будет.

Чтоб рейд потребовал мощей kabylake - прочего железа не хватит

проц избыточен в N-раз

1. Мощный процессор (а так-же плата под него и топовая память по частотам) для software RAID нужен, только если это RAID 5, 6, или что-то подобное. Для RAID 1 или 10 - даром не нужно. Они практически не создают нагрузку.

Хорошо убедили буду покупать не i7 а i5

2. Память - сильно зависит от количества подключений к серверу. Нужно знать сценарий использования. В прочем - это в любом случае нужно для адекватной оценки - сколько будет у сервера клиентов, сколько из них могут обращаться одновременно, что именно они на нем делать будут....

Хорошо память еще одну штуку добавлю общий будет 12ГБ думаю этого хватит. В этом сервере будет хранится документы файлы там может быт изображение видео и другие. Я хочу сказать сотрудникам если сгорит винчестер в вашем компьютере я на файлы в них не отвечаю а если есть важные файлы то что бы все они хранили важные данные в сервере я дам им логин и пароль и все они будет хранить все важные данные которым они жить не могут и я буду отвечать за сохранность в этих данных. Где то 35-40 пользователи будут подключаться к серверу А одновременно думаю 15-20 пользователей будут работать что они там делают: открывает свой документы музыку видео наверное и работать с этими данными И через общую папку будут передавать друг к другу файлы а не через почту.

p.s. это я ктому, что на сэкономленные деньги от i7 и видяшки можно взять толстую PCI-E сетевушку,

Вы имеете ввиду 10ГБ сетевуху если так то зачем 10ГБ если коммутатор 1ГБ то все равно не будет резона

3. SSD как системный диск файлового сервера - даром не нужен. Если сервер действительно будет файловым, а данные будут лежать на других дисках. Т.к. система грузится "один раз", после чего почти все крутится в памяти и системный диск трогает только чтобы логи дописать. Лучше уж сделать из него L2 кеш, но это нетривиальное занятие для новичка, опять-же.

Я не хочу устанавливать ОС в Жестки диск я хочу что бы ОС была в отдельном диске Если RAID софтовый будет хранится в ОС то лучше Я сделаю резервную копию этого диска с ОС если выйдет он из строя то восстановлю на другой диск и компьютер будет работать как и RAID я прав или нет?

для линукс-хостов - проще и беспроблемней NFS, а права разрулить через idmapd, для прочего костылять с самбой

На счет этого первый раз слышу буду его изучат

И ещё, я с некоторых пор не доверяю конторе Seagate (после их конфуза с мухой-цц), перешёл на WD Black

5. Если сервер будет с высокой нагрузкой - диски для данных WD Black. Если с умеренной - WD Red. Если с очень умеренной (важен объем а не скорость) - можно даже WD Blue, но с тюнингом, вот таким: Диски WD "зеленой" серии - что надо сделать, чтобы не убить их за ~1 год под линуксом. Сигейты - несколько подпорчена у них репутация.

Да приходится выбирать тем что есть Я думал сегейты хорошие. У нас ВД черного и красного нету только золотое и он только 2 ТБ а мне нужен 3ТБ. А ВД Блуе есть 3ТБ но он обычный диск и дешевле стоит чем выбранный мной Сегейт А Сегейт он предназначен для NAS и думаю что он будет надежнее чем ВД Блуе. И конце концов у меня не будет же только 1 диск а два диска зеркально по этому думаю зачем покупать дорогой диск можно и самый дешевый а если он выйдет из строя через пол года или год то поставим другой а данные в надежности в другом диске и восстановим с него. Если у меня данные хранились бы только на одном жестком диске то покупал бы ВД Золотой серии что бы надежнее был а так думаю и дешевый пойдет. Вентилятор будет стоят спереди будет холодный воздухом обдувать винчестеры и в заднем корпусе еще один вентилятор он будет выводит нагретый воздух из системного блока еще вентилятор есть в блоке питания он тоже будет помогать выводит воздух.

6. Если сгорит мат-плата это никак не повлияет на возможности пересобрать soft-raid на другом железе - только не нужно пользоваться т.н. полусофтовым рейдом на материнке (если он там есть). Толку от них в сервере под линуксом - ноль целых, шиш десятых. Только проблеммы. Если вы не используете настоящий аппаратный raid контроллер (а их не бывает интегрированных в десктоп материнки, т.к. цена решения - как 2-3 этих самых материнки топового же сегмента), то вам нужно просто создать soft-raid средствами самой операционки (mdadm). Он вообще не будет привязан к железу, соответственно не будет никаких проблем с восстановлением в случае чего. В десктопных же матерниках, даже топовых геймерских - стоят т.н. полусофтовые рейды. По большому счету это самый обычный SATA контроллер с небольшой правкой в биосе, читая которую драйвер этого рейда облегчает пользователю сборку RAID конфигурации из дисков. А в остальном - как будто ничего и нету, ЦП его обслуживает, как обычный SATA контроллер. По сути - маркетинг и мастер настройки. Для винды может быть и удобно, но не для линукса. Еще один плюс нормального soft-raid - не нужны строго идентичные диски. Может быть важно в последствии.

Хорошо буду использовать Програмный RAID. Я не понял что такое т.н.? я где то читал что если будешь создавать RAID то все данные с дисков будет удалено а с программным также или нет и как создать на другом компьютере программный RAID не удалив данные с дисков а восстановив данные с дисков.

А тут наверное и вовсе какой-нибудь OwnCloud логичней использовать

Мне кажется это хорошая идея буду изучат его. Теперь я хочу что бы пользователь не открывал с логинем и паролем ну конечно он есть но хочу что бы в его компьютере была папка Важные документы и он хранил все данные на нем и он имеет ограничение 20ГБ и он никуда не подключался а открыл эту папку и работал в нем А это папка синхронизиволься каждые допустим 5 минут с сервером и никакие документы не будет теряться или повреждаться при отключении электричества или при отключении сети Вот как это сделать?

[slant]

Хорошо убедили буду покупать не i7 а i5

Для ваших целей i3 за глаза хватит, причем любого поколения (не нужно гнаться за последним). Посмотрев по вашему описанию задач говорю. Обратите лучше внимание на такие вещи: чтобы на выбранной материнке было 6 SATA портов, и лучше - максимум из них SATA 3.0. Причем вешать на них нужно будет не системный диск, а диски с данными. Системному диску (дискам) и SATA 2.0 хватит.

Хорошо память еще одну штуку добавлю общий будет 12ГБ думаю этого хватит.

Вы меня не поняли. Такой объем памяти избыточен. На ваши описанные задачи - 4GB вполне хватило бы. Ну, можно и 8 - в конце концов, не так дорога десктопная память.

Я не хочу устанавливать ОС в Жестки диск я хочу что бы ОС была в отдельном диске

Лучше бы и саму OS иметь на RAID. Т.к. от смерти системного диска тоже никто не застрахован, а там данные аккаунтов и настройки. Не то, чтобы это было критично невосстановимо, но проще заменить диск в RAID, чем с нуля систему переставлять и настраивать в случае умершего диска - простой гораздо меньше, и ошибок настройки не вылезет. При том, что системный диск файлового сервера практически не нагружается операциями чтения-записи. Так что - SSD там не нужен. Лучше уж два отдельных HDD в отдельном от данных RAID (если уж так не хочется смешивать с дисками на которых данные).

Если RAID софтовый будет хранится в ОС то лучше Я сделаю резервную копию этого диска с ОС если выйдет он из строя то восстановлю на другой диск и компьютер будет работать как и RAID я прав или нет?

И да, и нет. Вы правы в том, что восстановив систему из старого бекапа - она будет работать, и подхватит RAID. Но если вы не будете делать ежедневный buckup системы (а я уверен, что не будете. ) то этот единственный бекап быстро окажется устаревшим - например вы добавили пользователей, изменили им права, и т.д. - все это будет устаревшее. И потянет проблемы для юзеров. Так что - или ежедневные бекапы системы, или держите ее на RAID.
Вообще-то RAID бекапов не заменяет, но это все-же намного лучше, чем ничего.

Я не понял что такое т.н.?

Сокращение от "так называемые".

я где то читал что если будешь создавать RAID то все данные с дисков будет удалено а с программным также или нет и как создать на другом компьютере программный RAID не удалив данные с дисков а восстановив данные с дисков.

Вы путаете разные операции. "Создание" и "восстановление/пересборку". В первом случае данные действительно удаляются со всех разделов из которых создается массив. Вторая операция - это когда массив уже есть, но один диск заменяли, например. Это операция не деструктивна, удалены данные (если они там есть) будут только с вновь добавляемого диска (что логично - на него сразу отзеркалится недостающая часть зеркала, приведя RAID в нормальное состояние).

Крайне рекомендую вам найти железо, пусть даже устаревшее - машину и три физических диска. Поставить туда систему с RAID и попробовать поменять диск в массиве отключив один и подключив другой. Потренируйтесь перед настройкой боевого сервера. В крайнем случае - на виртуальных машинах потренируйтесь. Тут, все-таки, никакие объяснения практику не заменят.

[Chocobo]

slant, демонстрационный софтрейд можно и виртуалке ж кинуть, при дефиците железа

[slant]

slant, демонстрационный софтрейд можно и виртуалке ж кинуть, при дефиците железа

Можно, но все-таки для такого знакомства и тренировок лучше щупать в железе. Виртуалка не передает ощущений от того как оно не реальном железе себя ведет. Огромные буферы и отложенная запись делают файловые операции совсем другими "на ощупь" в виртуалке. У меня, когда-то такой фокус был: операция с файловой базой 1C 7.7 (какой-то тяжелый самописный отчет) запущенной в виртуалке (virtualbox) выполнялась быстрее раза в 4, чем на той же самой самой машине, но напрямую - на реальном железе. Операции создания раздела могут проходить вообще мгновенно, и т.д.
А если железо не очень жалко, можно вообще опыты с выдергиванием винтов наживую из RAID проводить. Кабель SATA данных для имитации отвалившегося диска выдергивать можно практически безопасно - электроника на это рассчитана (если стандарты не нарушены в конкретном устройстве). В виртуалке это вообще по другому выглядит.

P.S. Не вздумайте фокус с 1C на боевых базах, без UPS повторять.

[Chocobo]

Ну, я не за бенчмарки производительности, а именно по поводу увидеть как оно будет выглядеть и настраиваться для получения базовой информации)
С железом конечно наглядней, при виртдисках всяко придется несколько абстрагироваться

[Real]

Вы имеете ввиду 10ГБ сетевуху если так то зачем 10ГБ если коммутатор 1ГБ то все равно не будет резона

на примере сетевухи я призывал перераспределить бюджет согласно назначения девайса.

Хорошо убедили буду покупать не i7 а i5

facepalm

Да приходится выбирать тем что есть ... И конце концов у меня не будет же только 1 диск а два диска зеркально по этому думаю зачем покупать дорогой диск можно и самый дешевый а если он выйдет из строя через пол года или год то поставим другой а данные в надежности в другом диске и восстановим с него

Нет, ну это восхитительно, или я чего-то не понимаю в этой жизни. Для файлового сервера: i5 и какие-нибудь "недорогие винты"

Вот очень неплохая (имхо) статейка по теме, хоть и от 2014 года: https://habrahabr.ru/post/214707/
На самом деле там цикл статей - ссылки в конце текста. А так-же весьма полезными могут оказаться комментарии и ссылки внутри самой статьи.
Там и про железо и про софт, и лучше чем там, мы тут точно не распишем - тема та ещё.