NAS selbst bauen

Ich persönlich würde immer wieder zu FreeNAS greifen. Selbstverständlich läßt sich RAIDz problemlos erweitern.

Prinzipiell lässt sich keine Platte aus einem RAID entfernen und ohne größeren Aufwand an einem anderen System lesen. Wenn, musst Du den kompletten Plattenpool umziehen.

Wenn Dir FreeNAS nicht gefällt, solltest Du Dir vielleicht Greyhole anschauen. Damit kannst Du tatsächlich einzelne Platten entfernen und in anderen Systemen lesen (sofern das FS unterstützt wird). Allerdings bekommst Du damit nur die Daten, die auch tatsächlich auf der jeweiligen Platte vorhanden sind.

Putchuco (Beitrag #1) schrieb:

- welche NAS-Software wäre hier empfehlenswert? Insbes die Erweiterbarkeit des RAID mit neuen Platten scheint nicht von allen SW-Lösungen unterstützt zu sein?

Eine Erweiterung ist nicht das Problem. Es kommt auf die Art der Erweiterung an. Habe ich ein RAID-5 3+1 und möchte das RAID durch eine vierte Platte erweitern, geht das mit den wenigsten RAID-Lösungen, da im Endeffekt das komplette RAID umorganisiert muß: Die Blockbreite ändert sich. Bei 3+1 kommt auf drei Datenblöcke ein Parityblock: 1+2+3+P, bei 4+1 dann 1+2+3+4+P. Manche Software-RAIDs können das, doch das ist ein sehr zeit- und I/O-aufwendiger Vorgang

Hänge ich aber gleich vier neue Platten dran, so gibt es damit i.d.R. keine Probleme. Es wird einfach ein zweites RAID-5 3+1 erzeugt und an das bestehende Volume drangehangen.

- sehr schön wäre es, wenn die NAS-SW es mir ermöglicht eine Platte jederzeit auszubauen und den Inhalt direkt von einem (Windows-) Rechner zu lesen.

Was soll der Zweck sein? Abgesehen davon, daß es höchstens bei RAID-1 funktionieren kann (bei allen anderen RAID-Leveln besitzt eine einzelne Platte nur einen Teil der Daten), gibt es beim Filesystem (ein NAS verwendet kein NTFS oder FAT) oder bei der Partitionstabelle Probleme (die man evtl. mit passenden Gerätetreibern lösen kann). Außerdem bedeutet eine einmal aus- und wieder eingebaute Festplatte einen kompletten RAID-Rebuild, und den will man sich eigentlich sparen.

Drexl (Beitrag #3) schrieb:

Die Blockbreite ändert sich. Bei 3+1 kommt auf drei Datenblöcke ein Parityblock: 1+2+3+P, bei 4+1 dann 1+2+3+4+P. Manche Software-RAIDs können das, doch das ist ein sehr zeit- und I/O-aufwendiger Vorgang

Nicht zu vergessen, dass die Daten während der Umorganisation praktisch ungesichert auf den Platten liegen. Sollte es dabei zu einem Stromausfall kommen, kann man nur beten, dass das letzte Backup in Reichweite liegt und vollständig ist.

cbv (Beitrag #4) schrieb:

Drexl (Beitrag #3) schrieb: Die Blockbreite ändert sich. Bei 3+1 kommt auf drei Datenblöcke ein Parityblock: 1+2+3+P, bei 4+1 dann 1+2+3+4+P. Manche Software-RAIDs können das, doch das ist ein sehr zeit- und I/O-aufwendiger Vorgang Nicht zu vergessen, dass die Daten während der Umorganisation praktisch ungesichert auf den Platten liegen.

Das kommt auf die jeweilige Implementierung an. Sauber implementiert sollten die Daten zu jedem Zeitpunkt geschützt sein.

Danke für die schnellen Antworten.

Meine Überlegungen sind auch dadurch wieder einen Schritt weitergekommen.
Zu den einzelnen Punkten habe ich mir jetzt die folgende Meinung gebildet:

- welche NAS-Software wäre hier empfehlenswert? Insbes die Erweiterbarkeit des RAID mit neuen Platten scheint nicht von allen SW-Lösungen unterstützt zu sein? Ich habe mir schon freeNAS angeschaut, aber genau dieser Punkt blitzt hier ab. Kommen unRAID oder andere mehr in Betracht?

Ich werde mit einem Software-RAID5 (RAIDZ) mit insgesamt 5 Platten anfangen (4 Platten effektiv + 1 Platte Parity), und da das Gehäuse (s.u.) tatsächlich 10 Platten fassen kann, könnte ich einen zweiten RAID5 bei Bedarf dazunehmen. Damit hat sich eine (nur auf den ersten Blick attraktive) Erweiterung um einzelne Platten erübrigt.

- sehr schön wäre es, wenn die NAS-SW es mir ermöglicht eine Platte jederzeit auszubauen und den Inhalt direkt von einem (Windows-) Rechner zu lesen. ZFS-Filesystemen lassn dies wohl nicht zu.

Hier bin ich zu dem (hoffentlich weisen) Entschluß gekommen, die 'alte' Synology zum Backup umzufunktionieren. Damit erübrigt sich die Angst vor einem Ausfall, und auch der Wunsch im Falle eines Totalausfalls wenigstens noch einzelne Platten lesen zu können. Nach dem Umzug der Daten von der Synology auf das neue NAS plane ich die Synology nur in wöchentlichen Abständen anzuschalten und die Daten zu sichern.
Ob ich das evtl gar automatisch mit cronjobs und wake-on-lan hinkriege, steht noch auf einem anderen Blatt.

- ich würde das ganze gerne in ein präsentables Gehäuse einbauen, zB SilverStone SST-GD08B, max Einbauhöhe von 19cm spielt auch eine Rolle

Auch wenn ich sonst gerne auf die 'Mark' schaue, kann ich bei einem sehr ansprechenden Gehäuse schwach werden. Das ist mir früher schon bei meinen Selbstbau-PCs so gegangen, als ich funktional wie optisch ansprechende Antec Gehäuse verwendet habe. Nach diesem Review konnte ich nicht mehr von dem Gedanken an die GD08 lassen:
http://www.tweaktown...is_review/index.html

So viele Vorteile:
- sehr ansprechendes Äußeres, passt von den Maßen und der Optik in den HiFi Turm
- viel Platz für Laufwerke (8x 3,5", 2x2,5", 2x5,25") die sich vermutlich gut in 10x3,5" umfunktionieren lassen
- viel Platz für ATX-Netzteil und ATX-Board

- ein Intel Atom 525 (oä.) sollte eigentlich ausreichen, das ich wohl selbst mit Software RAID wenig CPU-Power brauche

Ja, eine Atom-CPU würde völlig ausreichen für ein NAS, einige sagen ja, ein Raspberry Pi könnte ausreichen...
Leider ist die Auswahl bei den Atom-Mainboards etwas begrenzt, insbes. was die Anzahl von on-board SATA-Steckplätzen und Erweiterungen durch PCI-Steckplätze betrifft. Nach ein wenig Hin- und her habe ich schliesslich (u.a.) dieses Review gelesen, dass mich von dem neuen NM70 Chipsatz und der Celeron 847 CPU überzeugt hat. Das alles auf einem mATX-Board mit vielen PCI-Steckplätzen und ich war begeistert.
http://www.hartware.de/review_1587_2.html


Damit sieht es dann nach folgender Teileliste aus:

• RAID: freeNAS
  
• USB stick: USB 8GB 6/16 Mini USB 2.0 PLT
  
• Case: SilverStone Grandia SST-GD08B
  
• Drives: WD 3TB WD30EFRX Red SA3
  
• Mainboard: MSI C847MS-E33 Celeron 847 NM70 GVSM
  
• Power: be quiet! Pure Power BQT L7 300W ATX23
  
• RAM: D3 8GB 1333-999 XMS K2 COR
  
• SATA Contr.: HighP Rocket 640L
  
• SATA power: SilvStone SST-CP06

Den SATA-Controller habe ich für 4 zusätzliche SATA-Ports dazugenommen und das SATA Power Cable ist eine 1:4 SATA-Stromleitungs-Multiplikator, da das Board/Netzteil (natürlich) nicht genügend Steckplätze bzw Kabel zur Verfügung stellt. Von DeLock gibt es zwar preiswertere SATA Controller, aber da soll der Datendurchsatz arg eingeschränkt sein. Verblüffenderweise sind damit die vier zusätzlichen SATA-Ports fast genauso teuer wie das vielversprechende Mainboard.
Ich konnte aber einfach kein 'grösseres' Mainboard mit so vielen SATA-Ports im low-power Bereich finden. Vermutlich muss man da gleich in den Server-grade Bereich greifen, also >200€ (?)

Jetzt muß nur noch alles heile ankommen und dann mit dem Hammer passend machen ...

Putchuco (Beitrag #6) schrieb:

Ja, eine Atom-CPU würde völlig ausreichen für ein NAS, einige sagen ja, ein Raspberry Pi könnte ausreichen...

Von der Leistung her prinzipiell schon, der RPi hat jedoch keinerlei Anschlußmöglichkeit für Platten -- außer via USB. Und das ist für ein NAS ein "no go."

Putchuco (Beitrag #6) schrieb:

Ja, eine Atom-CPU würde völlig ausreichen für ein NAS, einige sagen ja, ein Raspberry Pi könnte ausreichen...

Wenn ich mir schon ein NAS selber baue, dann würde ich auch die paar Euro für ein Mainboard/CPU mit ECC-Support investieren.

RAM-Fehler sind gar nicht so selten. Und ein RAID-5-Rebuild mit "wackeligem" RAM kann auf einen Schlag viel Porzellan zertrümmern.

z.B. Intel Server Board S1200BTS mit Xeon E3-1220LV2

(früher ging es deutlich günstiger, als alle AMD-CPUs noch ECC-Unterstützung mitbrachten)

Performance hat das Gerät dann satt. Wenn Du paranoid bist, kannst Du damit dann Deine Daten ohne Beeinträchtigungen im Durchsatz verschlüsseln.

Ja, über ECC habe ich auch nachgedacht, aber ich wollte kein Server-board.
Nicht aus Prinzip, sondern weil sie a) mehr als dreimal so teuer sind und b) auch fast dreimal soviel Strom brauchen, und damit ziemlich sicher auch wieder viel lauter sind wegen der notwendigen Kühlung.

Insgesamt trotzdem verständlich, viele NAS-Fans raten ja zu Server-boards, ECC, und dann aber auch recht schnell zu einem Server-rack. Leider bin ich da noch nicht, obwohl ich im Keller genug Platz hätte.
Wenn doch nur das Haus mit CAT7 verkabelt wäre und ich kein DLAN mehr bräuchte...

Putchuco (Beitrag #9) schrieb:

Ja, über ECC habe ich auch nachgedacht, aber ich wollte kein Server-board. Nicht aus Prinzip, sondern weil sie a) mehr als dreimal so teuer sind und b) auch fast dreimal soviel Strom brauchen

Das mit dem Preis stimmt, das mit dem Stromverbrauch nicht unbedingt.
Ich wüßte keinen Grund, warum ein Einsteiger-Server-Board mit Unbuffered DIMMs und ähnlichen Features (Anzahl USB-, PCIe-, SATA-, LAN-Anschlüsse, etc.) nennenswert mehr Strom ziehen sollte als ein Consumer-Board.
Auch von den Xeons gibt es Low-Power-Varianten, und einzelne Core-i3-CPUs unterstützen auch ECC.

Noch ein Punkt zu den Festplatten:

WD 3TB WD30EFRX Red SA3

Die Festplatten haben eine Bitfehlerrate (URE) von 1:10^14 Bits. D.h. einmal alle 10 TB kann ein Sektor nicht gelesen werden (selbst bei einer vollständig intakten Festplatte).
Bei einem RAID-5/RAIDZ 4+1 heißt das, wenn nach dem Ausfall und Austausch einer Festplatte ein Rebuild ansteht eine hohe Wahrscheinlichkeit, auf einen solchen unlesbaren Sektor zu treffen. Jetzt kommt es darauf an, welche Daten in diesem Sektor waren: unbenutzt (Glück gehabt), ein Datenblock einer Datei (dann ist diese einzelne Datei korrupt) oder Metadaten (z.B. Verzeichnisstruktur oder Block-Pointer). Bei Metadaten können die Auswirkungen katastrophal sein, allerdings nicht im Fall von ZFS. Unabhängig vom RAID-Level legt ZFS für besonders wichtige Dateien (dazu gehören alle Metadateien) zusätzliche Kopien an. Im Falle eines korrupten Datenblocks kann ZFS die betroffene Datei auch genau benennen.

Zum Glück sind in der Praxis die Fehlerraten besser als in den Datenblättern der Festplatten. Um solchen Bitfehlern jedoch nicht unvorbereitet zu begegnen, sollte man das RAID regelmäßig komplett durchscannen, das geht mit ZFS durch scrubben.

Es gibt auch Festplatten mit einer besseren URE-Rate von 1:10^15, das wäre nur einmal alle 100 TB. Die sind allerdings in etwas höheren Preisregionen und ich kenne nur Modelle, die mit 7200 upm drehen, also zwar schneller, aber auch einen deutlich höheren Stromverbrauch (8-10 Watt statt 4-6 Watt).

Drexl (Beitrag #10) schrieb:

Putchuco (Beitrag #9) schrieb: Ja, über ECC habe ich auch nachgedacht, aber ich wollte kein Server-board. Nicht aus Prinzip, sondern weil sie a) mehr als dreimal so teuer sind und b) auch fast dreimal soviel Strom brauchen Das mit dem Preis stimmt, das mit dem Stromverbrauch nicht unbedingt. Ich wüßte keinen Grund, warum ein Einsteiger-Server-Board mit Unbuffered DIMMs und ähnlichen Features (Anzahl USB-, PCIe-, SATA-, LAN-Anschlüsse, etc.) nennenswert mehr Strom ziehen sollte als ein Consumer-Board. Auch von den Xeons gibt es Low-Power-Varianten, und einzelne Core-i3-CPUs unterstützen auch ECC.

Ich glaub, da liegst du falsch, das von dir angesprochene Intel Board hat eine TPD von >70W, das von mir ausgewählte MSI auf NM70 Chipset nur 17W. Dazu kommen erst noch die Prozessoren.
Wenn mich nicht alles täuscht, ist da ein großer Unterschied, der sich dann eben auch noch in extra Kühlung und durch Kühler evtl auch noch in Lüfterlärm niederschlägt.
Ja, das kann man sicher alles wieder in den Griff bekommen, aber dann ist es eben kein fast geräuschloses und stromsparendes Setup mehr.

Noch ein Punkt zu den Festplatten: ... Zum Glück sind in der Praxis die Fehlerraten besser als in den Datenblättern der Festplatten. Um solchen Bitfehlern jedoch nicht unvorbereitet zu begegnen, sollte man das RAID regelmäßig komplett durchscannen, das geht mit ZFS durch scrubben.

Absolut, das habe ich gerade gestern in meiner Einarbeitung in freeNAS auf meine virtuelle To-Do-Liste geschrieben. Wegen ZFS habe ich eben auch deutlich mehr RAM bestellt, eben 8GB, als normalerweise notwendig.

Alles in allem bitte ich zu verstehen, daß ich hier kein Server-grade NAS bauen wollte, sonst wäre ich von vorneherein auf eine rackmountable Lösung eingeschwenkt. Sowas kann aber auch richtig teuer werden, will sagen >600€ für den Server, plus Platten. Da müsste ich mich fragen, was ich eigentlich erreichen will, die Medien sind nun eh in der Synology im Backup, davon kann ich mich im absoluten Notfall immer noch erholen. Gegen alle Mißgeschicke ist man eben nie gefeit, egal wie ausgefeilt man es anstellt.


Falls jemand noch ein paar wichtige Ratschläge zur freeNAS-Installation hat, immer gerne, das ist noch ein recht großer weisser Fleck in meiner Selbstbauerfahrung. Die Installation über USB, einmal booten, IP anpassen, und den Rest komfortabel über Web-GUI scheint recht einfach, aber wenn man es zum ersten Mal macht, kann man sicher viel falsch machen.

Putchuco (Beitrag #11) schrieb:

Ich glaub, da liegst du falsch, das von dir angesprochene Intel Board hat eine TPD von >70W, das von mir ausgewählte MSI auf NM70 Chipset nur 17W.

TDP ist nicht gleich Verbrauch des Boards. Die TDP des Boards gibt nur an, welche CPUs das Board maximal verkraftet. Der Intel C216-Chipsatz verbraucht beispielsweise 6.7 W. Zum Intel NM70 konnte ich kein Datenblatt finden, es soll sich jedoch dabei um einen abgespekten HM75-Chipsatz handeln, und der verbraucht auch 4.1 Watt, also noch nicht mal 3 Watt Unterschied.

Übrigens hat der von mir vorgeschlagene Xeon dieselbe TDP wie Dein Celeron (17W).

Drexl (Beitrag #12) schrieb:

TDP ist nicht gleich Verbrauch des Boards. Die TDP des Boards gibt nur an, welche CPUs das Board maximal verkraftet. Der Intel C216-Chipsatz verbraucht beispielsweise 6.7 W. Zum Intel NM70 konnte ich kein Datenblatt finden, es soll sich jedoch dabei um einen abgespekten HM75-Chipsatz handeln, und der verbraucht auch 4.1 Watt, also noch nicht mal 3 Watt Unterschied. Übrigens hat der von mir vorgeschlagene Xeon dieselbe TDP wie Dein Celeron (17W).

Hab mich ein bisschen in das von dir vorgeschlagene Serverboard und CPU eingelesen, und das ist wirklich beeindruckend. Damit haben sie sogar einen Server in australischen Polizeiwagen gebaut. LOL

Aber ich bitte nochmal zu bedenken, dass wir hier vielleicht nicht Äpfel mit Birnen vergleichen sollten. Mit meiner obigen Auswahl bin ich an einer Schmerzgrenze von unter 1000€. Wenn ich stattdessen deinen Board, CPU, ECC RAM und Plattenvorschlag nehme, verdoppelt das grad mal locker den Preis. Sicher ist die Lösung dann besser, aber der Preis spielt nun mal leider immer eine Rolle.

Putchuco (Beitrag #13) schrieb:

Wenn ich stattdessen deinen Board, CPU, ECC RAM und Plattenvorschlag nehme, verdoppelt das grad mal locker den Preis.

Meine Vorschläge waren auch nur als Denkanstöße gedacht. Es müssen auch nicht alle Vorschläge berücksichtigt werden.

Beim Board gibt es auch etwas günstigere Alternativen, z.B.das Asus P8B-X für rund 140 EUR. Und von Intel gibt es sogar eine Celeron Ivy-Bridge CPU mit ECC-Unterstützung für rund 40 EUR. Damit würden sich die Mehrkosten auf rund 120 EUR belaufen.

Ja, Sockel 1155 hatte ich auch lange beäugt, insbes die kleinen stromsparenden Prozessoren wie i3-2120T und die möglichen Ausbaustufen hätten einen evtl Um-/Ausbau zur HTPC/NAS Combo sehr gut unterstützt. Auch hätte ich bei einem ATX Board natürlich viel mehr Platz und meistens auch gleich mehr SATA Stecker. Ich hab mich dann aber ganz bewusst für ein mATX Board entschieden, sonst wäre es arg eng im Case geworden, evtl gar mit Luftströmungs- und daher Wärmeprobleme.
Bisher hatte ich immer ATX Boards für meine PC Eigenbaus verwendet, aber da hat man auch mehr Platz und Wärme bzw Leistungsaufnahme sind da wichtiger.
Ich muß sagen, ich bin ganz zufrieden mit meiner Wahl und freu mich schon auf den Bau.

Da das Gehäuse leider nicht so schnell wie der Rest geliefert wurde, konnte ich leider dieses lange (verregnete?) Pfingstwochenende noch nicht nutzen. Dafür hab ich natürlich (zu-) viel Zeit gehabt, um die Anzahl der verschiedenen Kabel zu prüfen, und siehe da, ich brauchte noch 3pin-Multiplier um die Gehäuselüfter alle ans Board zu bringen, und damit gezielt runterzuschalten.

Wenn's jemand hier interessiert und vielleicht hilft, den Selbstbau auch ins Auge zu fassen, würde ich hier mehr über meine Erfahrung mit den ausgewählten Teilen und Einrichtung mit freeNAS zu berichten. Vielleicht will ja jemand sogar eine andere HW Konfiguration ausprobieren und wir können hier unser Leid ausschütten...

Putchuco (Beitrag #15) schrieb:

Ich hab mich dann aber ganz bewusst für ein mATX Board entschieden

Das P8B-X war auch nur ein Beispielvorschlag.
Auch bei µATX gibt es eine hinreichende Auswahl an passenden Mainboards. Und dennoch 4-6 SATA-Anschlüsse bereits onboard.

hab vor 4 monaten ein nas4free in ein e-350 gebaut mit 7 3 tb platten. auch diese cpu hat mehr als ausreichend power. ka warum da immer so eine wissenschaft draus gemacht wird

mightyhuhn (Beitrag #17) schrieb:

hab vor 4 monaten ein nas4free in ein e-350 gebaut mit 7 3 tb platten. auch diese cpu hat mehr als ausreichend power. ka warum da immer so eine wissenschaft draus gemacht wird

Einen e350 oder 450 hatte ich auch in Erwägung gezogen, in dem oben zitierten Artikel auf hartware.de sah ich einen guten Vergleich, der mich dann auf den Celeron und das MSI Board gebracht hat.

Darf man fragen, welches Gehäuse, Mainboard und evtl Pci Karten du verwendest hast?
Und wie hast du die sieben Platten eingerichtet, RAIDZ2?

ist ein noramles raid 5 ohne zfs als addon karte würde die sata 3 karte von asrock benutz welche nicht mehr zukaufen ist. board ist das:
http://geizhals.de/a...0eay0dz-a615033.html war damals billiger

geheuse ist http://geizhals.de/aerocool-6th-element-schwarz-rot-a611431.html hab ich für 30 euro bekommen

Eine bewußte Entscheidung gegen ZFS?

ja habe es mit denn selben platten und einen phenom x4 probiert mit 8gb ram ich bin auf 32 mb max gekommen solt mal paar tb drauf waren..

da hätte man sicher was gegen machen können aber der aufwand war es mir dann doch nicht wert laut freenas forum hätte ich 32 gb arbeitspeicher benutzen sollen...

bin jetzt auf nas4free und alles leuft so wie ich es mir vorstelle.

jetzt mit e-350 hab ich keine 80 megabyte bei smb weil der smb process die cpu killed auf ftp sind es natürlich ~110 mb/sec mit zfs hätte ich jetzt vermutlich geweint...

wenn du zeit, lust und hardware hast um zfs umsetzen soltest du es machen ein e-350 mit smb halte ich für ungeeigend mit ftp wird es wohl noch brauchbare daten durchsätze erreichen.

ich würde heute vermutlich einen pentium 2xxx nehmen ohne ecc mit diesen board http://geizhals.de/g...0u-ddr3-a749603.html hat zwar fast nur sata 2 aber das normalen platten mal total egal.

Wie kann man testen, ob 8gb genug sind für einen 12+3 tb raidz?
Oder ist es tatsächlich eine unmstößliche Regel mit 1gb ram pro 1tb HD?
Ich werd jetzt auf keinen Fall 16gb einbauen, und schon gar nicht 32gb, wenn ich um einen zweiten Raidz mit weiteren 15tb aufrüsten werd.

Sonst würde ich auch auf nas4free umschwenken.
Haben die nicht auch ZFS?

Putchuco (Beitrag #22) schrieb:

Wie kann man testen, ob 8gb genug sind für einen 12+3 tb raidz?

Wenn Du keine Deduplikation nutzt, gibt es keine Faustformel. Mehr RAM kann nie schaden (größerer I/O-Cache), doch wird ZFS auch ab ca. 2 GB RAM funktionieren. Mein Server hat zwar 12 GB RAM (bei 6TB RAIDZ netto), doch habe ich den ZFS-Cache auf 1GB begrenzt, da auf dem Server noch bis zu 3 virtuelle Maschinen laufen. Trotzdem bin ich mit dem Datendurchsatz mehr als zufrieden. Beim "Scrubbing" wird das RAIDZ beispielsweise mit bis zu 400 MByte/s gescannt. Beim Datentransfer über das Netzwerk ist häufig das Gbit-LAN der begrenzende Faktor.

Hier mal ein kleiner Überblick:
# zpool list
NAME    SIZE  ALLOC  FREE  CAP  DEDUP  HEALTH  ALTROOT
boot    928G   714G  214G  76%  1.00x  ONLINE  -
media  7.25T  6.71T  552G  92%  1.00x  ONLINE  -

boot ist ein RAID1 Pool, media RAIDZ (4 x 2 TB). Der Pool media ist schon gut gefüllt. Eigentlich sollte man für eine gute Performance 90% Füllgrad nicht überschreiten.

Kopieren einer großen (19 GB) Datei vom Pool boot in Pool media: 88 MByte/s. Für einen nahezu vollen Pool ein guter Wert.
Kopieren vieler Dateien (2000 Dateien, 11 GB): 41 MByte/s.

freenas kann kein software raid5 mehr. das seie veraltet hat mich sehr verwundert es gibt zwar software raid dies ist aber kein raid 5 weis jetzt nicht mehr was das genau gemacht hat.

wenn du zfs benutzen willst würde ich freenas nehmen sonst nas4free. nas4free hat halt know issue with zfs. bei freenas sind mir keine bekannt.

beides bsd somit wird sich das meiste am user interface unterscheiden.

ich hab mit denn ganzen "Deduplikation" funktion nix rausholn können und hab es dann sein gelassen kannst es ja einfach selbst ausprobieren.

laut denn freenas forum reicht das wohl für brauchbare werte ich kann dies aber nicht bestätigen.

mightyhuhn (Beitrag #24) schrieb:

ich hab mit denn ganzen "Deduplikation" funktion nix rausholn können und hab es dann sein gelassen kannst es ja einfach selbst ausprobieren.

Deduplikation ist für einen normalen Fileserver auch Unsinn. Besser Kompression einschalten, da werden leere Datenblöcke auch wegoptimiert, ist aber lange nicht so resourcenintensiv wie Deduplikation.
Für Dedup braucht man Unmengen an RAM und selbst dann ist die Performance nicht besonders, insbesondere bei Löschoperationen. Dedup ist nur dann sinnvoll, wenn man einen hohen Anteil von redundanten Daten erwartet, z.B. als Datastore eines Backup-Servers.

Hier mal eine Grafik zum Disk-I/O meines Systems.

Zuerst habe ich eine einzelne Disk komplett gescannt (16:30-21:30). Ich war auf der Suche nach defekten Sektoren. Das ist also die max. lineare I/O-Rate einer einzelnen Disk. Im Pool sind vier davon zu einem RAIDZ zusammengefaßt.
Danach (21:30-04:30) dann ein scrub des gesamten Pools. Dabei wird mit bis zu 400 MByte/s von allen vier Disks parallel gelesen. Die Datenrate schwankt dabei aber. Zwischen 2:00 und 3:30 schafft der Scrub nur rund 200 Mbyte/s. In diesem Zeitraum wurden wohl viele kleine Blöcke gescannt, entweder durch kleinere Dateien oder durch hohe Fragmentation der Daten, bedingt durch einen nahezu vollen Pool. Danach ging es wieder schneller. Der Einbruch nach 4:00 kommt durch einen parallelen I/O-intensiven Scan, der um 4:15 über cron gestartet wird und rund 15 Minuten dauert.

Jede Menge Daten da... muss ich erst verdauen.

Ich nehm erstmal mit:
- freeNAS kommt auch locker mit 8gb RAM aus, selbst bei ZFS ...
- wöchentlicher Scrub in freeNAS

Was ich erstmal für mich testen muß, ist die Boot-Geschwindigkeit. Ich hab da meine Befürchtungen, dass USB 2.0 und der Mini-USB-Stecker, den ich verwende, evtl langsam sind, da Der Stick nur 16MB/s kann, und das Board leider weder IDE noch USB3 kann. In meine Popcorns hab ich erfolgreich CF-Karten an IDE angeschlossen, und bilde mir ein, das ist ansprechend schnell. Ggfls seh ich da eine PCi Karte mit IDE und/oder USB3 in der nahen Zukunft, muß mir aber nochmal die freien PCi ports und die möglichen Geschwindigkeiten der einzelnen Teile anschauen.

ZFS läuft (auf dem Papier) bereits ab 512MB Ram.
Einsetzbar ist es ab 1GB, brauchbar mit 2GB und ab 4GB Ram macht es richtig Spaß.

Grobe Faustformel ist pro TB ein GB.

cbv (Beitrag #28) schrieb:

Grobe Faustformel ist pro TB ein GB.

Eine "Faustformel" gibt es nur für Deduplikation. Hier ist für eine gute Performance wichtig, daß die Dedup-Tabellen komplett im RAM (oder zur Not auf einer SSD als L2ARC) liegen. Und für Dedup liegt die Faustformel eher bei 3+ GB RAM pro TB Storage, abhängig von der durchschnittlichen Blockgröße.
Bei der maximalen Blockgröße von 128 kBytes benötigt man für 1 TB Dedup-Storage bereits 2,5 GB RAM für den Cache! Tummeln sich im Pool viele Dateien, sinkt die durchschnittliche Blockgröße, der RAM-Bedarf steigt.
Ohne Dedup braucht man sich um RAM praktisch keine Sorgen zu machen. Auch mit "nur" 4 GB RAM läßt sich locker ein Pool mit 16 TB betreiben. Irgendwann hat man beim Caching einen Sättigungsgrad erreicht. Da sorgt mehr Cache höchstens für einen erhöhten Verwaltungsoverhead, jedoch kaum noch für eine bessere Cache-Hit-Rate.

Hier mal die ARC-Stats meines Servers (wie bereits geschrieben: ARC auf 1GB begrenzt):
% kstat -n arcstats
module: zfs                             instance: 0
name:   arcstats                        class:    misc
        buf_size                        44941064
        c                               1073741824
        c_max                           1073741824
        c_min                           67108864
        crtime                          64.580534749
        data_size                       893556736
        deleted                         19353109
        demand_data_hits                38178909
        demand_data_misses              644865
        demand_metadata_hits            296193138
        demand_metadata_misses          8103610
[...]

Ich habe also eine Hitrate von über 98% (Daten) und 97% (Metadaten).

cbv (Beitrag #28) schrieb:

ZFS läuft (auf dem Papier) bereits ab 512MB Ram. Einsetzbar ist es ab 1GB, brauchbar mit 2GB und ab 4GB Ram macht es richtig Spaß. Grobe Faustformel ist pro TB ein GB.

Meine geplanten 8GB RAM sollten also selbst in der Ausbaustufe von 2x (4+1)x 3TB noch nicht zur Spaßbremse werden?

wenn du keine "zusatz" funktion benutz kommst du nicht auf 2 gb ram verbrauch die 8 wirst du nie ausreißen aber aber das heist nicht das es schnell ist meiner erfahrung nach ist es das nicht aber unter 30 megabyte/sec gabs nicht was für denn home bereich ausreichend ist.

Putchuco (Beitrag #30) schrieb:

Meine geplanten 8GB RAM sollten also selbst in der Ausbaustufe von 2x (4+1)x 3TB noch nicht zur Spaßbremse werden?

Nein, ich erreiche zwar jetzt (bei über 90% Füllgrad) nur noch rund 50-80 MByte/s (s. mein Quick-and-Dirty-Benchmark weiter oben), doch als der Pool noch nicht so voll war, war regelmäßig mein Gbit-Netzwerk der begrenzende Faktor beim Lesen und Schreiben auf mein NAS.

Ob 4 oder 8 GB RAM spielt auch keine große Rolle.

Dann bin ich ja auf der einen Seite erleichtert, daß ich keine Probleme zu erwarten habe, und auf der anderen Seite 'sauer', daß ich auch mit 4GB ausgekommen wäre...

Die 8GB schaden sicher nicht.

mightyhuhn (Beitrag #24) schrieb:

wenn du zfs benutzen willst würde ich freenas nehmen sonst nas4free. nas4free hat halt know issue with zfs. bei freenas sind mir keine bekannt.

Ich hab mit freenas begonnen, bin dann aber auf nas4free umgeschwenkt, aus zwei Gründen:

- nas4free bootet bei meinem Server (Dell PowerEdge mit Xeon E3-1230v2 und 8 GB RAM) ca. doppelt so schnell (35 Sekunden) vom USB-Stick wie in freenas. Da ich den Server über Nacht abschalte, spielt das bei mir eine Rolle.

- Die Transferraten sind um ca. 30% schneller bei nas4free im Vergleich zu freenas (zumindest in meiner Konfiguration).

Der (englische) Support bei nas4free ist im übrigen sehr gut - es gibt einen Webchat, wo fast immer kompetente Leute online sind. Vorgestern war einer auch mit join me auf meinem Rechner und hat mir geholfen.

Der Wechsel ist im übrigen kein grosses Problem, da ja beide auf FreeBSD basieren, ich konnte meine in freenas generierten Pools ganz easy in nas4free importieren.