Autor Thema: Fileserver, Datensicherung etc. für wichtige persönliche Erinnerungen  (Gelesen 6395 mal)

Offline justme1968

  • Developer
  • Hero Member
  • ****
  • Beiträge: 19408
Zitat
ZFS nicht wegen der Performance. Jedes NAS der > 1000 EUR Klasse rennt jeden PC an die Wand..
nein :) ganz sicher nicht.

du wirst kein nas von der stange finden das mit unserem zfs system mithalten kann. zumindest nicht für einen auch nur ansatzweise vergleichbaren preis. auch keine netapp oder emc systeme im mittleren 5 stelligen bereich.

der knackpunkt ist aber nicht mehr raid 6 zu verwenden sondern so viele gespiegelt vdevs wie möglich. wenn man das mit 20 high end sas platten macht und das ganze mit 256gb hauptspeicher und 2x10gb netzwerk kombiniert bekommst du ein system das problemlos eine drei stelligen zahl an vms und homverzeichnisse für 50 anwender verkraftet. das macht kein anderes nas zu diesem preis. eine netapp für den dreifachen preis geht ohne all ssd schon bei 3-5 vms komplet in die knie.


die datensicherheit ist ein argument. das gilt aber für den typischen durchschnittlichen heim anwender nur beschränkt. es reicht halt nicht nur eine kiste in die ecke zu stellen und zu denken das reicht. von usv über zweites und dritten backup (auch off line und off site) über tatsächliches restore versuche bis hin zu einem wenigstens halbwegs temperierten zimmer statt den 50 grad unterm dach kommt da einiges zu sammeln über das man sich beim guten alten schuhkarton mit altmodischen papierbildern keine gedanken machen muss.

gruss
  andre
FHEM5.4,DS1512+,2xCULv3,DS9490R,HMLAN,2xRasPi
CUL_HM:HM-LC-Bl1PBU-FM,HM-LC-Sw1PBU-FM,HM-SEC-MDIR,HM-SEC-RHS
HUEBridge,HUEDevice:LCT001,LLC001,LLC006,LWL001
OWDevice:DS1420,DS18B20,DS2406,DS2423
FS20:fs20as4,fs20bs,fs20di
AKCP:THS01,WS15
CUL_WS:S300TH

Offline Morgennebel

  • Hero Member
  • *****
  • Beiträge: 1397
  • Proud systemd-free zone
Ich folge Dir nicht ganz...

Ein PC mit einer Gigabit-Karte überträgt max 125 MByte/s dauerhaft. Das ist mit einer SSD zu schaffen. Die aktuellen Synology-Geräte liegen bei bis zu 5000MByte/s lesend und 2000 Mbyte/s schreibend. Das sind viele PCs.

Es ist auch nicht zu erwarten, daß ein normales Homeverzeichnis diese Datenmenge für mehrere Minuten benötigt. Oder gar dauerhaft. Das läßt sich also deutlich überbuchen.

Deinem letzten Ansatz stimme ich Dir voll zu - Offsite Backup ist in meinem Vorschlag enthalten, die Übung erforderlich. Aber Dein Schuhkarton mit Papierbildern verbrennt beim Feuer ganz schnell und hätte kein Offsite Backup.

Ciao, -MN
Einziger Spender an FHEM e.V. mit Dauerauftrag seit >= 24 Monaten

FHEM: MacMini/ESXi, 2-3 FHEM Instanzen produktiv
In-Use: STELLMOTOR, VALVES, PWM-PWMR, Xiaomi, Allergy, Proplanta, UWZ, MQTT,  Homematic, Luftsensor.info, ESP8266, ESERA

Offline justme1968

  • Developer
  • Hero Member
  • ****
  • Beiträge: 19408
in der beschreibung oben stehen 2x 10gb  netzwerk :)

die 5000mb gelten aber nur fürs lesen und vermutlich auch nur aus dem cache. ein raid6 lässt sich nicht so schnell beschreiben da die performance nicht wirklich mit der anzahl der platten skaliert. das system ist im prinzip so schnell bzw langsam wie die langsamste platte im raid verbund. das gilt für alle konventionellen raid systeme. auch für raidz und raidz2. auch für netapp wafl.

wenn man das zvol aber aus vielen gespiegelten zdevs mit jeweils 2 oder 3 platten aufbaut skaliert das ganze fürs lesen und schreiben tatsächlich sehr gut mit der anzahl der platten. und wenn es eng wird einfach zwei neue platten dazu.

sobald man in ein multi user szenario kommt ist auch die sequentielle performance nur noch ein kleiner teil des gesamtbildes. da werden ganz schnell die seek times und random zugriffe viel wichtiger. auch hier ist raid6 nicht optimal. bei einem backup system wie hier angesprochen spielt das alles keine rolle. bei einem produktiv system auf dem vms, user, datenbanken, ... läuft sind die beiden synology zahlen nicht mehr realistisch. schon garnicht mit konventionellen platten. mit einem zfs system bin ich auch praktisch über den theoretischen zahlen von oben. sogar mit (fast) konventionellen platten. mit ssd noch mal um den faktor 10 schneller.


ein schuhkarton ja, zumindest von bildern kann genau so einfach gleich mehr als einen abzug machen und an anderen stellen aufbewahren. alles digital aufzubewahren hat viele vorteile. aber eben nicht nur. ganz altmodisch und analog muss man sich in manchen bereichen weniger sogen um die haltbarkeit machen. aber das ist off topic.
FHEM5.4,DS1512+,2xCULv3,DS9490R,HMLAN,2xRasPi
CUL_HM:HM-LC-Bl1PBU-FM,HM-LC-Sw1PBU-FM,HM-SEC-MDIR,HM-SEC-RHS
HUEBridge,HUEDevice:LCT001,LLC001,LLC006,LWL001
OWDevice:DS1420,DS18B20,DS2406,DS2423
FS20:fs20as4,fs20bs,fs20di
AKCP:THS01,WS15
CUL_WS:S300TH

Online Wernieman

  • Hero Member
  • *****
  • Beiträge: 5584
ZFS ist ja schon und gut .. aber auch nicht DAS ware ... schon mal bei defekten versucht, es zu reparieren? (Ich zu meinem Leidwesen :o( )

In der ganzen Auflistung fehlt mir eigentlich auch noch der Bereich: Kosten!

Mit einem "normalen" NAS und einem "ordentlichen automatischen Backup" kann man schon viel reißen. meistens wird zwar ein "ordentlichen NAS" gekauft/gebaut, aber das Backup vergessen! JEDER Raid Level (und auch ZFS) sichert nur die bereitschaft, vor Fehlern z.B. durch user/viren etc. hilft NUR ein Backup.

Entweder in der Cloud (bitte Datenschutz beachten) oder externe Lösung (z.B. bei einem Freund?)
- Bitte um Input für Output
- When there is a Shell, there is a Way
- Wann war Dein letztes Backup?

Wie man Fragen stellt: https://tty1.net/smart-questions_de.html

Offline justme1968

  • Developer
  • Hero Member
  • ****
  • Beiträge: 19408
deshalb:
Zitat
zweites und dritten backup (auch off line und off site)

ja. das 'automatisch' im backup ist noch ein argument für synology beim heimanwender. da geht out of the box spiegeln und backup auf andere systeme auf knopfdruck. auch gegenseitig zu einem freund.
FHEM5.4,DS1512+,2xCULv3,DS9490R,HMLAN,2xRasPi
CUL_HM:HM-LC-Bl1PBU-FM,HM-LC-Sw1PBU-FM,HM-SEC-MDIR,HM-SEC-RHS
HUEBridge,HUEDevice:LCT001,LLC001,LLC006,LWL001
OWDevice:DS1420,DS18B20,DS2406,DS2423
FS20:fs20as4,fs20bs,fs20di
AKCP:THS01,WS15
CUL_WS:S300TH

Offline Thorsten Pferdekaemper

  • Developer
  • Hero Member
  • ****
  • Beiträge: 5618
  • Finger weg von der fhem.cfg
Hi,
vielen Dank nochmal für die vielen Anregungen. Ich glaube, dass ich mich so langsam auf eine Art Konzept festlege. Es geht mir momentan vor Allem um die Sicherheit meiner Daten. Wahrscheinlich werde ich mir einen zentralen Backup-Server hinstellen. Für das Ding ist Preformance erstmal zweitrangig. Selbst wenn es mehrere Tage dauern würde, Daten wiederherzustellen, wäre das auch nicht schlimm. Es sollte halt nur sicher sein, dass es geht.
...aber erstmal ein paar Fragen bzw. Kommentare zu Euren Posts.

EXT4, BTRFS, JFS und XFS erfüllen die Anforderungen nicht...
Was fehlt denn Deiner Meinung nach in Btrfs gegenüber ZFS? (Jetzt mal außer Raid5/6.)
Bei Btrfs gefällt mir, dass es inzwischen sozusagen in Linux zum Standard gehört und dass das Raid sozusagen auf Dateiebene funktioniert.

Zitat
1.USV mit USB/Seriell
Wenn ich mir nur ein reines Backup-System hinstelle, dass ggf. tatsächlich nur zum Backup einmal am Tag hochgefahren wird, brauche ich dann wirklich eine USV? Eigentlich sollte Btrfs oder auch ZFS immer einen sauberen Stand haben. Wenn jetzt tatsächlich ausgerechnet beim Schreiben des Backups der Strom ausfällt, dann ist eben die letzte geschriebene Datei kaputt. Es ist aber immer noch "nur" das Backup und die Wahrscheinlichkeit, dass dieselbe Datei auf dem Originalsystem auch nicht wiederherstellbar ist, ist ziemlich gering. ...oder?

Das ist aber nur die Hardware-Seite. RAID & Co. schützen nicht vor versehentlichen Löschen und anderen Fehlbedienungen. Für die Archivierung von Dokumenten suche ich auch noch ein ordentliches DMS, das soll dann auch vor Nutzerfehlern (und "böser" Software) schützen.
Hierzu ist mein Plan, regelmäßig Snapshots auf dem Backup-System zu machen. Mit Btrfs oder ZFS geht das wohl recht einfach. Also im Prinzip vor jedem Backup-Lauf immer ein Snapshot auf dem Backup-System. (...oder eben inkrementelle Backups mit so etwas wie rdiff-backup.)
 
Der HP ProLiant Gen8 MicroServer wird in solchen Fällen gern genommen.
Scheint zumindest eine bezahlbare Lösung zu sein. Irgendwas für's 19 Zoll Rack wäre natürlich schöner.
Ich habe bei dem Teil mit Problemen gelesen, wenn man bestimmer Linuxe drauf einsetzt. Es gab da wohl was mit dem Lüfter. Im Prinzip wäre das nicht schlimm, da das Teil sowieso in den Keller kommt. Allerdings überlege ich mir auch gleich, etwas ähnliches als NAS (also nicht Backup) zu machen, da wäre es nett, wenn das Ding ohne Belastung leise wird. 
 
habe ich mich für QNAP/Synology entschieden.
Ich habe hier auch was von QNap stehen. Ich bin aber wahrscheinlich für diese dämlichen Weboberflächen zu alt oder zu dumm. Ich blicke bei dem Teil nie wirklich, was ich da mache. Außerdem bin ich mir nicht ganz so sicher, was passiert, wenn das System mal kaputt geht. Keine Ahnung, ob ich dann meine Dateien wieder zusammenfinde. Ich hätte da schon gerne ein System, dass ich einigermaßen durchschaue.
 
Also momentan sieht meine Planung so aus, dass es einen reinen Backup-Server gibt:
  • HP ProLiant Gen8 MicroServer
  • 2 Platten mit je 4TB (oder so) Dann habe ich noch zwei Slots frei für später.
  • Debian (weil ich's gewohnt bin...)
  • Btrfs mit Raid1
  • Gebootet wird von SD-Karte (ich denke, dass man sogar eine direkt im Gehäuse unterbringen kann) Ich will nur die Daten auf den Platten haben.
  • APC USV (Ist das wirklich notwendig? Eigentlich sollte Btrfs oder auch ZFS immer einen sauberen Stand haben.)
Außerdem habe ich noch eine alte QNap TS-210 mit 1TB Netto im Raid1. Dem Ding will ich dann auch mal größere Platten spendieren. Langfristig soll das Teil auch durch ein ordentliches NAS ersetzt werden.
Der Backup-Plan geht dann in etwa so:
Irgendwann nachts fährt das Teil hoch und mach einen snapshot. Dann werden die sich geänderten Daten (rsync oder so) vom NAS (und FHEM-Server(n)) geholt. Außerdem wird es ein Verzeichnis mit "wirklich wichtigen" Sachen geben, die dann "in die Cloud" gesichert werden.

Es wäre schön, wenn sich jemand tatsächlich die Mühe gemacht hat, bis hier zu lesen. Weitere Kommentare sind willkommen.

Gruß,
   Thorsten

RasPi
Heizkessel-Steuerung per Arduino und HTTPMOD
und einen Haufen Homematic (Wired)

Offline justme1968

  • Developer
  • Hero Member
  • ****
  • Beiträge: 19408
deine daten bzw. das filesystem sind genau dann am meisten gefärdet wenn sie geschrieben werden. und das ist genau dann der fall wenn das backup läuft.

auch wenn aktuelle journaling filesysteme vorsorge treffen um die daten so sicher wie möglich in mehreren schritten zu schreiben, wenn der stromausfall im falschen augenblick kommt kann alles mögliche schief gehen. bis hin zur platte die in diesem augenblick mist macht. gerade bei zfs wird auch eine usv und ecc ram dringend empfohlen weil sehr viel im ram passiert. es kann mehr kaputt gehen als nur die letzte datei.

eine passende usv ist für 150 euro zu bekommen. das ist im vergleich zum gesamt system durchaus überschaubar. meiner meinung nach wäre da an der falschen stelle gespart. wenn dir deine daten wirklich wichtig sind kauf dir eine usv. auch wenn sie nie zum einsatz kommt.


snapshots auf dem gleichen system sind gut, reichen aber nicht aus. wenn dein filesystem kaputt geht sind auch die snaphosts weg.


auf eine sd karte würde ich nicht unbedingt gehen. sogar usb sticks die speziell als zuverlässige boot medium konzipiert sind vertraue ich nicht mehr. die sind mir auch schon kaputt  gegangen.

gruss
  andre
FHEM5.4,DS1512+,2xCULv3,DS9490R,HMLAN,2xRasPi
CUL_HM:HM-LC-Bl1PBU-FM,HM-LC-Sw1PBU-FM,HM-SEC-MDIR,HM-SEC-RHS
HUEBridge,HUEDevice:LCT001,LLC001,LLC006,LWL001
OWDevice:DS1420,DS18B20,DS2406,DS2423
FS20:fs20as4,fs20bs,fs20di
AKCP:THS01,WS15
CUL_WS:S300TH

Offline Thorsten Pferdekaemper

  • Developer
  • Hero Member
  • ****
  • Beiträge: 5618
  • Finger weg von der fhem.cfg
Hi,
ok, USV ist dann mit dabei. Da kann ich dann ggf. auch gleich den FHEM Server mit dranhängen. ...wobei: geht das überhaupt, wenn man auch das automatische Herunterfahren haben will?

Zur SD-Karte: Wenn die kaputt geht ists ja fast egal. Dann geht halt das Backup einmal nicht, aber Daten gehen deshalb keine verloren. Was wäre denn die Alternative?

Gruß,
Thorsten
RasPi
Heizkessel-Steuerung per Arduino und HTTPMOD
und einen Haufen Homematic (Wired)

Offline justme1968

  • Developer
  • Hero Member
  • ****
  • Beiträge: 19408
mit den network ups tools kannst du auch mehrere systeme runter fahren lassen. es gibt auch ein fhem modul dafür.

wenn du keine platte/ssd willst wäre usb immer noch  besser als sd.

das system mit auf den daten platten zu haben hätte aber den vorteil das es tatsächlich komplett eigenständig ist und du nur diese ein/zwei platten an einen anderen rechner stecken musst. du hast eine potentielle fehlerquelle weniger und nebenbei hast auch das system per raid1 gesichert.

gruss
  andre
FHEM5.4,DS1512+,2xCULv3,DS9490R,HMLAN,2xRasPi
CUL_HM:HM-LC-Bl1PBU-FM,HM-LC-Sw1PBU-FM,HM-SEC-MDIR,HM-SEC-RHS
HUEBridge,HUEDevice:LCT001,LLC001,LLC006,LWL001
OWDevice:DS1420,DS18B20,DS2406,DS2423
FS20:fs20as4,fs20bs,fs20di
AKCP:THS01,WS15
CUL_WS:S300TH

Offline Thorsten Pferdekaemper

  • Developer
  • Hero Member
  • ****
  • Beiträge: 5618
  • Finger weg von der fhem.cfg
Hi,

ok, das mit der SD-Karte überlege ich mir noch. Anscheinend hat das Ding ja auch einen internen USB-Port. Vielleicht kann man da was mit einer kleinen USB-Disk machen.
Meine Überlegung war halt, dass ich die Platten mit den wertvollen Daten nicht mit anderem Kram belaste. Das Betriebssystem halte ich nicht für wertvoll.
Wahrscheinlich installiere ich sowieso alles dreimal, bis es so läuft, wie ich es will...

Von wegen ECC: Ich gehe mal davon aus, dass die HP ProLiant Gen8 MicroServer alle ECC-Ram haben. Es steht zumindest nichts anderes dabei, aber ich habe auch nirgends eindeutig gesehen, dass es ECC RAM ist.

Gruß,
   Thorsten

RasPi
Heizkessel-Steuerung per Arduino und HTTPMOD
und einen Haufen Homematic (Wired)

Online Wernieman

  • Hero Member
  • *****
  • Beiträge: 5584
Bitte berücksichtige, das eine USV den Stromverbrauch hochtreibt. Übrigens ist die Notwendigkeit für ZFS genau der Grund, warum ich im Heimgebrauch ZFS etwas kritischer sehe .. zu häufig kann es zu Stromausfällen kommen ...

Anstatt SnapShots würde ich mich mit Backupkonzepten wie z.B. dirvish und derivate anschauen. Die machen konsistente Backups über Hardlinks.
- Bitte um Input für Output
- When there is a Shell, there is a Way
- Wann war Dein letztes Backup?

Wie man Fragen stellt: https://tty1.net/smart-questions_de.html

Offline Morgennebel

  • Hero Member
  • *****
  • Beiträge: 1397
  • Proud systemd-free zone
Was fehlt denn Deiner Meinung nach in Btrfs gegenüber ZFS? (Jetzt mal außer Raid5/6.)

http://phoronix.com/scan.php?page=news_item&px=Btrfs-RAID-56-Is-Bad

btrfs ist derzeit mit RAID5 oder RAID6 komplett unbrauchbar. Synologys Lösung ist LVM plus btrfs darüber - das geht dann wieder.
Debuggen möchte ich aber weder das noch ZFS - da ist ein Standard EXT4 die einfachste Lösung...

Ciao, -MN
Einziger Spender an FHEM e.V. mit Dauerauftrag seit >= 24 Monaten

FHEM: MacMini/ESXi, 2-3 FHEM Instanzen produktiv
In-Use: STELLMOTOR, VALVES, PWM-PWMR, Xiaomi, Allergy, Proplanta, UWZ, MQTT,  Homematic, Luftsensor.info, ESP8266, ESERA

Offline Thorsten Pferdekaemper

  • Developer
  • Hero Member
  • ****
  • Beiträge: 5618
  • Finger weg von der fhem.cfg
Bitte berücksichtige, das eine USV den Stromverbrauch hochtreibt. Übrigens ist die Notwendigkeit für ZFS genau der Grund, warum ich im Heimgebrauch ZFS etwas kritischer sehe .. zu häufig kann es zu Stromausfällen kommen ...
Ist da Btrfs Deiner Meinung nach stabiler? Wie sieht's mit ext4 aus? Also wenn man nach "ext4 stromausfall" sucht, dann scheint es da auch Probleme zu geben.

Zitat
Anstatt SnapShots würde ich mich mit Backupkonzepten wie z.B. dirvish und derivate anschauen. Die machen konsistente Backups über Hardlinks.
Das mit den Snapshots sieht halt so richtig elegant aus. Ich habe aber auch sowas wie rdiff-backup noch nicht ganz vergessen. Dirvish sieht meiner Meinung nach ähnlich aus. Da man bei rdfiff-backup auch alte Stände mounten kann hat man ja wieder fast so etwas wie Snapshots.

btrfs ist derzeit mit RAID5 oder RAID6 komplett unbrauchbar.
Das ist bekannt, aber ich will ja kein Raid5/6.

Zitat
Debuggen möchte ich aber weder das noch ZFS - da ist ein Standard EXT4 die einfachste Lösung...
Das habe ich mir auch gedacht. Einfach ist oft auch sicherer, zumindest kann man dann eher noch was retten.

Danke nochmal!
Hardware ist inzwischen bestellt und über die Software muss ich nochmal schlafen.
Gruß,
   Thorsten
RasPi
Heizkessel-Steuerung per Arduino und HTTPMOD
und einen Haufen Homematic (Wired)

Offline Morgennebel

  • Hero Member
  • *****
  • Beiträge: 1397
  • Proud systemd-free zone
Das ist bekannt, aber ich will ja kein Raid5/6.

Bitte denke langfristig.Einen RAID-Level im Betrieb zu ändern ist gruselig (ja, es geht, aber wehe die USV versagt). Ich würde eher mehr in Platten invenstieren und von Anfang an mit dem richtigen RAID-Level starten.

Du hast Dich bei 4-Bays auf 2 x RAID1 festgelegt...

Ciao, -MN
Einziger Spender an FHEM e.V. mit Dauerauftrag seit >= 24 Monaten

FHEM: MacMini/ESXi, 2-3 FHEM Instanzen produktiv
In-Use: STELLMOTOR, VALVES, PWM-PWMR, Xiaomi, Allergy, Proplanta, UWZ, MQTT,  Homematic, Luftsensor.info, ESP8266, ESERA

Offline cjung

  • Full Member
  • ***
  • Beiträge: 150
Eine Idee zum Überlegen:
Neben den ganzen lokalen Sicherungen (bei mir eine Synology ohne RAID mit täglichem inkrementellem Backup auf die zweite Platte und eine weitere USB Platte für ein wöchentliches Vollbackup) mache ich mein Cloud Backup auf verschiedenen NAS von Freunden und Verwandten und nicht bei einem Cloud Anbieter.
Meine Überlegung dabei:
Das Backup "in der Cloud" muss nur den Fall abdecken, der als Continuity Management die kompletten Vernichtung/Beschädigung meiner ganzen lokalen Hardware absichert.
Dazu reicht eine Wiederherstellungszeit von 1 Wochen (private Nutzung) In einem Unternehmen währe sowas nicht akzeptabel. In dieser Woche hätte ich vermutlich andere Probleme als das Backup wieder herzustellen.

Daher mein Vorschlag für Dich: Wenn Du Dein neues NAS fertig und in Betrieb hast, stell dein altes Qnap zu einem guten Freund, mindestens 20km entfernt von zuhause auf, und spiegle Deine Daten dort hin.

Um die Strom und Aufstellungskosten bei den Freuden abzudecken, spiegeln die Ihre Daten zu mir.

Und: Nein, ich habe mir deren Dateien auf meinem NAS auch nicht angesehen.

Raspberry Pi 2 B
Funk: HM_CFG_USB2, HM-CFG-LAN 8*HM_CC_RT_DN, 3*HM-SEC-SD, 3*HM_TC_IT_WM_W_EU, 1*HM-LC-Dim1TPBU-FM,5*HM-SEC-SC-2, 1*HM-SEC-SCo
Wired: HMW: CFG-LAN, 8*LC_Bl1_DR, LC_Dim1L_DR

 

decade-submarginal