!!![backupME]!!! Perlskript für ein konfigurierbares Backup

Begonnen von CoolTux, 19 Februar 2019, 14:25:39

Vorheriges Thema - Nächstes Thema

CoolTux

Hallo,

Aus aktuellem Anlass  und vergangener Diskussionen habe ich ein kleines allgemeines und konfigurierbares Backupskript in Perl geschrieben.
Wer möchte kann es gerne einmal testen. Bitte lest Euch genau die Beschreibung durch.

https://github.com/fhem/backupME


Grüße
Du musst nicht wissen wie es geht! Du musst nur wissen wo es steht, wie es geht.
Support me to buy new test hardware for development: https://www.paypal.com/paypalme/MOldenburg
My FHEM Git: https://git.cooltux.net/FHEM/
Das TuxNet Wiki:
https://www.cooltux.net

rudolfkoenig

Du willst nicht versehentlich das (von mir nur kommissarisch verwaltete) FHEM backup Modul uebernehmen?

CoolTux

Ist das eine höffliche Anfrage  ;D oder eine Feststellung?
Ich hatte mit dem Gedanken gespielt es neu zu schreiben weil ich das Theater mit dem blockieren noch im Hinterkopf hatte. Habe aber letztens gesehen das es anscheinend nicht mehr blockiert.

Aber um Deine Frage noch zu beantworten. Ich kann das gerne machen.


Grüße
Du musst nicht wissen wie es geht! Du musst nur wissen wo es steht, wie es geht.
Support me to buy new test hardware for development: https://www.paypal.com/paypalme/MOldenburg
My FHEM Git: https://git.cooltux.net/FHEM/
Das TuxNet Wiki:
https://www.cooltux.net

rudolfkoenig


CoolTux

Habe ich befürchtet  :)

Dann übernehme ich das Modul hiermit offiziell. Danke Rudi


Grüße
Du musst nicht wissen wie es geht! Du musst nur wissen wo es steht, wie es geht.
Support me to buy new test hardware for development: https://www.paypal.com/paypalme/MOldenburg
My FHEM Git: https://git.cooltux.net/FHEM/
Das TuxNet Wiki:
https://www.cooltux.net

enno

Zitat von: CoolTux am 19 Februar 2019, 15:21:05
Dann übernehme ich das Modul hiermit offiziell. Danke Rudi

Herzlichen Glückwunsch! Magst du bei deinem nächsten Monatsrückblick dazu eine Rede halten  ::) oder etwas dazu erzählen?

https://forum.fhem.de/index.php/topic,97069.0.html

Gruss
  Enno
Einfacher FHEM Anwender auf Intel®NUC

CoolTux

Du musst nicht wissen wie es geht! Du musst nur wissen wo es steht, wie es geht.
Support me to buy new test hardware for development: https://www.paypal.com/paypalme/MOldenburg
My FHEM Git: https://git.cooltux.net/FHEM/
Das TuxNet Wiki:
https://www.cooltux.net

CoolTux

Im laufe der Tage wird noch die Möglichkeit hinzukommen ein komplettes Systembackup auf Filesystemebene zu machen.


Grüße
Du musst nicht wissen wie es geht! Du musst nur wissen wo es steht, wie es geht.
Support me to buy new test hardware for development: https://www.paypal.com/paypalme/MOldenburg
My FHEM Git: https://git.cooltux.net/FHEM/
Das TuxNet Wiki:
https://www.cooltux.net

no_Legend

@CoolTux
Nimmst du Feature wünsch für das Backup entgegen? [emoji2957][emoji8]


Gesendet von iPhone mit Tapatalk Pro
IntelNUC mit Ubuntu mit FHEM immer aktuell,2x HMLAN, CUL443, CUL868 -homekit/siri -tablet ui -homebridge
Device, diverse:
HM-SEC-KEY,HM-LC-BL1-FM,HM-SEC-SD,HM-Sen-DB-PCB,HM-Sec-RHS,HM-Sec-SC-2,HM-WDS10-TH-O,Harmony,Netamo, 433MHz Steckdosen uvm.

CoolTux

Zitat von: no_Legend am 20 Februar 2019, 21:33:39
@CoolTux
Nimmst du Feature wünsch für das Backup entgegen? [emoji2957][emoji8]


Gesendet von iPhone mit Tapatalk Pro

Ich höre sie mir gerne an.  :)
Du musst nicht wissen wie es geht! Du musst nur wissen wo es steht, wie es geht.
Support me to buy new test hardware for development: https://www.paypal.com/paypalme/MOldenburg
My FHEM Git: https://git.cooltux.net/FHEM/
Das TuxNet Wiki:
https://www.cooltux.net

no_Legend

Dein Script scheint schon recht vor abzudecken.

1. Pushnachrichten
Was mir fehlt ist eine Benachrichtigung, per pushover oder der gleichen.
Wenn Backup gestartet wurde und beendet wurde.
Beim Backup Start wurde es ja langen wenn man einfach eine Nachricht bekommen ,,Backup gestartet"
Beim Ende wäre cool ein wenig mehr Infos zu bekommen:
SQL dump erfolgreich?
Backup Größe?
Wie lange hat das Backup gedauert?
War das Backup erfolgreich?
War das Verschieben des Backups erfolgreich?
Wenn nicht erfolgreich auch eine Meldung natürlich

2. Nextcloud Upload
Hab ich bei opnsense im Einsatz.
Funktioniert hier recht gut.

3. eine Text Datei mit allen installieren Paketen auf dem FHEM System.
Damit man weis welche Paket nach dem einspielen des Backups wieder installiert werden müssen.

Momentan benutze ich ein bash script welche von meintechblog stammt.
Das geht eigentlich ganz gut. Hab es inzwischen ein wenig angepasst, habe ich dort unter den Kommentaren irgendwo mal gepostet.
Vll kannst du dir da ja ein paar Ideen von aufschnappen.

Danke und Gruß Robert


Gesendet von iPhone mit Tapatalk Pro
IntelNUC mit Ubuntu mit FHEM immer aktuell,2x HMLAN, CUL443, CUL868 -homekit/siri -tablet ui -homebridge
Device, diverse:
HM-SEC-KEY,HM-LC-BL1-FM,HM-SEC-SD,HM-Sen-DB-PCB,HM-Sec-RHS,HM-Sec-SC-2,HM-WDS10-TH-O,Harmony,Netamo, 433MHz Steckdosen uvm.

CoolTux

Ich notiere es mir mal und dann schauen wir mal wie weit ich komme.

Für 3. gibt es ja das Systembackup. Da wird quasi alles wiederhergestellt. Komplett.
Du musst nicht wissen wie es geht! Du musst nur wissen wo es steht, wie es geht.
Support me to buy new test hardware for development: https://www.paypal.com/paypalme/MOldenburg
My FHEM Git: https://git.cooltux.net/FHEM/
Das TuxNet Wiki:
https://www.cooltux.net

no_Legend

Zitat von: CoolTux am 20 Februar 2019, 21:52:58
Ich notiere es mir mal und dann schauen wir mal wie weit ich komme.

Für 3. gibt es ja das Systembackup. Da wird quasi alles wiederhergestellt. Komplett.

Mit was machst du bei 3 die Backups?


Gesendet von iPhone mit Tapatalk Pro
IntelNUC mit Ubuntu mit FHEM immer aktuell,2x HMLAN, CUL443, CUL868 -homekit/siri -tablet ui -homebridge
Device, diverse:
HM-SEC-KEY,HM-LC-BL1-FM,HM-SEC-SD,HM-Sen-DB-PCB,HM-Sec-RHS,HM-Sec-SC-2,HM-WDS10-TH-O,Harmony,Netamo, 433MHz Steckdosen uvm.

CoolTux

Mit tar. Deswegen heißt es auf Filesystemebene. Es gibt ein exclude-file wo so Verzeichnisse wie /dev /home oder /proc ausgeschlossen sind.
Du musst nicht wissen wie es geht! Du musst nur wissen wo es steht, wie es geht.
Support me to buy new test hardware for development: https://www.paypal.com/paypalme/MOldenburg
My FHEM Git: https://git.cooltux.net/FHEM/
Das TuxNet Wiki:
https://www.cooltux.net

Benni

Zitat von: CoolTux am 20 Februar 2019, 21:52:58
Für 3. gibt es ja das Systembackup. Da wird quasi alles wiederhergestellt. Komplett.

Nicht desto trotz ist das aber auch bei einem System- und/oder Distri-Wechsel interessant, damit hätte man das wenigstens als Anhaltspunkt. In meinem FHEM-Backup ist so eine Liste jedenfalls auch enthalten.

gb#

no_Legend

@CoolTux

Wie groß ist denn dann dein Backup?


Gesendet von iPhone mit Tapatalk Pro
IntelNUC mit Ubuntu mit FHEM immer aktuell,2x HMLAN, CUL443, CUL868 -homekit/siri -tablet ui -homebridge
Device, diverse:
HM-SEC-KEY,HM-LC-BL1-FM,HM-SEC-SD,HM-Sen-DB-PCB,HM-Sec-RHS,HM-Sec-SC-2,HM-WDS10-TH-O,Harmony,Netamo, 433MHz Steckdosen uvm.

CoolTux

Meinst Du Systembackup?
Mein letztes war knapp 3 Gb aber nur gz gepresst. Mit bz2 geht mehr.
Du musst nicht wissen wie es geht! Du musst nur wissen wo es steht, wie es geht.
Support me to buy new test hardware for development: https://www.paypal.com/paypalme/MOldenburg
My FHEM Git: https://git.cooltux.net/FHEM/
Das TuxNet Wiki:
https://www.cooltux.net

no_Legend

Zitat von: CoolTux am 21 Februar 2019, 06:47:31
Meinst Du Systembackup?
Mein letztes war knapp 3 Gb aber nur gz gepresst. Mit bz2 geht mehr.

Ach noch so ein Frühaufsteher [emoji23]

Da hab das systembackup gemeint.
Habe jetzt schon wenn ich nur FHEM Backup mache, 650MB hab auch Wiebken Haufen alte logfiles die ich Vll mal löschen sollte.




Gesendet von iPhone mit Tapatalk Pro
IntelNUC mit Ubuntu mit FHEM immer aktuell,2x HMLAN, CUL443, CUL868 -homekit/siri -tablet ui -homebridge
Device, diverse:
HM-SEC-KEY,HM-LC-BL1-FM,HM-SEC-SD,HM-Sen-DB-PCB,HM-Sec-RHS,HM-Sec-SC-2,HM-WDS10-TH-O,Harmony,Netamo, 433MHz Steckdosen uvm.

CoolTux

Ach du meine Güte, das ist aber viel. Nicht das Du da den Backup Ordner immer mit sicherst.
Aber alte Logfile die man nicht Brauch sollte man in der Tat löschen. Auch das FHEM Logfile aus den letzten Monaten.
Du musst nicht wissen wie es geht! Du musst nur wissen wo es steht, wie es geht.
Support me to buy new test hardware for development: https://www.paypal.com/paypalme/MOldenburg
My FHEM Git: https://git.cooltux.net/FHEM/
Das TuxNet Wiki:
https://www.cooltux.net

Benni

Zitat von: CoolTux am 21 Februar 2019, 06:58:01
Aber alte Logfile die man nicht Brauch sollte man in der Tat löschen. Auch das FHEM Logfile aus den letzten Monaten.

Dafür bietet FHEM ja sogar einen eigenen Mechanismus.
Stichwort Wildcards und nrarchive ;)

https://commandref.fhem.de/commandref_DE.html#FileLog



no_Legend

Zitat von: Benni am 21 Februar 2019, 07:46:22
Dafür bietet FHEM ja sogar einen eigenen Mechanismus.
Stichwort Wildcards und nrarchive ;)

https://commandref.fhem.de/commandref_DE.html#FileLog

Gibt es eine Möglichkeit logfile die älter als zum Beispiel 3 Monate sind mit FHEM automatisch löschen zu lassen?


Gesendet von iPhone mit Tapatalk Pro
IntelNUC mit Ubuntu mit FHEM immer aktuell,2x HMLAN, CUL443, CUL868 -homekit/siri -tablet ui -homebridge
Device, diverse:
HM-SEC-KEY,HM-LC-BL1-FM,HM-SEC-SD,HM-Sen-DB-PCB,HM-Sec-RHS,HM-Sec-SC-2,HM-WDS10-TH-O,Harmony,Netamo, 433MHz Steckdosen uvm.

Benni

Zitat von: no_Legend am 21 Februar 2019, 10:21:58
Gibt es eine Möglichkeit logfile die älter als zum Beispiel 3 Monate sind mit FHEM automatisch löschen zu lassen?

Im Prinzip müsstest du es so einstellen, dass du monatlich ein neues Logfile erzeugst (Wildcard %m) und mit dem Attribut nrarchive die Archivierung, bzw. das Löschen so regelst, dass nur die letzten 3 (oder 2 mit dem aktuellen) bei der Bereinigung erhalten bleiben.

Das geht aber halt nur für FileLogs die von FHEM erzeugt werden, alles was ausserhalb läuft, muss natürlich explizit behandelt werden.

Gruß Benni.

curt

Zitat von: CoolTux am 19 Februar 2019, 15:21:05
Dann übernehme ich das Modul hiermit offiziell.

Ist damit das im Wiki beschriebene Backup gemeint? Das tar, welches (auch) über das Log-Verzeichnis läuft?

Das kann nicht funktionieren, da sich Dateien während des Vorgangs ändern. Im bestmöglichem Fall läuft es grad so durch - als ich es aufrief, brach es mit dem typischen


tar: ./log/WS2300-2019.log: Datei hat sich beim Lesen geändert.
tar: Beende mit Fehlerstatus aufgrund vorheriger Fehler
Backup done


ab.
RPI 4 - Jeelink HomeMatic Z-Wave

CoolTux

Damit ist das FHEM Modul 98_backup gemeint. Das Modul bietet FHEM ein eines FHEM Kommando namens backup an womit dann ein FHEM Backup gemacht werden kann. Das läuft bei mir seit Jahren durch.
Wenn Du Probleme damit hast dann bitte einen eigenen Thread dafür auf machen mit genauerem Fehlerbild.
Du musst nicht wissen wie es geht! Du musst nur wissen wo es steht, wie es geht.
Support me to buy new test hardware for development: https://www.paypal.com/paypalme/MOldenburg
My FHEM Git: https://git.cooltux.net/FHEM/
Das TuxNet Wiki:
https://www.cooltux.net

curt

Zitat von: CoolTux am 21 Februar 2019, 22:30:01
Damit ist das FHEM Modul 98_backup gemeint. Das Modul bietet FHEM ein eines FHEM Kommando namens backup an womit dann ein FHEM Backup gemacht werden kann. Das läuft bei mir seit Jahren durch.

Also wenn man "backup" in die FHEM-Kommandozeile schreibt. Und was Du gerade eben übernommen hast. Das kann -wie gesagt- nicht funktionieren, wenn die aktuelle Datei (log etc) verändert wird. Dann bricht tar ab, ganz normales Verhalten.

Zitat von: CoolTux am 21 Februar 2019, 22:30:01
Wenn Du Probleme damit hast dann bitte einen eigenen Thread dafür auf machen mit genauerem Fehlerbild.

Da könnte ich auch nicht mehr schreiben. - Nein, ich nutze es nicht; auf Grund dieses Threads hatte ich es einmal angestoßen. Und es passierte, was ich bei tar und laufendem Betrieb eigentlich erwartet hatte. Absturz/Beendigung des tar-Prozesses.
RPI 4 - Jeelink HomeMatic Z-Wave

Benni

Zitat von: curt am 21 Februar 2019, 22:46:03
Da könnte ich auch nicht mehr schreiben. - Nein, ich nutze es nicht;

Nichts desto trotz:

Zitat von: CoolTux am 21 Februar 2019, 22:30:01
Wenn Du Probleme damit hast dann bitte einen eigenen Thread dafür auf machen mit genauerem Fehlerbild.

Hier gehört das nicht rein, das ist ein anderes Thema!

gb#

curt

Zitat von: Benni am 22 Februar 2019, 05:15:17
Hier gehört das nicht rein, das ist ein anderes Thema!

Ich empfehle, den Thread komplett und genau zu lesen.

Keine Agnst, ich störe nicht weiter.
RPI 4 - Jeelink HomeMatic Z-Wave