(gelöst) Umzug auf neue SD Karte: Frage zu Backup und Logfile

Begonnen von edition, 24 März 2020, 21:41:28

Vorheriges Thema - Nächstes Thema

edition

Guten Abend zusammen

Ich will mit meiner fhem Installation auf eine neue SD Karte umziehen, die größer und auch schneller ist. Dafür probiere ich vorher schon einmal so einiges aus, damit beim eigentlichen Umzug nichts schief geht.
Heute habe ich ein Backup der bestehenden Installation über die Weboberfläche erstellt. Die Datei, die unter /opt/fhem/backup angelegt wurde war dann auch gleich mal 3 Gb groß. Zudem hat der Vorgang eine ganze Weile gedauert.
Um den Vorgang etwas abzukürzen (die Datei muß ja auf den Rechner geladen werden und nach dem Tausch der Karte wieder hohgeladen werden), habe ich eine USB Stick in meiner Dreambox per NFS ins Dateisystem des Raspberry gemountet und das Backup dort erstellen lassen.
Beim testen habe ich den Vorgang allerdings 2x angestartet, sodass ich am Ende auch 2 Backupvorgänge gleichzeitig am laufen hatte. Das Ergebnis war, das ich 2 Dateien unteschiedlicher Größe auf dem USB Stick hatte. Eine wieder mit ca 3 GB und eine mit ca. 500 MB!
Wie kann das denn sein?

Das bringt mich zum 2. Teil meiner Frage:
Ich habe versucht, im Logfile nachzulesen, ob einer der Backupvorgänge vorzeitig abgebrochen wurde. Über die Weboberfläche komme ich aber nur bis zum 04.03. um 13:19 Uhr!
Ich musste das Logfile vom Raspi auf den Rechner laden und mit Notepad++ öffnen. Zum Vorschein kam eine über 300 MB große Datei mit 3748925 Zeilen, in denen ich jetzt nach einer Fehlermeldung suche!
Warum ist das denn so viel? Verbose  steht unter global auf 1!

Gruß
edition

frober

Im Backup sind ALLE Logs enthalten.
Da würde ich in /Fhem/log erst Mal aufräumen...

Zu verbose 1, das kannst du global und in JEDEM device setzen. Da würde ich Mal schauen, was hier so auskunftsfreudig ist.

Willst du das Linux neu aufsetzen?
Ansonsten ein Image anfertigen und auf die neue SD schreiben. Dann braust du Fhem nicht extra zu sichern.
Wobei ein Backup NIE verkehrt ist.
Raspi 3b mit Raspbian Buster und relativ aktuellem Fhem,  FS20, LGW, PCA301, Zigbee, MQTT, MySensors mit RS485(CAN-Receiver) und RFM69, etc.,
einiges umgesetzt, vieles in Planung, smile

********************************************
...man wächst mit der Herausforderung...

edition

Die reine Größe von 3 GB hat mich nicht so stark gewundert (fhem startet immerhin mit 541 Einträgen). Der Größenunterschied der beiden Backupdateien hat mich stutzig gemacht. Darum dachte ich, das ein Fehler aufgetreten ist!
Ich habe jetzt alle Log Dateien vom letzten Jahr erst einmal gelöscht. Das hat die Größe des /opt/fhem Verzeichnisses von 6,5GB auf 1,8GB schrumpfen lassen. Dann kann ich das Backup auch auf der SD Karte erstellen und runterladen. Vorher werde ich mal nachsehen, auf welchem Verbose Level die einzelnen Aktoren/Sensoren so stehen.

Hier mal ein Auszug von einer Minute aus dem aktuellen Logfile kurz nach dem neustart:

2020.03.24 13:30:00 4: CUL_Parse: SCC1 is0000FF000FFF
2020.03.24 13:30:00 5: SCC1: dispatch is0000ff000fff
2020.03.24 13:30:00 3: SCC1 IT: message "is0000ff000fff" (14) too short!
2020.03.24 13:30:00 3: SCC1 IT: message "is0000ff000fff" (14) too short!
2020.03.24 13:30:00 3: SCC1: Unknown code is0000ff000fff, help me!
2020.03.24 13:30:01 1: PERL WARNING: Argument "1655 Wh" isn't numeric in division (/) at (eval 491) line 1.
2020.03.24 13:30:01 1: PERL WARNING: Argument "359 Wh" isn't numeric in division (/) at (eval 508) line 1.
2020.03.24 13:30:02 1: Timeout for WOL_Ping reached, terminated process 960
2020.03.24 13:30:07 4: CUL_Parse: SCC1 s4EF0FFA017;  496: 9536
2020.03.24 13:30:07 5: SCC1: dispatch s4EF0FFA017;  496: 9536
2020.03.24 13:30:07 4: SCC1: CUL_TCM97001 Unknown 78 (4EF0FFA017) length: 10 RSSI: -62.5
2020.03.24 13:30:07 4: SCC1: CUL_TCM97001 using longid: 1 model: Mebus
2020.03.24 13:30:07 4: SCC1: CUL_TCM97001 Temperatur_Heizkoerper_Wohnzimmer ID: 239 T: 25.5 Bat: ok CH: 2
2020.03.24 13:30:07 4: CUL_Parse: SCC1 s4F903D158804;  528: 9104
2020.03.24 13:30:07 5: SCC1: dispatch s4F903D158804;  528: 9104
2020.03.24 13:30:07 4: SCC1: CUL_TCM97001 Unknown 79 (4F903D158804) length: 12 RSSI: -72
2020.03.24 13:30:07 5: SCC1: CUL_TCM97001 W174 ERROR, checksum not ok!, calc CRC = 10, ref CRC = 1
2020.03.24 13:30:07 5: SCC1: CUL_TCM97001 W155 ERROR, checksum not ok!, calc CRC = 12, ref CRC = 1
2020.03.24 13:30:07 4: SCC1: CUL_TCM97001 using longid: 1 model: GT_WT_02
2020.03.24 13:30:07 4: CUL_Parse: SCC1 s4F903D158804;  512: 9040
2020.03.24 13:30:07 5: SCC1: dispatch s4F903D158804;  512: 9040
2020.03.24 13:30:07 4: SCC1: CUL_TCM97001 Unknown 79 (4F903D158804) length: 12 RSSI: -72
2020.03.24 13:30:07 5: SCC1: CUL_TCM97001 W174 ERROR, checksum not ok!, calc CRC = 10, ref CRC = 1
2020.03.24 13:30:07 5: SCC1: CUL_TCM97001 W155 ERROR, checksum not ok!, calc CRC = 12, ref CRC = 1
2020.03.24 13:30:07 4: SCC1: CUL_TCM97001 using longid: 1 model: GT_WT_02
2020.03.24 13:30:08 4: CUL_Parse: SCC1 **Z0ECA0202140098123456000118002D13
2020.03.24 13:30:08 5: SCC1: dispatch **Z0ECA0202140098123456000118002D13
2020.03.24 13:30:10 4: CUL_Parse: SCC1 **Z0E8B0202131A3B123456000118002C1F
2020.03.24 13:30:10 5: SCC1: dispatch **Z0E8B0202131A3B123456000118002C1F
2020.03.24 13:30:11 4: CUL_Parse: SCC1 **Z0EE802021BD5D7123456000119002827
2020.03.24 13:30:11 5: SCC1: dispatch **Z0EE802021BD5D7123456000119002827
2020.03.24 13:30:16 1: CULduino: SD_WS_Parse UNDEFINED sensor SD_WS37_TH detected, code SD_WS37_TH_1
2020.03.24 13:30:16 1: CULduino: SD_WS_Parse UNDEFINED sensor SD_WS_84_TH detected, code SD_WS_84_TH_2
2020.03.24 13:30:16 1: CULduino: SD_WS_Parse UNDEFINED sensor SD_WS_89_TH detected, code SD_WS_89_TH_2
2020.03.24 13:30:16 4: CUL_Parse: SCC1 omAA000000000001
2020.03.24 13:30:16 5: SCC1: dispatch omAA000000000001
2020.03.24 13:30:16 5: CUL_REDIRECT (mAA000000000001) length: 15 RSSI: -73.5
2020.03.24 13:30:16 5: CUL_REDIRECT (mAA000000000001) match Manchester COODE length: 15
2020.03.24 13:30:16 5: CUL_REDIRECT decode Oregon 2 (AA000000000001)
2020.03.24 13:30:16 5: bitdata: 10101010000000000000000000000000000000000000000000000001
2020.03.24 13:30:16 5: CUL_REDIRECT decode Oregon 3 (AA000000000001)
2020.03.24 13:30:16 5: bitdata: 10101010000000000000000000000000000000000000000000000001
2020.03.24 13:30:16 5: CUL_REDIRECT decode Hideki (AA000000000001)
2020.03.24 13:30:16 5: SCC1: search in 10101010000000000000000000000000000000000000000000000001

2020.03.24 13:30:16 5: protocol does not match, ignore received package (AA000000000001) Reason: Not a hideki protocol
2020.03.24 13:30:17 4: MaxScanner MAX_Stellantrieb_Gaestezimmer ShutterCheck.418 accepted following shutters : MAX_Fensterkontakt_Gaestezimmer
2020.03.24 13:30:17 4: MaxScanner MAX_Stellantrieb_Gaestezimmer Work.738 ns:2020-03-24 13:30:17 strDesiTime:2020-03-24 11:15:20 Is Mode DesicChange:
2020.03.24 13:30:17 4: MaxScanner MAX_Stellantrieb_Gaestezimmer Work.757 TYPE:CUL_MAX IOName:CULMAX0 simCube:
2020.03.24 13:30:17 4: MaxScanner MAX_Stellantrieb_Gaestezimmer Work.827 CulName:SCC3 CulCredits:1525 CreditTime:2020-03-24 13:30:10 dutyCycle:?
2020.03.24 13:30:17 4: MaxScanner MAX_Stellantrieb_Gaestezimmer WeekProfileInfo.695 tempFound-Idx :2
2020.03.24 13:30:17 4: MaxScanner MAX_Stellantrieb_Gaestezimmer WeekProfileInfo.696 nextSwitchDate:2020-03-25 00:00:00
2020.03.24 13:30:17 4: MaxScanner MAX_Stellantrieb_Gaestezimmer WeekProfileInfo.697 desired       :18.0
2020.03.24 13:30:17 4: MaxScanner MAX_Stellantrieb_Gaestezimmer WeekProfileInfo.698 nextDesired   :18.0
2020.03.24 13:30:17 4: MaxScanner MAX_Stellantrieb_Gaestezimmer Work.905 CulCredits:1525 Credits:900 isCul:1 CreditThreshold:300
2020.03.24 13:30:17 4: MaxScanner MAX_Stellantrieb_Gaestezimmer Work.937 ns:13:33:03 nsOld:13:30:17
2020.03.24 13:30:17 4: MaxScanner MAX_Stellantrieb_Gaestezimmer Work.942 create helpers with ns:2020-03-24 13:33:03
2020.03.24 13:30:17 4: MaxScanner MAX_Stellantrieb_Gaestezimmer Work.1102 numDesiTemp:20.5 expectedDesiTemp:20.5 leadDesiTemp:20.5
2020.03.24 13:30:17 4: MaxScanner MAX_Stellantrieb_Gaestezimmer Work.1103 normDesiTemp:18.0 desiredOffset:0
2020.03.24 13:30:17 4: MaxScanner MAX_Stellantrieb_Gaestezimmer Work.1148 Trigger Mode Desi-Change:
2020.03.24 13:30:17 3: MaxScanner MAX_Stellantrieb_Gaestezimmer Work.1236  Wait at least 180 sec . after last command
2020.03.24 13:30:23 4: CUL_Parse: SCC1 **Z0CB604421AD69B13DE93002DDB16
2020.03.24 13:30:23 5: SCC1: dispatch **Z0CB604421AD69B13DE93002DDB16
2020.03.24 13:30:23 4: CUL_Parse: SCC1 **Z0EB6020213DE931AD69B000118642D11
2020.03.24 13:30:23 5: SCC1: dispatch **Z0EB6020213DE931AD69B000118642D11
2020.03.24 13:30:30 4: CUL_Parse: SCC1 om9AA9665AA9A6A6AA9A9AAA66569A9540F8
2020.03.24 13:30:30 5: SCC1: dispatch om9AA9665AA9A6A6AA9A9AAA66569A9540F8
2020.03.24 13:30:30 5: CUL_REDIRECT (m9AA9665AA9A6A6AA9A9AAA66569A9540F8) length: 35 RSSI: -78
2020.03.24 13:30:30 5: CUL_REDIRECT (m9AA9665AA9A6A6AA9A9AAA66569A9540F8) match Manchester COODE length: 35
2020.03.24 13:30:30 5: CUL_REDIRECT decode Oregon 2 (9AA9665AA9A6A6AA9A9AAA66569A9540F8)
2020.03.24 13:30:30 5: bitdata: 1001101010101001011001100101101010101001101001101010011010101010100110101001101010101010011001100101011010011010100101010100000011111000
2020.03.24 13:30:30 5: OSV2 protocol detected (9AA9665AA9A6A6AA9A9AAA66569A9540F8)
2020.03.24 13:30:30 5: CUL_REDIRECT: ERROR: To short: OSV2 protocol converted to hex: (381A240211A8138F) with length (64) bits

2020.03.24 13:30:30 5: CUL_REDIRECT decode Oregon 3 (9AA9665AA9A6A6AA9A9AAA66569A9540F8)
2020.03.24 13:30:30 5: bitdata: 1001101010101001011001100101101010101001101001101010011010101010100110101001101010101010011001100101011010011010100101010100000011111000
2020.03.24 13:30:30 5: CUL_REDIRECT decode Hideki (9AA9665AA9A6A6AA9A9AAA66569A9540F8)
2020.03.24 13:30:30 5: SCC1: search in 1001101010101001011001100101101010101001101001101010011010101010100110101001101010101010011001100101011010011010100101010100000011111000

2020.03.24 13:30:30 5: protocol does not match, ignore received package (9AA9665AA9A6A6AA9A9AAA66569A9540F8) Reason: Not a hideki protocol
2020.03.24 13:30:36 4: CUL_Parse: SCC1 sBD0089444D40F8;  608: 9024
2020.03.24 13:30:36 5: SCC1: dispatch sBD0089444D40F8;  608: 9024
2020.03.24 13:30:36 4: SCC1: CUL_TCM97001 Unknown 189 (BD0089444D40F8) length: 14 RSSI: -78
2020.03.24 13:30:36 2: SCC1: CUL_TCM97001 Unknown device Unknown msg:sBD0089444D40F8, please define it
2020.03.24 13:30:36 4: CUL_Parse: SCC1 sBD0089444D40F7;  592: 9088
2020.03.24 13:30:36 5: SCC1: dispatch sBD0089444D40F7;  592: 9088
2020.03.24 13:30:36 4: SCC1: CUL_TCM97001 Unknown 189 (BD0089444D40F7) length: 14 RSSI: -78.5
2020.03.24 13:30:36 2: SCC1: CUL_TCM97001 Unknown device Unknown msg:sBD0089444D40F7, please define it
2020.03.24 13:30:37 4: CUL_Parse: SCC1 s4EF0FFA018;  496: 9552
2020.03.24 13:30:37 5: SCC1: dispatch s4EF0FFA018;  496: 9552
2020.03.24 13:30:37 4: SCC1: CUL_TCM97001 Unknown 78 (4EF0FFA018) length: 10 RSSI: -62
2020.03.24 13:30:37 4: SCC1: CUL_TCM97001 using longid: 1 model: Mebus
2020.03.24 13:30:37 4: SCC1: CUL_TCM97001 Temperatur_Heizkoerper_Wohnzimmer ID: 239 T: 25.5 Bat: ok CH: 2
2020.03.24 13:30:45 4: CUL_Parse: SCC1 **Z0C37044207DADA140098002DE207
2020.03.24 13:30:45 5: SCC1: dispatch **Z0C37044207DADA140098002DE207
2020.03.24 13:30:45 4: CUL_Parse: SCC1 **Z0E37020214009807DADA000118002D15
2020.03.24 13:30:45 5: SCC1: dispatch **Z0E37020214009807DADA000118002D15
2020.03.24 13:30:51 4: CUL_Parse: SCC1 **Z0BE8054007DADA123456002D06
2020.03.24 13:30:51 5: SCC1: dispatch **Z0BE8054007DADA123456002D06
2020.03.24 13:30:51 4: CUL_Parse: SCC1 **Z0BE8004007DADA140098002D07
2020.03.24 13:30:51 5: SCC1: dispatch **Z0BE8004007DADA140098002D07
2020.03.24 13:30:51 4: CUL_Parse: SCC1 **Z0EE8020214009807DADA000118002D14
2020.03.24 13:30:51 5: SCC1: dispatch **Z0EE8020214009807DADA000118002D14
2020.03.24 13:30:56 4: CUL_Parse: SCC1 **Z0BE9054007DADA123456002D02
2020.03.24 13:30:56 5: SCC1: dispatch **Z0BE9054007DADA123456002D02


Ja, ich will Linux neu aufsetzen. Mit Raspbian Buster statt aktuell Jessie. Daher kommt ein image nicht in Frage.
Das Backup auf dem gemounteten USB Stick hat allerdings auch den Hintergedanken, das ganze regelmäßig automatisch durchführen zu lassen. Allerdings scheint die Art, mit der ich gemountet habe, nicht dauerhaft zu sein. Aktuell ist der USB Stick vom Raspi aus nicht zu erreichen.

edition

frober

Dein CUL SSC1 läuft mit verbose 5, Max mit min. 4 soweit ich das sehe.

Mein Backup läuft auf einen USB auf der Fritte, bzw. neu OpenWRT auf  einen TP-Link zuverlässig. Allerdings mit SMB.
NFS sollte allerdings noch besser funktionieren...

Konfiguration, WLAN, LAN zuverlässig..
Raspi 3b mit Raspbian Buster und relativ aktuellem Fhem,  FS20, LGW, PCA301, Zigbee, MQTT, MySensors mit RS485(CAN-Receiver) und RFM69, etc.,
einiges umgesetzt, vieles in Planung, smile

********************************************
...man wächst mit der Herausforderung...

topa_LE

Zitat von: edition am 25 März 2020, 09:27:39
Ja, ich will Linux neu aufsetzen. Mit Raspbian Buster statt aktuell Jessie. Daher kommt ein image nicht in Frage.

Warum sicherst Du nicht erstmal wirklich die komplette SD-Card. Ich selbst habe Jessie auf Stretch Buster aktualisiert und es ist alles super gelaufen. So machst du dir mit Backups und sämtlichen Neuerungen für FHEM weniger Arbeit. Falls es nicht klappt, kannst du es ja immer noch machen.

edition

Tatsache! Der SCC1 stand auf Verbose 5. Ich weiß gar nicht warum? Das ist der 433Mhz Teil meines Neumann Cul´s für Intertechno. Der SCC3 (für MAX) stand auf Verbose 0, aber der MAX-Scanner stand auf Verbose 4! Das war im WIKI so angegeben. Ich habe jetzt den SCC1 auf 0 und den MAX-Scanner auf 1 gestellt. Seitdem (10:29 Uhr) hat sich die Log Datei nicht geändert. Mal sehen, ob der Heizkörperthermostat jetzt noch seine Temperatur meldet.
Vielen Dank für den Tipp!
Mit ein wenig Glück hat sich noch ein weiteres Problem erledigt. Der Neumann Cul hat sich nämlich alle ca. 3-4 Wochen aufgehängt. Ich musste den Raspi jedes mal komplett runterfahren und auch vom Strom trennen. Ein shutdown restart oder ein reboot des Raspi, ohne ihn Stromlos zu machen, hat nicht geholfen.

@topa_LE
Ich werde zur Sicherheit ein Image der aktuellen SD Karte anfertigen. Für den Fall, das beim rumprobieren was schief geht. Dann kann ich zumindest den aktuellen Zustand wiederherstellen.

Wernieman

Ich würde Dir raten ... kaufe Die eine neue SDCard. Dort dann Buster installieren, FHEM und alle notwendigen Module.

Dann "einfach" das alte FHEM über das "neue" kopieren und starten, logfiles Auswerten und notwendiges Nachinstallieren (und dokumentieren)

Wenn Du Probleme hast, kannst Du immer noch (wegen dem WAF-Faktor) schnell die alte SD nehmen.

So teuer sind aktuell SD zum gGück nicht mehr ...
- Bitte um Input für Output
- When there is a Shell, there is a Way
- Wann war Dein letztes Backup?

Wie man Fragen stellt: https://tty1.net/smart-questions_de.html

edition

So wollte ich es machen.
Die neue Karte ist schon gekauft, Buster und fhem sind installiert. Noch ein paar Kleinigkeiten, dann kann der eigentliche Umzug beginnen.

frober

Verbose besser auf 1 und nicht auf 0.
Dann bekommst du wenigstens die Fehler mit... falls vorhanden.

Maxscanner kenne ich zwar nicht, gehe aber davon aus, das im Wiki nur gemeint war bis alles eingerichtet ist.
Raspi 3b mit Raspbian Buster und relativ aktuellem Fhem,  FS20, LGW, PCA301, Zigbee, MQTT, MySensors mit RS485(CAN-Receiver) und RFM69, etc.,
einiges umgesetzt, vieles in Planung, smile

********************************************
...man wächst mit der Herausforderung...

edition

So, ist vollbracht!

Bin erfolgreich auf die neue SD mit Buster umgezogen. Funktioniert alles. Habe auch gleich noch automatisches Backup auf dem USB Stick eingebaut.
Danke für die Unterstützung.

edition