Tägliche Regenmenge aus DWD-Radolan Daten einlesen

Begonnen von alkazaa, 12 August 2023, 21:12:09

Vorheriges Thema - Nächstes Thema

JoWiemann

Zitat von: alkazaa am 21 August 2023, 17:20:23Eins fiel mir noch auf (unabhängig vom define-Versuch): Nach 'reload 98_CDCOpenData.pm' steht diese Warnung im FHEM-log:
PERL WARNING: using SSL support of Net::FTP 3.11 instead of SSLGlue at /usr/share/perl5/Net/SSLGlue/FTP.pm line 16.

Hm, ist nur eine Warnung. Auf welchem OS läuft Dein Fhem?

Grüße Jörg
Jörg Wiemann

Slave: RPi B+ mit 512 MB, COC (868 MHz), CUL V3 (433.92MHz SlowRF); FHEMduino, Aktuelles FHEM

Master: CubieTruck; Debian; Aktuelles FHEM

alkazaa

#16
Zitat von: JoWiemann am 21 August 2023, 17:56:06Hast Du das alte Modul DWD... gelöscht und Fhem mit dem neuen neu gestartet?
Ja
Zitat von: JoWiemann am 21 August 2023, 17:56:06was steht denn im Fhem Log. Das sieht nach einem Absturz aus.
Hab's nochmal wiederholt, mit global verbose=5. Hier die letzten Lebenszeichen:
(Die Meldung um 18:04:10 war noch von den normalen Abläufen. Zufällig das Weather-Modul, hängt aber wohl nicht mit dem was ab 18:04:14 passiert zusammen)
2023.08.21 18:04:10 4: Weather Wetter: Rearm new Timer
2023.08.21 18:04:14 5: POST /fhem HTTP/1.1
Host: 192.168.188.22:8083
User-Agent: Mozilla/5.0 (Windows NT 10.0; Win64; x64; rv:109.0) Gecko/20100101 Firefox/116.0
Accept: text/html,application/xhtml+xml,application/xml;q=0.9,image/avif,image/webp,*/*;q=0.8
Accept-Language: de,en-US;q=0.7,en;q=0.3
Accept-Encoding: gzip, deflate
Content-Type: application/x-www-form-urlencoded
Content-Length: 79
Origin: http://192.168.188.22:8083
DNT: 1
Connection: keep-alive
Referer: http://192.168.188.22:8083/fhem?
Cookie: AuthToken=######################==
Upgrade-Insecure-Requests: 1
2023.08.21 18:04:14 4: WEB_192.168.188.20_53488 POST /fhem&fw_id=1692633712.44671&fwcsrf=csrf_369616195317322&cmd=define+myCDC+CDCOpenData; BUFLEN:0
2023.08.21 18:04:14 5: Cmd: >define myCDC CDCOpenData<
2023.08.21 18:04:14 5: Loading ./FHEM/98_CDCOpenData.pm
2023.08.21 18:04:14 1: PERL WARNING: Subroutine get_2bytes_from_binfile redefined at ./FHEM/98_CDCOpenData.pm line 978.
2023.08.21 18:04:14 1: PERL WARNING: Subroutine index_for_geo_position redefined at ./FHEM/98_CDCOpenData.pm line 993.
2023.08.21 18:04:14 1: PERL WARNING: using SSL support of Net::FTP 3.11 instead of SSLGlue at /usr/share/perl5/Net/SSLGlue/FTP.pm line 16.
2023.08.21 18:04:14 3: [myCDC | Define.118] - <latitude> was not provided and will be set to 53.91
2023.08.21 18:04:14 3: [myCDC | Define.125] - <longitude> was not provided and will be set to 11.42
Can't locate object method "new" via package "JsonMod::Cron" (perhaps you forgot to load "JsonMod::Cron"?) at ./FHEM/98_CDCOpenData.pm line 144.
(Zeichen nach AuthToken hab ich durch ### ersetzt)

alkazaa

Zitat von: JoWiemann am 21 August 2023, 17:57:12Hm, ist nur eine Warnung. Auf welchem OS läuft Dein Fhem?
pi@raspberrypi:~ $ cat /etc/os-release
PRETTY_NAME="Raspbian GNU/Linux 11 (bullseye)"
NAME="Raspbian GNU/Linux"
VERSION_ID="11"
VERSION="11 (bullseye)"
VERSION_CODENAME=bullseye
ID=raspbian
ID_LIKE=debian
HOME_URL="http://www.raspbian.org/"
SUPPORT_URL="http://www.raspbian.org/RaspbianForums"
BUG_REPORT_URL="http://www.raspbian.org/RaspbianBugs"

MadMax-FHEM

Ich hab's eben auch mal getestet.
Steht nicht viel im Log...

Zugegeben: ich habe weder die Devices noch die alte pm-Datei gelöscht... :-|

2023.08.21 18:14:24 1: PERL WARNING: Subroutine get_2bytes_from_binfile redefined at ./FHEM/98_CDCOpenData.pm line 978.
2023.08.21 18:14:24 1: PERL WARNING: Subroutine index_for_geo_position redefined at ./FHEM/98_CDCOpenData.pm line 993.
2023.08.21 18:15:01 3: [cdcRegenmenge | Define.118] - <latitude> was not provided and will be set to 49.4792629
2023.08.21 18:15:01 3: [cdcRegenmenge | Define.125] - <longitude> was not provided and will be set to 10.9857085
2023.08.21 18:15:02 1: Including fhem.cfg
2023.08.21 18:15:02 3: telnetPort: port 7072 opened
2023.08.21 18:15:02 3: WEB: port 8083 opened

Mache ich gleich...

Gruß, Joachim
FHEM PI3B+ Bullseye: HM-CFG-USB, 40x HM, ZWave-USB, 13x ZWave, EnOcean-PI, 15x EnOcean, HUE/deCONZ, CO2, ESP-Multisensor, Shelly, alexa-fhem, ...
FHEM PI2 Buster: HM-CFG-USB, 25x HM, ZWave-USB, 4x ZWave, EnOcean-PI, 3x EnOcean, Shelly, ha-bridge, ...
FHEM PI3 Buster (Test)

JoWiemann

Zitat von: alkazaa am 21 August 2023, 18:17:31Can't locate object method "new" via package "JsonMod::Cron" (perhaps you forgot to load "JsonMod::Cron"?) at ./FHEM/98_CDCOpenData.pm line 144.


Ok, dann weiß wo ich nochmal ran muss. Danke Dir
Jörg Wiemann

Slave: RPi B+ mit 512 MB, COC (868 MHz), CUL V3 (433.92MHz SlowRF); FHEMduino, Aktuelles FHEM

Master: CubieTruck; Debian; Aktuelles FHEM

JoWiemann

Zitat von: JoWiemann am 21 August 2023, 18:23:59
Zitat von: alkazaa am 21 August 2023, 18:17:31Can't locate object method "new" via package "JsonMod::Cron" (perhaps you forgot to load "JsonMod::Cron"?) at ./FHEM/98_CDCOpenData.pm line 144.


Ok, dann weiß wo ich nochmal ran muss. Danke Dir

Anbei eine neue Version.

Grüße Jörg

Jörg Wiemann

Slave: RPi B+ mit 512 MB, COC (868 MHz), CUL V3 (433.92MHz SlowRF); FHEMduino, Aktuelles FHEM

Master: CubieTruck; Debian; Aktuelles FHEM

MadMax-FHEM

Stürzt leider (bei mir) auch ab.

Folgendes im Log:

2023.08.21 18:50:00 3: [cdcRegenmenge | Define.117] - <latitude> was not provided and will be set to 49.0000000
2023.08.21 18:50:00 3: [cdcRegenmenge | Define.124] - <longitude> was not provided and will be set to 10.000000
Can't locate object method "new" via package "JsonMod::Cron" (perhaps you forgot to load "JsonMod::Cron"?) at ./FHEM/98_CDCOpenData.pm line 143.
2023.08.21 18:50:01 1: Including fhem.cfg
2023.08.21 18:50:01 3: telnetPort: port 7072 opened
2023.08.21 18:50:02 3: WEB: port 8083 opened

Gruß, Joachim
FHEM PI3B+ Bullseye: HM-CFG-USB, 40x HM, ZWave-USB, 13x ZWave, EnOcean-PI, 15x EnOcean, HUE/deCONZ, CO2, ESP-Multisensor, Shelly, alexa-fhem, ...
FHEM PI2 Buster: HM-CFG-USB, 25x HM, ZWave-USB, 4x ZWave, EnOcean-PI, 3x EnOcean, Shelly, ha-bridge, ...
FHEM PI3 Buster (Test)

JoWiemann

Zitat von: MadMax-FHEM am 21 August 2023, 18:52:24Stürzt leider (bei mir) auch ab.


Gruß, Joachim

Hallo Joachim,

auch mit der letzten Version aus Post: https://forum.fhem.de/index.php?msg=1284663

Grüße Jörg
Jörg Wiemann

Slave: RPi B+ mit 512 MB, COC (868 MHz), CUL V3 (433.92MHz SlowRF); FHEMduino, Aktuelles FHEM

Master: CubieTruck; Debian; Aktuelles FHEM

MadMax-FHEM

#23
Zitat von: JoWiemann am 21 August 2023, 19:07:57
Zitat von: MadMax-FHEM am 21 August 2023, 18:52:24Stürzt leider (bei mir) auch ab.


Gruß, Joachim

Hallo Joachim,

auch mit der letzten Version aus Post: https://forum.fhem.de/index.php?msg=1284663

Grüße Jörg

Eigentlich ja...
Ist bei mir ja auch eine andere Zeile?

Ich downloade und kopiere usw. noch mal...

Sicher ist sicher...

EDIT: eben noch mal probiert... Leider bleibt es dabei...
2023.08.21 19:14:01 3: [cdcRegenmenge | Define.117] - <latitude> was not provided and will be set to 49.00000
2023.08.21 19:14:01 3: [cdcRegenmenge | Define.124] - <longitude> was not provided and will be set to 10.00000
Can't locate object method "new" via package "JsonMod::Cron" (perhaps you forgot to load "JsonMod::Cron"?) at ./FHEM/98_CDCOpenData.pm line 143.
2023.08.21 19:14:05 1: Including fhem.cfg
2023.08.21 19:14:05 3: telnetPort: port 7072 opened

Gruß, Joachim
FHEM PI3B+ Bullseye: HM-CFG-USB, 40x HM, ZWave-USB, 13x ZWave, EnOcean-PI, 15x EnOcean, HUE/deCONZ, CO2, ESP-Multisensor, Shelly, alexa-fhem, ...
FHEM PI2 Buster: HM-CFG-USB, 25x HM, ZWave-USB, 4x ZWave, EnOcean-PI, 3x EnOcean, Shelly, ha-bridge, ...
FHEM PI3 Buster (Test)

JoWiemann

Zitat von: JoWiemann am 21 August 2023, 19:07:57
Zitat von: MadMax-FHEM am 21 August 2023, 18:52:24Stürzt leider (bei mir) auch ab.


Gruß, Joachim

Hallo Joachim,

auch mit der letzten Version aus Post: https://forum.fhem.de/index.php?msg=1284663

Grüße Jörg

Sorry, falsche Version hochgeladen.

Anbei eine neue.
Jörg Wiemann

Slave: RPi B+ mit 512 MB, COC (868 MHz), CUL V3 (433.92MHz SlowRF); FHEMduino, Aktuelles FHEM

Master: CubieTruck; Debian; Aktuelles FHEM

alkazaa

Das define läuft schin mal durch. Danke!
-Franz

MadMax-FHEM

FHEM PI3B+ Bullseye: HM-CFG-USB, 40x HM, ZWave-USB, 13x ZWave, EnOcean-PI, 15x EnOcean, HUE/deCONZ, CO2, ESP-Multisensor, Shelly, alexa-fhem, ...
FHEM PI2 Buster: HM-CFG-USB, 25x HM, ZWave-USB, 4x ZWave, EnOcean-PI, 3x EnOcean, Shelly, ha-bridge, ...
FHEM PI3 Buster (Test)

alkazaa

#27
Sieht alles sehr gut aus. Ich hab trotzdem mal dran "rumgespielt" und die Abhängigkeit vom DateTime package rausgeschmissen (war ein Rat von rudolfkoening).

Jörg, entscheide Du bitte, was genommen wird.

In der Datei habe ich einige Zeilen auskommentiert (die fangen mit #*# an) und in der jeweils nächsten Zeile die Rechnungen ohne DateTime eingefügt. Ich muss aber sagen, dass mir die ganzen Datums/Zeit-Umrechnungen in Perl bisschen unheimlich sind. Vermutlich geht's auch einfacher oder eleganter, aber es funktioniert bei mir.

Noch ein paar Informationen zu den Radolan Daten:
  • Obwohl der DWD die Daten stündlich aktualisiert, und zwar jeweils mit der Regenmengensumme der letzten 24h,  wollte ich die Regenmenge genau eines Kalendertages. Und die findet sich in der Radolan Datei mit der Kennung 21:50:00 (GMT Zeit, also 10 min vor Mitternacht in D)
  • Andere sind aber vielleicht auch an den stündlichen Reports interessiert (die alle einen Zeitstempel HH:50:00 haben)
  • Es gibt auch 'hourly' Daten, die alle 5 min (rollierend) aktualisiert werden. Fällt mir persönlich keine vernünftige Anwendung in der FHEM Welt für ein, aber wer weiß
  • Die Aktualisierung auf dem DWD Server erfolgt mit ca. 30 Minuten Verzögerung
  • Die Daten vergangener Jahre sind jeweils in tar.gz Dateien anderswo im DWD Verzeichnisbaum zusammengefasst.

Beste Grüße
Franz

Nachtrag 1: Meine Änderung OHNE das DateTime package hat noch Macken, hab's entfernt
Nachtrag 2: Macken sind beseitigt, Anhang ist wieder da

romakrau

Hallo zusammen,
ich habe auch versucht das Modul zu definíeren und erhalte bei dem Versuch des Updates folgende Fehlermeldung:

2023.08.25 09:04:04 3: [Regenmenge | Set.261] - INFO: set Regenmenge update
2023.08.25 09:04:05 3: [Regenmenge | Readout_Run_FTP.436] - ################ get_Regenmenge called ################
2023.08.25 09:04:05 3: [Regenmenge | Readout_Run_FTP.455] - UTC targettime is 2023-08-24 21:59:59
2023.08.25 09:04:05 3: [Regenmenge | Readout_Run_FTP.485] - file raa01-sf_10000-2308242150-dwd---bin.gz on CDC ftp-server is nearest to targettime
2023.08.25 09:04:05 3: [Regenmenge | Readout_Run_FTP.492] - localname raa01-sf_10000-2308242150-dwd---bin
2023.08.25 09:04:05 3: [Regenmenge | Readout_Run_FTP.508] - Load new local file temp_radolan_data/raa01-sf_10000-2308242150-dwd---bin Net::FTP::I=GLOB(0x559f917400)
Can't locate object method "gunzip" via package "Net::FTP::I" at ./FHEM/98_CDCOpenData.pm line 511.
2023.08.25 09:04:59 1: [Regenmenge | Readout_Aborted.678] - Error: Timeout when reading DWD data.

Gunzip ist in der Version
gunzip (gzip) 1.10
Copyright (C) 2007, 2011-2018 Free Software Foundation, Inc.
installiert.

Die Tagesmenge enthält den Fehler das mit einem GMT+2 die Sommerzeit angenommen wird. Es sollte daher die reale Zeit genommen werden, Kennung 22:50:00

Gruß
Roman

JoWiemann

#29
Zitat von: romakrau am 25 August 2023, 09:08:01Die Tagesmenge enthält den Fehler das mit einem GMT+2 die Sommerzeit angenommen wird. Es sollte daher die reale Zeit genommen werden, Kennung 22:50:00

Hallo Roman,

welche Version vom Modul hast Du installiert. Die von Franz (alkazaa) angepasste?

Grüße Jörg
Jörg Wiemann

Slave: RPi B+ mit 512 MB, COC (868 MHz), CUL V3 (433.92MHz SlowRF); FHEMduino, Aktuelles FHEM

Master: CubieTruck; Debian; Aktuelles FHEM