Statistics Daten bestimmten Zeitraum löschen

Begonnen von Ruggy, 28 Januar 2025, 14:08:48

Vorheriges Thema - Nächstes Thema

Ruggy

Aufgrund eines Defekts des shelly 3em musste ich dieses tauschen.  War seit 25.1. somit offline.
Heute wurde das neue eingebaut und in der Fritzbox die selbe IP zugewiesen.
Die Daten werden über das Device für das Shelly ausgelesen und funktioniert soweit.
Jetzt habe ich aber in der dblog zu Teil sehr hohe negative Werte. Diese bekomme ich nicht gelöscht.
Habe es schon mit DbRep versuch und den Zeitraum ab 25. begrenzt.
Leider bekomme ich die hohe Werte nicht raus
Was muss ich machen bzw. wie vorgehen?

Save config ?
Tablet-UI
ui
AMAD
Abstellkammer
Alarm
Anwesenheit
Außen
Bad
CUL_FHTTK
CUL_HM
CUL_HOERMANN
CUL_IR
CUL_TX
CUL_WS
Dachboden
DbLog
ESA2000
FHT
FS20
FTUI
Flur
HMS
HUEDevice
Heizung
Homematic
IT
Keller_Arbeitszimmer
Kinderzimmer
Kueche
MQTT2_DEVICE
Plots
Rolladen
Schlafzimmer
Stromverbrauch
Temperaruren
Testbereich
Tradfri_Geräte
Treppenhaus
Unsorted
Verbindungen_MQTT2
Wohnzimmer
deCONZ_Geräte
icoEverything Everything
Logfile
Commandref
Remote doc
Edit files
Select style
Event monitor
Internals:
  DEF        192.168.33.43
  FUUID      67804a67-f33f-6784-7d9c-01f3b18bad73bd2c
  INTERVAL  30
  NAME      myShellyEM3
  NR        1338
  NTFY_ORDER 50-myShellyEM3
  SHELLYID  shellypro3em-a0dd6ca1a068
  STATE      heute bisher: -73114.18 Wh
  TYPE      Shelly
  eventCount 266
  units      0
  Helper:
    DBLOG:
      Active_Power_A:
        DbLog:
          TIME      1738069330.16239
          VALUE      28.4
      Active_Power_B:
        DbLog:
          TIME      1738069330.16239
          VALUE      9.9
      Active_Power_C:
        DbLog:
          TIME      1738069330.16239
          VALUE      38.5
      statTotal_Energy_SDayLast:
        DbLog:
          TIME      1737932395.04422
          VALUE      0.00
      statTotal_Energy_SHourLast:
        DbLog:
          TIME      1738069195.06555
          VALUE      88.64
      state:
        DbLog:
          TIME      1738064179.0774
          VALUE      OK
  READINGS:
    2025-01-28 14:02:10  Active_Power_A  28.4
    2025-01-28 14:02:10  Active_Power_B    9.9
    2025-01-28 14:02:10  Active_Power_C  38.5
    2025-01-28 14:02:10  Active_Power_S  76.8
    2025-01-28 14:02:00  Active_Power_calculated 75.6 ( 4536 Ws =  1.26 Wh in 59 s )
    2025-01-28 14:02:01  Active_Power_integrated 76.9  (2 values)
    2025-01-28 12:37:01  Active_Power_integratedNeg  0.0  (0 Ws =  0.00 Wh)
    2025-01-28 14:02:01  Active_Power_integratedPos 76.9  (4614 Ws =  1.28 Wh)
    2025-01-28 14:02:10  Apparent_Power_A 48.5
    2025-01-28 14:02:10  Apparent_Power_B 13.9
    2025-01-28 14:02:10  Apparent_Power_C 67.6
    2025-01-28 14:02:10  Apparent_Power_S 130.1
    2025-01-28 14:02:10  Current_A      0.211
    2025-01-28 14:02:10  Current_B      0.061
    2025-01-28 14:02:10  Current_C      0.300
    2025-01-28 14:02:10  Current_S      0.572
    2025-01-28 13:30:57  Frequency_A    50
    2025-01-28 13:30:57  Frequency_B    50
    2025-01-28 13:31:27  Frequency_C    50
    2025-01-28 14:02:10  PowerReactive_A 39.3
    2025-01-28 14:02:10  PowerReactive_B  9.8
    2025-01-28 14:02:10  PowerReactive_C 55.6
    2025-01-28 14:02:10  PowerReactive_S 104.6
    2025-01-28 14:02:10  Power_Factor_A  0.56 (inductive)
    2025-01-28 14:02:10  Power_Factor_B  0.68 (inductive)
    2025-01-28 14:02:10  Power_Factor_C  0.58 (inductive)
    2025-01-28 14:02:00  Purchased_Energy_A 49.22
    2025-01-28 14:02:00  Purchased_Energy_B 70.38
    2025-01-28 14:02:00  Purchased_Energy_C 67.42
    2025-01-28 14:02:00  Purchased_Energy_S 187.02
    2025-01-28 14:02:01  Purchased_Energy_T 1939272138.0325
    2025-01-28 12:37:00  Returned_Energy_A 0
    2025-01-28 12:37:00  Returned_Energy_B 0
    2025-01-28 12:37:00  Returned_Energy_C 0
    2025-01-28 12:37:00  Returned_Energy_S 0
    2025-01-28 12:37:01  Returned_Energy_T 2060000
    2025-01-28 14:02:00  Total_Energy_S  187.02
    2025-01-28 14:02:01  Total_Energy_T  1937212138.0325
    2025-01-28 14:02:10  Voltage_A      229.0
    2025-01-28 14:02:10  Voltage_B      227.3
    2025-01-28 14:01:39  Voltage_C      225.5
    2025-01-28 12:36:41  ap              enabled open
    2025-01-09 23:15:06  ap_clients      disabled
    2025-01-28 12:36:41  ap_name        ShellyPro3EM-A0DD6CA1A068
    2025-01-09 23:15:06  ble            enabled
    2025-01-09 23:15:06  ble_obs        disabled
    2025-01-09 23:15:06  ble_rpc        enabled
    2025-01-09 23:15:06  cloud          disabled
    2025-01-28 12:36:04  error          -106: Already in progress
    2025-01-09 23:15:05  error_EM        ok
    2025-01-09 23:15:06  firmware_ID    20241011-114455/1.4.4-g6d2a586
    2025-01-09 23:15:06  firmware_current v1.4.4
    2025-01-28 12:36:41  firmware_updIcon OK
    2025-01-28 12:36:41  firmware_updText -/-
    2025-01-28 14:02:21  inttemp        45.9
    2025-01-09 23:15:04  mac            FC:E8:C0:D9:60:F4
    2025-01-09 23:15:04  model_ID        SPEM-003CEBEU
    2025-01-09 23:15:04  model_family    Pro/Gen2
    2025-01-09 23:15:04  model_function  energy meter
    2025-01-09 23:15:04  model_name      Shelly Pro 3EM
    2025-01-28 12:36:41  network        <html>connected to <a href="http://192.168.33.43">192.168.33.43</a> (Wifi)</html>
    2025-01-28 12:36:41  network_connection online (Wifi)
    2025-01-26 22:59:17  network_disconnects 2
    2025-01-09 23:15:05  network_ip-address_LAN -
    2025-01-09 23:15:05  network_ip-address_Wifi 192.168.33.43
    2025-01-28 14:02:21  network_rssi    -60
    2025-01-09 23:15:05  network_ssid    DAHOAM
    2025-01-09 23:15:06  network_wifi_roaming -80
    2025-01-09 23:27:23  statStateDay    OK: 00:12:04 OK_Count: 1 initialized: 00:00:15 initialized_Count: 1 (since: 2025-01-09_23:15:04)
    2025-01-09 23:27:23  statStateMonth  OK: 00:12:04 OK_Count: 1 initialized: 00:00:15 initialized_Count: 1 (since: 2025-01-09_23:15:04)
    2025-01-09 23:27:23  statStateYear  OK: 00:12:04 OK_Count: 1 initialized: 00:00:15 initialized_Count: 1 (since: 2025-01-09_23:15:04)
    2025-01-28 14:02:10  statTotal_Energy_S Hour: 3.79 Day: -73114.18 Month: -1839.72 Year: -1839.72 (since: 2025-01-10 )
    2025-01-28 14:02:10  statTotal_Energy_SDay -73114.18
    2025-01-27 23:59:55  statTotal_Energy_SDayLast 0.00
    2025-01-28 14:02:10  statTotal_Energy_SHour 3.79
    2025-01-28 13:59:55  statTotal_Energy_SHourLast 88.64
    2025-01-28 13:59:55  statTotal_Energy_SLast Hour: 88.64 Day: 0.00 Month: - Year: -
    2025-01-28 14:02:10  statTotal_Energy_SMonth -1839.72
    2025-01-28 14:02:10  statTotal_Energy_SYear -1839.72
    2025-01-28 12:36:19  state          OK
    2025-01-28 14:02:21  uptime          5126
    2025-01-09 23:15:07  webhook_cnt    0 / 0 / 0
    2025-01-09 23:15:05  webhook_ver    0
  helper:
    Energymeter_P 1939272138.0325
    Energymeter_R 2060000
    Sets      config:ap_disable,ap_enable interval password reboot:noArg update:noArg name reset:noArg clear:disconnects,error,energy,responsetimes actions
    StatusCall 0
    Total_Energy_S 187.02
    _98_statistics myStatDevice
    a_Active_Power 28.4
    b_Active_Power 9.9
    c_Active_Power 38.5
    power      76.8
    powerCnt  1
    powerNeg  0
    powerPos  76.8
    range_extender disabled
    settings_time 1738069071.31151
    timer      0
    timestamp_last 1738069321.1148
    bm:
      Shelly_Attr:
        cnt        2
        dmx        -1000
        dtot      0
        dtotcnt    0
        mTS        26.01. 22:58:44
        max        0.0582830905914307
        tot        0.0599250793457031
        mAr:
          set
          myShellyEM3
          interval
          0
      Shelly_Get:
        cnt        18
        dmx        -1000
        dtot      0
        dtotcnt    0
        mTS        26.01. 22:58:12
        max        0.00024104118347168
        tot        0.00267934799194336
        mAr:
          HASH(0x5effb90)
          myShellyEM3
          ?
      Shelly_Notify:
        cnt        194411
        dmx        -1000
        dtot      0
        dtotcnt    0
        mTS        27.01. 20:58:07
        max        0.0102589130401611
        tot        6.13424205780029
        mAr:
          HASH(0x5effb90)
          HASH(0x3aaad88)
      Shelly_Set:
        cnt        283
        dmx        -1000
        dtot      0
        dtotcnt    0
        mTS        28.01. 12:56:43
        max        0.101763963699341
        tot        6.04190754890442
        mAr:
          HASH(0x5effb90)
          myShellyEM3
          ?
Attributes:
  devStateStyle style="color:green;;"
  event-on-change-reading stat.*,Active_Power_.*,energy.*
  icon      measure_power
  interval  30
  model      shellypro3em
  room      Stromverbrauch
  stateFormat heute bisher: statTotal_Energy_SDay Wh

Vielen Dank
Viele Grüße
Ruggy

RalfRog

Hi

Damit funktioniert es nicht?

ZitatdelEntries [<no>[:<nn>]]
Löscht alle oder die durch die Attribute device und/oder reading definierten Datenbankeinträge. Die Eingrenzung über Timestamps erfolgt folgendermaßen:

    "timestamp_begin" gesetzt -> gelöscht werden DB-Einträge ab diesem Zeitpunkt bis zum aktuellen Datum/Zeit
    "timestamp_end" gesetzt -> gelöscht werden DB-Einträge bis bis zu diesem Zeitpunkt
    beide Timestamps gesetzt -> gelöscht werden DB-Einträge zwischen diesen Zeitpunkten
    "timeOlderThan" gesetzt -> gelöscht werden DB-Einträge älter als aktuelle Zeit minus "timeOlderThan"
    "timeDiffToNow" gesetzt -> gelöscht werden DB-Einträge ab aktueller Zeit minus "timeDiffToNow" bis jetzt


Aus Sicherheitsgründen muss das Attribut allowDeletion gesetzt sein um die Löschfunktion freizuschalten.
Zeitgrenzen (Tage) können als Option angegeben werden. In diesem Fall werden eventuell gesetzte Zeitattribute übersteuert. Es werden Datensätze berücksichtigt die älter sind als <no> Tage und (optional) neuer sind als <nn> Tage.

Aus der Hilfe.

Gruß Ralf

FHEM auf Raspi 2B mit nanoCUL, HM-MOD-RPI-PCB und über LAN MAX!Cube mit a-culFW (Stack 868 + 433)
HM- Fensterkontakte, UP-Schalter, Bewegungsmelder und ein Rauchmelder

Ruggy

Habe z.b. das Readings statTotal_Energy_SDay als attributes gesetzt, den zeitraum und das device myShellyEM3

Dann set ... delEntries

zeigt dann bei eventCount eine bestimmte Anzahl an; also sollte was gemacht worden sein

Aber der hohe Wert bleibt trotzdem

rabehd

#3
1. Ein List von DBReb!
2. Log-Einträge ?
3. Countentries vor dem Löschen ?
4. Countentries nach dem Löschen ?


Auch funktionierende Lösungen kann man hinterfragen.

frober

#4
1. Vor einem delEntries sollte man mit fetchrows die Daten überprüfen. Und grundsätzlich zuvor ein Backup der Daten erstellen.

2. Sieht es für mich aus, als wenn du das Modul statistics verwendest. Also musst du auch in diesem Modul die Statistik zurücksetzen.

Nachtrag:
3. Mit einem userReading und der Funktion monotonic kannst dir ein weiteres Reading erstellen, das auf saldiert. D.h. auch wenn du den "Zähler" wechselst oder diesen nullst wird das Reading weiter hochgezählt, da nur positive Veränderungen des Quellreadings beachtet werden. Das neue Reading nimmst du dann für die Statistik.
Raspi 3b mit Raspbian Bullseye und relativ aktuellem Fhem,  FS20, LGW, PCA301, Zigbee, MQTT, MySensors mit RS485(CAN-Receiver) und RFM69, etc.,
einiges umgesetzt, vieles in Planung, smile

********************************************
...man wächst mit der Herausforderung...

Ruggy

Zu den Fragen von @rabehd:

1.
Internals:
   DATABASE   /opt/fhem/fhem.db
   DEF        DbLog
   FUUID      63925d9e-f33f-194f-6e93-605f9b0dbd6740a0
   FVERSION   93_DbRep.pm:v8.53.16-s29390/2024-12-01
   LASTCMD    delEntries
   MODEL      Client
   NAME       Rep.Energy
   NOTIFYDEV  global,Rep.Energy
   NR         706
   NTFY_ORDER 50-Rep.Energy
   ROLE       Client
   STATE      done
   TYPE       DbRep
   eventCount 51
   HELPER:
     DBLOGDEVICE DbLog
     IDRETRIES  2
     MINTS      2019-01-07 22:02:45
     PACKAGE    main
     VERSION    8.53.16
     CV:
       aggregation no
       aggsec     1
       destr      2025-01-28
       dsstr      2025-01-25
       epoch_seconds_end 1738072800
       mestr      01
       msstr      01
       testr      15:00:00
       tsstr      01:00:00
       wdadd     
       yestr      2025
       ysstr      2025
     DBREPCOL:
       COLSET     1
       DEVICE     64
       EVENT      512
       READING    64
       TYPE       64
       UNIT       32
       VALUE      128
   Helper:
     DBLOG:
       state:
         DbLog:
           TIME       1738067769.86961
           VALUE      done
   OLDREADINGS:
   READINGS:
     2025-01-28 13:36:09   myShellyEM3--statTotal_Energy_SDay--DELETED_ROWS_HISTORY 0
     2025-01-28 13:36:09   state           done
   helper:
     bm:
       DbRep_Attr:
         cnt        20
         dmx        -1000
         dtot       0
         dtotcnt    0
         mTS        28.01. 12:57:51
         max        0.0442678928375244
         tot        0.0651018619537354
         mAr:
           set
           Rep.Energy
           timestamp_begin
           2025-01-25 01:00:00
       DbRep_Get:
         cnt        48
         dmx        -1000
         dtot       0
         dtotcnt    0
         mTS        28.01. 12:51:13
         max        0.0042569637298584
         tot        0.0130481719970703
         mAr:
           HASH(0x5501798)
           Rep.Energy
           ?
       DbRep_Notify:
         cnt        76
         dmx        -1000
         dtot       0
         dtotcnt    0
         mTS        28.01. 13:17:21
         max        0.00277996063232422
         tot        0.0190839767456055
         mAr:
           HASH(0x5501798)
           HASH(0x5501798)
       DbRep_Set:
         cnt        204
         dmx        -1000
         dtot       0
         dtotcnt    0
         mTS        28.01. 12:59:59
         max        0.416428089141846
         tot        12.1402006149292
         mAr:
           HASH(0x5501798)
           Rep.Energy
           delEntries
Attributes:
   device     myShellyEM3
   reading    statTotal_Energy_SDay
   room       Testbereich
   timestamp_begin 2025-01-25 01:00:00
   timestamp_end 2025-01-28 15:00:00

2.Laut den Log Einträgen ist anscheinend einiges im Argen:

Es sind sehr viele Meldungen dieser Art im LogFile:

Use of uninitialized value $alias in lc at /usr/lib/arm-linux-gnueabihf/perl/5.32/Encode/Alias.pm line 38 during global destruction.
Use of uninitialized value $alias in lc at /usr/lib/arm-linux-gnueabihf/perl/5.32/Encode/Alias.pm line 38 during global destruction.
Use of uninitialized value $alias in lc at /usr/lib/arm-linux-gnueabihf/perl/5.32/Encode/Alias.pm line 38 during global destruction.
Use of uninitialized value $alias in lc at /usr/lib/arm-linux-gnueabihf/perl/5.32/Encode/Alias.pm line 38 during global destruction.
Use of uninitialized value $alias in lc at /usr/lib/arm-linux-gnueabihf/perl/5.32/Encode/Alias.pm line 38 during global destruction.
Use of uninitialized value $alias in lc at /usr/lib/arm-linux-gnueabihf/perl/5.32/Encode/Alias.pm line 38 during global destruction.
Use of uninitialized value $alias in lc at /usr/lib/arm-linux-gnueabihf/perl/5.32/Encode/Alias.pm line 38 during global destruction.
Use of uninitialized value $alias in lc at /usr/lib/arm-linux-gnueabihf/perl/5.32/Encode/Alias.pm line 38 during global destruction.
Use of uninitialized value $alias in lc at /usr/lib/arm-linux-gnueabihf/perl/5.32/Encode/Alias.pm line 38 during global destruction.

Dies sind die Meldungen im Zusammenhang mit DbRep und diesem Shelly (soweit ich sie gefunden habe und ich meine, dass sie damit zusammen hängen):

2025.01.28 13:17:21 3: DbRep Rep.Energy - Entries of /opt/fhem/fhem.db.history deleted: myShellyEM3--/--5646
2025.01.28 13:17:22 2: DbLog - Error table history - DBD::SQLite::st execute_array failed: executing 350 generated 13 errors [for Statement "INSERT INTO history (TIMESTAMP, DEVICE, TYPE, EVENT, READING, VALUE, UNIT) VALUES (?,?,?,?,?,?,?)"] at ./FHEM/93_DbLog.pm line 3219.


2025.01.28 13:26:58 3: DbRep Rep.Energy - Entries of /opt/fhem/fhem.db.history deleted: myShellyEM3--Purchased_Energy_T--0
2025.01.28 13:27:37 3: DbRep Rep.Energy - Entries of /opt/fhem/fhem.db.history deleted: myShellyEM3--statTotal_Energy_SDay--0
2025.01.28 13:27:43 3: CUL_HM set BAD_virt_Temperatur virtTemp 18.28
2025.01.28 13:28:28 3: DbRep Rep.Energy - Entries of /opt/fhem/fhem.db.history deleted: myShellyEM3--statTotal_Energy_SMonth--0
2025.01.28 13:29:01 3: DbRep Rep.Energy - Entries of /opt/fhem/fhem.db.history deleted: myShellyEM3--statTotal_Energy_SYear--0
2025.01.28 13:29:27 3: CUL_HM set KIND_virt_Temperatur virtTemp 19.71
2025.01.28 13:29:33 3: DbRep Rep.Energy - Entries of /opt/fhem/fhem.db.history deleted: myShellyEM3--statTotal_Energy_S--0
2025.01.28 13:30:00 3: DbRep Rep.Energy - Entries of /opt/fhem/fhem.db.history deleted: myShellyEM3--statStateDay--0
2025.01.28 13:30:33 3: DbRep Rep.Energy - Entries of /opt/fhem/fhem.db.history deleted: myShellyEM3--statStateMonth--0
2025.01.28 13:30:54 3: DbRep Rep.Energy - Entries of /opt/fhem/fhem.db.history deleted: myShellyEM3--statStateYear--0
2025.01.28 13:31:18 3: DbRep Rep.Energy - Entries of /opt/fhem/fhem.db.history deleted: myShellyEM3--statTotal_Energy_SLast--0
2025.01.28 13:31:27 3: CUL_HM set BAD_virt_Temperatur virtTemp 18.28
2025.01.28 13:32:08 3: DbRep Rep.Energy - Entries of /opt/fhem/fhem.db.history deleted: myShellyEM3--Purchased_Energy_T--0
2025.01.28 13:32:27 3: CUL_HM set KIND_virt_Temperatur virtTemp 19.71
2025.01.28 13:32:41 3: DbRep Rep.Energy - Entries of /opt/fhem/fhem.db.history deleted: myShellyEM3--Returned_Energy_T--0
2025.01.28 13:33:15 3: DbRep Rep.Energy - Entries of /opt/fhem/fhem.db.history deleted: myShellyEM3--Total_Energy_T--0
2025.01.28 13:34:28 3: CUL_HM set BAD_virt_Temperatur virtTemp 18.28
2025.01.28 13:35:17 3: DbRep Rep.Energy - WARNING - running process 12357 will be killed now to start a new operation
2025.01.28 13:35:17 1: DbRep Rep.Energy -> BlockingCall DbRep_del pid:12357 Timeout: process terminated
2025.01.28 13:35:17 2: DbRep Rep.Energy - Database command aborted: "Timeout: process terminated"
2025.01.28 13:35:28 3: CUL_HM set KIND_virt_Temperatur virtTemp 19.71
2025.01.28 13:36:09 3: DbRep Rep.Energy - WARNING - running process 12843 will be killed now to start a new operation
2025.01.28 13:36:09 1: DbRep Rep.Energy -> BlockingCall DbRep_del pid:12843 Timeout: process terminated
2025.01.28 13:36:09 2: DbRep Rep.Energy - Database command aborted: "Timeout: process terminated"
2025.01.28 13:36:09 2: DbLog - Error table history - DBD::SQLite::st execute_array failed: executing 20 generated 1 errors [for Statement "INSERT INTO history (TIMESTAMP, DEVICE, TYPE, EVENT, READING, VALUE, UNIT) VALUES (?,?,?,?,?,?,?)"] at ./FHEM/93_DbLog.pm line 3219.

2025.01.28 13:36:09 3: DbRep Rep.Energy - Entries of /opt/fhem/fhem.db.history deleted: myShellyEM3--statTotal_Energy_SDay--0

zu Frage 3 u. 4:
Wo kann ich etwas im Zusammenhang mit den Countentries finden? Diesen Eintrag habe ich nicht beachtet.

Ruggy

Zu den Fragen von @frober :

1.
fetchrows habe ich leider nicht gemacht.
Backup vom "gesamten" FHEM habe ich vorgestern gemacht.
Extra Backup von fhem.db leider nicht. Hätte ich dies auch über DbRep machen sollen?

2.
Ja, statistics  nutze ich.
Bedeutet dies, dass ich in der "Rep.Energy" als device myStatDevice auswähle dann die Einträge lösche?
Die selben readings wie im 3EM wie z.B. "statTotal_Energy_SDayLast"?

hier das List vom myShelly3EM:

Internals:
   DEF        192.168.33.43
   FUUID      67804a67-f33f-6784-7d9c-01f3b18bad73bd2c
   INTERVAL   30
   NAME       myShellyEM3
   NR         1338
   NTFY_ORDER 50-myShellyEM3
   SHELLYID   shellypro3em-a0dd6ca1a068
   STATE      heute bisher: 2069.65 Wh
   TYPE       Shelly
   eventCount 3849
   units      0
   Helper:
     DBLOG:
       Active_Power_A:
         DbLog:
           TIME       1738140850.36721
           VALUE      27.0
       Active_Power_B:
         DbLog:
           TIME       1738140850.36721
           VALUE      114.2
       Active_Power_C:
         DbLog:
           TIME       1738140850.36721
           VALUE      34.8
       statTotal_Energy_SDayLast:
         DbLog:
           TIME       1738105195.03375
           VALUE      -69626.94
       statTotal_Energy_SHourLast:
         DbLog:
           TIME       1738137595.03386
           VALUE      277.51
       state:
         DbLog:
           TIME       1738064179.0774
           VALUE      OK
   OLDREADINGS:
   READINGS:
     2025-01-29 09:54:10   Active_Power_A   27.0
     2025-01-29 09:54:10   Active_Power_B  114.2
     2025-01-29 09:54:10   Active_Power_C   34.8
     2025-01-29 09:54:10   Active_Power_S  175.9
     2025-01-29 09:54:00   Active_Power_calculated 176.5 ( 10583 Ws =  2.94 Wh in 59 s )
     2025-01-29 09:54:01   Active_Power_integrated 183.3  (2 values)
     2025-01-28 12:37:01   Active_Power_integratedNeg  0.0  (0 Ws =  0.00 Wh)
     2025-01-29 09:54:01   Active_Power_integratedPos 183.3  (11001 Ws =  3.06 Wh)
     2025-01-29 09:54:10   Apparent_Power_A 46.5
     2025-01-29 09:54:10   Apparent_Power_B 141.6
     2025-01-29 09:54:10   Apparent_Power_C 61.1
     2025-01-29 09:54:10   Apparent_Power_S 249.2
     2025-01-29 09:54:10   Current_A       0.203
     2025-01-29 09:54:10   Current_B       0.626
     2025-01-29 09:54:10   Current_C       0.268
     2025-01-29 09:54:10   Current_S       1.098
     2025-01-29 09:04:54   Frequency_A     50
     2025-01-29 09:04:54   Frequency_B     50
     2025-01-29 09:04:54   Frequency_C     50
     2025-01-29 09:54:10   PowerReactive_A 37.9
     2025-01-29 09:54:10   PowerReactive_B 83.7
     2025-01-29 09:54:10   PowerReactive_C 50.2
     2025-01-29 09:54:10   PowerReactive_S 171.8
     2025-01-29 09:54:10   Power_Factor_A  0.56 (inductive)
     2025-01-29 09:54:10   Power_Factor_B  0.82 (inductive)
     2025-01-29 09:53:40   Power_Factor_C  0.57 (inductive)
     2025-01-29 09:54:00   Purchased_Energy_A 1403.68
     2025-01-29 09:54:00   Purchased_Energy_B 1029.66
     2025-01-29 09:54:00   Purchased_Energy_C 3310.57
     2025-01-29 09:54:00   Purchased_Energy_S 5743.91
     2025-01-29 09:54:01   Purchased_Energy_T 1939277633.22917
     2025-01-28 12:37:00   Returned_Energy_A 0
     2025-01-28 12:37:00   Returned_Energy_B 0
     2025-01-28 12:37:00   Returned_Energy_C 0
     2025-01-28 12:37:00   Returned_Energy_S 0
     2025-01-28 12:37:01   Returned_Energy_T 2060000
     2025-01-29 09:54:00   Total_Energy_S  5743.91
     2025-01-29 09:54:01   Total_Energy_T  1937217633.22917
     2025-01-29 09:54:10   Voltage_A       228.5
     2025-01-29 09:54:10   Voltage_B       225.8
     2025-01-29 09:54:10   Voltage_C       227.4
     2025-01-28 12:36:41   ap              enabled open
     2025-01-09 23:15:06   ap_clients      disabled
     2025-01-28 12:36:41   ap_name         ShellyPro3EM-A0DD6CA1A068
     2025-01-09 23:15:06   ble             enabled
     2025-01-09 23:15:06   ble_obs         disabled
     2025-01-09 23:15:06   ble_rpc         enabled
     2025-01-09 23:15:06   cloud           disabled
     2025-01-09 23:15:05   error_EM        ok
     2025-01-09 23:15:06   firmware_ID     20241011-114455/1.4.4-g6d2a586
     2025-01-09 23:15:06   firmware_current v1.4.4
     2025-01-28 12:36:41   firmware_updIcon OK
     2025-01-28 12:36:41   firmware_updText -/-
     2025-01-29 09:53:31   inttemp         46.3
     2025-01-09 23:15:04   mac             FC:E8:C0:D9:60:F4
     2025-01-09 23:15:04   model_ID        SPEM-003CEBEU
     2025-01-09 23:15:04   model_family    Pro/Gen2
     2025-01-09 23:15:04   model_function  energy meter
     2025-01-09 23:15:04   model_name      Shelly Pro 3EM
     2025-01-28 12:36:41   network         <html>connected to <a href="http://192.168.33.43">192.168.33.43</a> (Wifi)</html>
     2025-01-28 12:36:41   network_connection online (Wifi)
     2025-01-26 22:59:17   network_disconnects 2
     2025-01-09 23:15:05   network_ip-address_LAN -
     2025-01-09 23:15:05   network_ip-address_Wifi 192.168.33.43
     2025-01-29 09:54:01   network_rssi    -63
     2025-01-09 23:15:05   network_ssid    DAHOAM
     2025-01-09 23:15:06   network_wifi_roaming -80
     2025-01-09 23:27:23   statStateDay    OK: 00:12:04 OK_Count: 1 initialized: 00:00:15 initialized_Count: 1 (since: 2025-01-09_23:15:04)
     2025-01-09 23:27:23   statStateMonth  OK: 00:12:04 OK_Count: 1 initialized: 00:00:15 initialized_Count: 1 (since: 2025-01-09_23:15:04)
     2025-01-09 23:27:23   statStateYear   OK: 00:12:04 OK_Count: 1 initialized: 00:00:15 initialized_Count: 1 (since: 2025-01-09_23:15:04)
     2025-01-29 09:54:10   statTotal_Energy_S Hour: 222.17 Day: 2069.65 Month: 3717.17 Year: 3717.17 (since: 2025-01-10 )
     2025-01-29 09:54:10   statTotal_Energy_SDay 2069.65
     2025-01-28 23:59:55   statTotal_Energy_SDayLast -69626.94
     2025-01-29 09:54:10   statTotal_Energy_SHour 222.17
     2025-01-29 08:59:55   statTotal_Energy_SHourLast 277.51
     2025-01-29 08:59:55   statTotal_Energy_SLast Hour: 277.51 Day: -69626.94 Month: - Year: -
     2025-01-29 09:54:10   statTotal_Energy_SMonth 3717.17
     2025-01-29 09:54:10   statTotal_Energy_SYear 3717.17
     2025-01-28 12:36:19   state           OK
     2025-01-29 09:54:01   uptime          76628
     2025-01-09 23:15:07   webhook_cnt     0 / 0 / 0
     2025-01-09 23:15:05   webhook_ver     0
   helper:
     Energymeter_P 1939277633.22917
     Energymeter_R 2060000
     Sets       config:ap_disable,ap_enable interval password reboot:noArg update:noArg name reset:noArg clear:disconnects,error,energy,responsetimes actions
     StatusCall 0
     Total_Energy_S 5743.91
     _98_statistics myStatDevice
     a_Active_Power 27
     b_Active_Power 114.2
     c_Active_Power 34.8
     power      176
     powerCnt   1
     powerNeg   0
     powerPos   176
     range_extender disabled
     settings_time 1738140751.6607
     timer      0
     timestamp_last 1738140841.09075
     bm:
       Shelly_Attr:
         cnt        2
         dmx        -1000
         dtot       0
         dtotcnt    0
         mTS        26.01. 22:58:44
         max        0.0582830905914307
         tot        0.0599250793457031
         mAr:
           set
           myShellyEM3
           interval
           0
       Shelly_Get:
         cnt        23
         dmx        -1000
         dtot       0
         dtotcnt    0
         mTS        26.01. 22:58:12
         max        0.00024104118347168
         tot        0.00336337089538574
         mAr:
           HASH(0x5effb90)
           myShellyEM3
           ?
       Shelly_Notify:
         cnt        303449
         dmx        -1000
         dtot       0
         dtotcnt    0
         mTS        27.01. 20:58:07
         max        0.0102589130401611
         tot        9.53187274932861
         mAr:
           HASH(0x5effb90)
           HASH(0x3aaad88)
       Shelly_Set:
         cnt        531
         dmx        -1000
         dtot       0
         dtotcnt    0
         mTS        28.01. 12:56:43
         max        0.101763963699341
         tot        11.1717312335968
         mAr:
           HASH(0x5effb90)
           myShellyEM3
           ?
Attributes:
   devStateStyle style="color:green;;"
   event-on-change-reading stat.*,Active_Power_.*,energy.*
   icon       measure_power
   interval   30
   model      shellypro3em
   room       Stromverbrauch
   stateFormat heute bisher: statTotal_Energy_SDay Wh

zu 3.
bzgl. monotonic und userreading muss ich mir erst genauer ansehen. Habe ich noch nicht gemacht und nicht verstanden.
Nehme ich dann z.B. die bisherigen readings beim myStatDevice heraus und nehmen dann nur das neue userreading?

Hier ein List vom myStatDevice:

Internals:
   DEF        myShellyEM3|Shelly_Steckdose_Keller_1
   DEV_REGEXP myShellyEM3|Shelly_Steckdose_Keller_1
   FUUID      62fb643b-f33f-194f-2bd3-3447dfa3379f9ed5
   NAME       myStatDevice
   NOTIFYDEV  global,myShellyEM3|Shelly_Steckdose_Keller_1
   NR         580
   NTFY_ORDER 10-myStatDevice
   PREFIX     stat
   STATE      Updated stats for: myShellyEM3
   TYPE       statistics
   eventCount 3960
   Helper:
     DBLOG:
       state:
         DbLog:
           TIME       1738141092.43728
           VALUE      Updated stats for: myShellyEM3
   READINGS:
     2025-01-26 22:22:14   monitoredDevicesShelly Shelly_Steckdose_Keller_1,myShellyEM3
     2025-01-29 08:59:55   nextPeriodChangeCalc 2025-01-29 09:59:55
     2025-01-29 09:58:12   state           Updated stats for: myShellyEM3
   fhem:
     modulVersion $Date: 2024-05-18 09:37:34 +0200 (Sat, 18 May 2024) $
     nextPeriodChangeTime 1738141195
   helper:
     bm:
       statistics_Notify:
         cnt        3885
         dmx        -1000
         dtot       0
         dtotcnt    0
         mTS        29.01. 09:52:01
         max        0.106868982315063
         tot        73.2740526199341
         mAr:
           HASH(0x5079e90)
           HASH(0x5effb90)
       statistics_Set:
         cnt        102
         dmx        -1000
         dtot       0
         dtotcnt    0
         mTS        28.01. 13:38:01
         max        0.00169014930725098
         tot        0.0969147682189941
         mAr:
           HASH(0x5079e90)
           myStatDevice
           ?
Attributes:
   deltaReadings Gesamtverbrauch_kWh,Total_Energy_S,statEnergyMonthLast,statTotal_Energy_SMonthLast
   room       Stromverbrauch
   singularReadings myShellyEM3:Total_Energy_S:Delta:(Hour|Day|Month|Year)|Shelly_Steckdose_Keller_1:Gesamtverbrauch_kWh:Delta:(Hour|Day|Month|Year)



Adimarantis

Zum Thema statistics device:
Das Modul arbeitet mit versteckten Readings. Wenn du ein "list -r" von deinem Statistics device machst, findest du wahrscheinlich haufenweise "."-Readings in denen sich Statistics alte Werte merkt.
Wenn natürlich z.B. ein Zähler wieder bei 0 anfängt, führen höhere historische Werte beim Delta zu negativen Einträgen.
Du könntest entweder die "." Readings einfach löschen oder "setStatistics" (nur für Delta) verwenden um plausible Startwerte zu setzen.
Raspberry 4 + HM-MOD-RPI-PCB (pivCCU)/RfxTrx433XL/Zigbee
Module: 50_Signalbot, 48_HomeConnect, 52_I2C_ADS1x1x , 58_RPI_1Wire, (50_SPI_MAX31865)

RalfRog

Hallo
Noch eine Ergänzung, da ich mir (bisherige Fragen) nicht ganz sicher bin ob du eventuell Sachen vermixt.

Das Löschen von Einträgen im Log (in der Datenbank) ändert ja nichts an den Readings der Devices. Du entfernst lediglich Einträge im Log die du nicht mehr (für spätere Auswertungen) brauchst.
D.h. unpassende Reading musst du in/an den Devices "gerade ziehen" - wenn diese unpassenden Readings geloggt wurden (siehe Satz davor) kannst du sie im Log löschen.

Kein Backup der Datenbank ist bei (fehlerhaften) Löschaktionen fatal.
Ja Backups kann man mit DBRep machen (dumpMySQL, exportToFile).
Ich nutze am PC noch HeidiSQL um in die Datenbank zu schauen. Damit könnte man sich für solche Aktionen auch Sicherungen erzeugen.

Wenn du dein "Rep.Energy" aus #5 nur in dieser Form genutzt hast ist vermutlich nix passiert (deine Logauszüge hab ich allerdings nicht auf dem Schirm).
Bei einem zweiten Aufruf kommt es natürlich zu dem Ergebnis:
ZitatREADINGS: 2025-01-28 13:36:09  myShellyEM3--statTotal_Energy_SDay--DELETED_ROWS_HISTORY 0
0 Elemente gelöscht, da sie ja schon gelöscht wurden.


Gruß Ralf
FHEM auf Raspi 2B mit nanoCUL, HM-MOD-RPI-PCB und über LAN MAX!Cube mit a-culFW (Stack 868 + 433)
HM- Fensterkontakte, UP-Schalter, Bewegungsmelder und ein Rauchmelder

frober

#9
Zu 1.
fetchrows zeigt dir eine Vorschau anhand deiner Filterkriterien, das ist eine Kontrolle, um auch das Richtige zu löschen, bzw. richtig zu filtern.


Zu 2.
set <Statistikdevice> resetStatistics [all|Device]Siehe Modulhilfe oder Comref

Zu 3.
Ja, es werden neue Statistkreadings erstellt, da sich der Bezug ändert ( neues Reading).
Raspi 3b mit Raspbian Bullseye und relativ aktuellem Fhem,  FS20, LGW, PCA301, Zigbee, MQTT, MySensors mit RS485(CAN-Receiver) und RFM69, etc.,
einiges umgesetzt, vieles in Planung, smile

********************************************
...man wächst mit der Herausforderung...

rabehd

#10
Bei welchem Thema sind wir hier eigentlich? Oder anderes, welche Problem soll denn gelöst werden?
"Unschöne" Werte aus der DBLog löschen oder reden wir über das Statistic-device?

Zitat von: Ruggy am 29 Januar 2025, 09:48:452.Laut den Log Einträgen ist anscheinend einiges im Argen:

Es sind sehr viele Meldungen dieser Art im LogFile:
Ist für mich nicht einiges, nur wiederholend. Scheinbar auch nicht etwas in Bezug zur DBLog.
Bring Deine Installation in Ordnung, dann kannst Du Dich um die unschönen Werte kümmern.

Zitat von: Ruggy am 29 Januar 2025, 09:48:45zu Frage 3 u. 4:
Wo kann ich etwas im Zusammenhang mit den Countentries finden? Diesen Eintrag habe ich nicht beachtet.
Die Commandref zu DBLog schon mal gelesen?
Sind die Daten überhaupt noch in der Datenbank? Wenn Du nicht mal in der DB zählen kannst, dann mache ich mir Sorgen.
 
Auch funktionierende Lösungen kann man hinterfragen.

rabehd

Hast Du Dir mal Gedanken gemacht, was das in Deinem ersten Beitrag bedeuten soll?
Save config ?
Tablet-UI
ui
AMAD
Abstellkammer
Alarm
Anwesenheit
Außen
Bad
CUL_FHTTK
CUL_HM
CUL_HOERMANN
CUL_IR
CUL_TX
CUL_WS
Dachboden
Auch funktionierende Lösungen kann man hinterfragen.