Autor Thema: MQTT2: Doppelpunkte in Topics  (Gelesen 364 mal)

Offline dev0

  • Developer
  • Hero Member
  • ****
  • Beiträge: 3528
    • _.:|:._
MQTT2: Doppelpunkte in Topics
« am: 28 Januar 2019, 08:42:58 »
Topics, die einen Doppelpunkt enthalten scheinen nicht korrekt geparst zu werden. In den MQTT 3.1.1 / 5.0 Specs habe ich nichts gefunden, dass gegen die Verwendung von Doppelpunkten in Topics spricht. Die Doppelpunkte verwende ich im Zusammenhang mit MAC/IPv6 Adressen.
Auch ein Anpassen des readingList Attributs (ich hoffe korrekt gesetzt) hat nicht zum gewünschten Ergebnis geführt.

root@fhem-dev:/$ mosquitto_pub -h 127.0.0.1  -i id1 -t /11:22:33:44:55:66/test1/test2 -m xxx

2019.01.28 08:08:18.536 4: Connection accepted from MQTT2_127.0.0.1_58201
2019.01.28 08:08:18.538 5: CONNECT: (0)(6)MQIsdp(3)(2)(0)<(0)(3)id1
2019.01.28 08:08:18.538 4: MQTT2_127.0.0.1_58201 id1 CONNECT V:3 keepAlive:60
2019.01.28 08:08:18.539 5: PUBLISH: (0)(30)/11:22:33:44:55:66/test1/test2xxx
2019.01.28 08:08:18.539 4: MQTT2_127.0.0.1_58201 id1 PUBLISH /11:22:33:44:55:66/test1/test2:xxx
2019.01.28 08:08:18.539 5: MQTT2: dispatch autocreate:id1:/11:22:33:44:55:66/test1/test2:xxx
2019.01.28 08:08:18.572 4: MQTT2_DEVICE_Parse: MQTT2_id1 /11 => 11
2019.01.28 08:08:18.578 5: DISCONNECT:
2019.01.28 08:08:18.578 4: MQTT2_127.0.0.1_58201 id1 DISCONNECT

list MQTT2_id1
Internals:
   CID        id1
   DEF        id1
   DEVICETOPIC MQTT2_id1
   FUUID      5c4ea1ec-f33f-bbfe-2969-d1b9a12ea4a317b4
   IODev      MQTT2
   NAME       MQTT2_id1
   NR         100
   STATE      ???
   TYPE       MQTT2_DEVICE
   .attraggr:
   .attrminint:
   OLDREADINGS:
   READINGS:
     2019-01-28 08:08:18   11              22:33:44:55:66/test1/test2:xxx
Attributes:
   IODev      MQTT2
   readingList id1:/11:.* 11
   room       MQTT2_DEVICE
   verbose    5



fhem#> attr MQTT2_id1 id1:/11:22:33:44:55:66/test1/test2:.* gtag_test2
root@fhem-dev:/$ mosquitto_pub -h 127.0.0.1  -i id1 -t /11:22:33:44:55:66/test1/test2 -m xxx

2019.01.28 08:11:54.488 4: Connection accepted from MQTT2_127.0.0.1_58302
2019.01.28 08:11:54.490 5: CONNECT: (0)(6)MQIsdp(3)(2)(0)<(0)(3)id1
2019.01.28 08:11:54.491 4: MQTT2_127.0.0.1_58302 id1 CONNECT V:3 keepAlive:60
2019.01.28 08:11:54.491 5: PUBLISH: (0)(30)/11:22:33:44:55:66/test1/test2xxx
2019.01.28 08:11:54.492 4: MQTT2_127.0.0.1_58302 id1 PUBLISH /11:22:33:44:55:66/test1/test2:xxx
2019.01.28 08:11:54.492 5: MQTT2: dispatch autocreate:id1:/11:22:33:44:55:66/test1/test2:xxx
2019.01.28 08:11:54.492 4: MQTT2_DEVICE_Parse: MQTT2_id1 /11 => gtag_test2
2019.01.28 08:11:54.528 5: DISCONNECT:
2019.01.28 08:11:54.528 4: MQTT2_127.0.0.1_58302 id1 DISCONNECT

fhem#> list MQTT2_id1
Internals:
   CID        id1
   DEF        id1
   DEVICETOPIC MQTT2_id1
   FUUID      5c4ea1ec-f33f-bbfe-2969-d1b9a12ea4a317b4
   IODev      MQTT2
   LASTInputDev MQTT2
   MQTT2_MSGCNT 1
   MQTT2_TIME 2019-01-28 08:11:54
   MSGCNT     1
   NAME       MQTT2_id1
   NR         100
   STATE      ???
   TYPE       MQTT2_DEVICE
   .attraggr:
   .attrminint:
   OLDREADINGS:
   READINGS:
     2019-01-28 08:11:54   gtag_test2      22:33:44:55:66/test1/test2:xxx
Attributes:
   IODev      MQTT2
   readingList id1:/11:22:33:44:55:66/test1/test2:.* gtag_test2
   room       MQTT2_DEVICE
   verbose    5


Edit: Nur so ein Gedanke und ohne in den Quellcode geschaut zu haben, vermute ich die Ursache im Separator in Dispatch/Parse. Vielleicht wäre der null character (Unicode U+0000) ein passender Separator, da MQTT Topics/Filter dieses Zeichen nicht verwenden dürfen...
« Letzte Änderung: 28 Januar 2019, 09:59:06 von dev0 »

Offline rudolfkoenig

  • Administrator
  • Hero Member
  • *****
  • Beiträge: 19984
Antw:MQTT2: Doppelpunkte in Topics
« Antwort #1 am: 28 Januar 2019, 11:28:13 »
Zitat
Vielleicht wäre der null character (Unicode U+0000) ein passender Separator

Das war auch mein erster Gedanke, allerdings muesste das koordiniert mit dem MQTT_GENERIC_BIRDGE Maintainer passieren, da dieses Modul auch betroffen ist.
Solange habe ich Doppelpunkte in topics nach Unterstrich gewandelt (MQTT2_CLIENT und MQTT2_SERVER).
Das ist zwar nicht ideal, hat aber meiner Ansicht nach ausser eine leichte Verwirrung beim Benutzer keine Nebeneffekte.

Offline dev0

  • Developer
  • Hero Member
  • ****
  • Beiträge: 3528
    • _.:|:._
Antw:MQTT2: Doppelpunkte in Topics
« Antwort #2 am: 28 Januar 2019, 11:54:13 »
@rudi: danke für den pragmatischen Fix.
@hexenmeister: Magst Du Dich ggf. mit rudi koordinieren, um das umzustellen, wenn es mehr oder weniger problemlos möglich ist, bevor viele Anwender die _ Schreibweise verwenden? Du hattest diese Thematik in den MQQT(ohne 2) Modulen doch auch schon mal gefixed.

Vielleicht wäre diese Lösung dann auch eine Empfehlung für weitere 2-stufige Modulentwickler?

Offline hexenmeister

  • Developer
  • Hero Member
  • ****
  • Beiträge: 4454
    • tech_LogBuch
Antw:MQTT2: Doppelpunkte in Topics
« Antwort #3 am: 28 Januar 2019, 23:12:30 »
MQTT_GENERIC_BRIDGE hat Problem mit den Doppelpunkten weder beim Senden noch beim Empfang in Verbindung mit dem 'alten' MQTT-IO.
Wenn ich mich recht erinnere, verwende ich eigene (etwas veränderte) parse-Methode fürs Zerlegen von Parametern. Könnte der Grund sein. Weiß jetzt nicht mehr aus dem Kopf.

Klar arbeite ich an einer gemeinsamen Lösung gerne mit. Ich habe allerdings bis jetzt nicht verstsanden, wie diese aussehen wird. Wie kann man denn bequem die Null-Zeichen in die Attributen (Steuerungsparameter) eingeben? Oder habe ich ganz falsch verstanden?


Oder geht es lediglich um die Interne DatenÜbergabe?
« Letzte Änderung: 28 Januar 2019, 23:19:18 von hexenmeister »
In Verwendung: HM, EnOcean, 1wire, Firmata, MySensors, ESPEasy, MQTT*, NodeRED, Alexa, Telegram,..
Maintainer: MQTT_GENERIC_BRIDGE, SYSMON, SMARTMON, systemd_watchdog, MQTT, MQTT_DEVICE, MQTT_BRIDGE
Contrib: dev_proxy
Kaffeekasse: https://www.paypal.me/s6z

Offline hexenmeister

  • Developer
  • Hero Member
  • ****
  • Beiträge: 4454
    • tech_LogBuch
Antw:MQTT2: Doppelpunkte in Topics
« Antwort #4 am: 28 Januar 2019, 23:39:24 »
Herrje, ich brauche wohl dringend Schlaf  :o
Vergisst alles, was ich geschrieben habe. Ja klar weiß ich, worum es geht und warum die alten Module nicht betroffen sind (dort ist die Übergabe ganz anders realisiert).
Null Zeichen ist wohl die beste Lösung, zu wann soll geändert werden?
In Verwendung: HM, EnOcean, 1wire, Firmata, MySensors, ESPEasy, MQTT*, NodeRED, Alexa, Telegram,..
Maintainer: MQTT_GENERIC_BRIDGE, SYSMON, SMARTMON, systemd_watchdog, MQTT, MQTT_DEVICE, MQTT_BRIDGE
Contrib: dev_proxy
Kaffeekasse: https://www.paypal.me/s6z

Offline dev0

  • Developer
  • Hero Member
  • ****
  • Beiträge: 3528
    • _.:|:._
Antw:MQTT2: Doppelpunkte in Topics
« Antwort #5 am: 30 Januar 2019, 09:18:45 »
Zitat
Null Zeichen ist wohl die beste Lösung, zu wann soll geändert werden?
Vielen Dank, dass Du auch bereit bist Dein Modul anzupassen. Mit dem Unterstrich könnte man bestemmt auch leben, mit Null ist es aber sauberer und verwirrt womöglich weniger.
Meine zwischenzeitlichen Bedenken, dass es mit Null vielleicht Probleme beim Splitten gibt, haben sich zum Glück nicht bestätigt: "\0" funktioniert ;)

Offline rudolfkoenig

  • Administrator
  • Hero Member
  • *****
  • Beiträge: 19984
Antw:MQTT2: Doppelpunkte in Topics
« Antwort #6 am: 30 Januar 2019, 20:57:42 »
Zitat
Null Zeichen ist wohl die beste Lösung, zu wann soll geändert werden?
Bin flexibel, sag bitte Bescheid.

Offline hexenmeister

  • Developer
  • Hero Member
  • ****
  • Beiträge: 4454
    • tech_LogBuch
Antw:MQTT2: Doppelpunkte in Topics
« Antwort #7 am: 30 Januar 2019, 22:00:00 »
Naja, ist ja nur das Ersetzen von
my ($cid, $topic, $value) = split(":", $msg, 3);
durch
my ($cid, $topic, $value) = split("\0", $msg, 3);
Von mit aus können wir sofort einchecken.
In Verwendung: HM, EnOcean, 1wire, Firmata, MySensors, ESPEasy, MQTT*, NodeRED, Alexa, Telegram,..
Maintainer: MQTT_GENERIC_BRIDGE, SYSMON, SMARTMON, systemd_watchdog, MQTT, MQTT_DEVICE, MQTT_BRIDGE
Contrib: dev_proxy
Kaffeekasse: https://www.paypal.me/s6z

Offline rudolfkoenig

  • Administrator
  • Hero Member
  • *****
  • Beiträge: 19984
Antw:MQTT2: Doppelpunkte in Topics
« Antwort #8 am: 30 Januar 2019, 22:39:24 »
Habe den Trenner vom : auf \0 umgestellt, und kurz getestet.

Offline hexenmeister

  • Developer
  • Hero Member
  • ****
  • Beiträge: 4454
    • tech_LogBuch
Antw:MQTT2: Doppelpunkte in Topics
« Antwort #9 am: 30 Januar 2019, 23:09:00 »
Habe jetzt auch umgestellt, kurz getestet und eingecheckt :)
In Verwendung: HM, EnOcean, 1wire, Firmata, MySensors, ESPEasy, MQTT*, NodeRED, Alexa, Telegram,..
Maintainer: MQTT_GENERIC_BRIDGE, SYSMON, SMARTMON, systemd_watchdog, MQTT, MQTT_DEVICE, MQTT_BRIDGE
Contrib: dev_proxy
Kaffeekasse: https://www.paypal.me/s6z

Offline dev0

  • Developer
  • Hero Member
  • ****
  • Beiträge: 3528
    • _.:|:._
Antw:MQTT2: Doppelpunkte in Topics
« Antwort #10 am: 02 Februar 2019, 08:33:06 »
Ich danke Euch beiden!

Jetzt müßte in 00_MQTT2_SERVER nur noch das Ersetzen von Doppelpunkten (Zeile 417) wieder entfernt werden ;)
Danach funktioniert es bei mir wie erwartet.

Offline rudolfkoenig

  • Administrator
  • Hero Member
  • *****
  • Beiträge: 19984
Antw:MQTT2: Doppelpunkte in Topics
« Antwort #11 am: 02 Februar 2019, 12:30:21 »
Zitat
Jetzt müßte in 00_MQTT2_SERVER nur noch das Ersetzen von Doppelpunkten (Zeile 417) wieder entfernt werden.
Im Reading darf : nicht auftauchen, d.h. man verlagert das Problem nach hinten.Ich koennte Doppelpunkt im 10_MQTT2_DEVICE.pm abfangen, aber bei rawEvents muesste der Empfaenger das pruefen.
Auch in MQTT2_DEVICE ist die Frage, ob die generierten Events : enthalten sollen, und damit nicht gleich den Readings sind.=> Ich bin gegen die Aenderung.

Offline dev0

  • Developer
  • Hero Member
  • ****
  • Beiträge: 3528
    • _.:|:._
Antw:MQTT2: Doppelpunkte in Topics
« Antwort #12 am: 03 Februar 2019, 12:59:23 »
OK, dann hatte ich das "solange" in:
Zitat
Solange habe ich Doppelpunkte in topics nach Unterstrich gewandelt
falsch interpretiert. Dann hätte man sich die Umstellung auf NULL beim Splitten allerdings auch sparen können, wenn ich micht nicht irre.

Wenn keine Zeichen in Topics verwendet werden dürfen, die den FHEM Readingsnamen Konventionen widersprechen, dann sollte man allerdings nicht nur : ersetzen. Auswirkungen in Events mit Doppelpunkten hatte ich bislang allerdings nicht bedacht (rawEvents).
Von mir aus kann es aber gerne so beliben wie es ist, ich weiß mir jetzt zu helfen.

 

decade-submarginal