Datensätze die mehr als 12 Monate nicht mehr aktualisiert wurden aus Datenbank löschen

Das Langzeitarchiv für HomeMatic

Moderator: Co-Administratoren

Antworten
JoMass
Beiträge: 316
Registriert: 26.11.2016, 12:52
Hat sich bedankt: 6 Mal
Danksagung erhalten: 11 Mal

Datensätze die mehr als 12 Monate nicht mehr aktualisiert wurden aus Datenbank löschen

Beitrag von JoMass » 21.01.2022, 19:34

Hallo Mathias,

Meine Datenbank bläht sich innerhalb weniger Wochen von ca. 400MB auf 3GB auf. Hab erst vor kurzem über Backup und Restore eine kompakte Datenbank generiert. Leider reproduzierbar. Auch -recalc und -compact fürhen zu einem vergleichbaren Ergebnis. Dabei stört mich nicht die Größe sondern die Zeit welche die Graphiken zur Darstellung am Screen benötigen. Die wird proportional länger und beträgt schon wieder >25 sec für die 24h Darstellung der Daten von 10 Temperatursensoren.

Über Die letzten Jahre gab es halt etliche Veränderungen/Tausch von Geräten die sicherlich als Ballast in der Datenbank noch enthalten sind aber nicht mehr benötigt werden.

Nun wollte ich mit Export und Import die Datenbank auf die letzten 24Monate beschränken. Leider funktioniert für mich dieser Weg nicht weil beim Import alle ID's der Datensätze neu vergeben werden. Es funktionieren damit leider keine Diagramme in Fernbedienungen, Homeassistant und Browser Bookmarks mehr.

Super wäre da ein Script mit dem ich alle Datensätze die länger als z.B. 12 Monate nicht mehr aktualisiert wurden aus der Datenbank entfernen könnte.

oder falls die Import/Export Funktion bleibt wie sie ist, als alternative eine Funktion welche die Daten in Datensätzen die älter als 24 Monate sind einfach löscht.

Ist jetzt nichts Dringliches aber vielleicht könntest Du diesen Wunsch mal bedenken und ggf. in die Roadmap mit aufnehmen. Danke
JoMass
~200 Geräte; ~70 Programme FW: 3.75.6.20240316 – Odroid N2+ 4GB 64GB-SSD , Homeassistant (latest), - HISTORIAN V3.6.0 auf QNAP; Mediola AIO Creator NEO - Node-RED (Current version: 17.0.10 (3.1.7))

Mathias
Beiträge: 1781
Registriert: 03.11.2010, 10:25
System: CCU
Wohnort: Aachen
Hat sich bedankt: 58 Mal
Danksagung erhalten: 258 Mal
Kontaktdaten:

Re: Datensätze die mehr als 12 Monate nicht mehr aktualisiert wurden aus Datenbank löschen

Beitrag von Mathias » 22.01.2022, 10:25

Das kann mit einem Skript (s.a. Skriptumgebung) bewerkstelligt werden. Ich habe mal kurz eins für diesen Zweck erstellt. Du findest es im Wiki unter Skripte.

Je nach Größe der Datenbank, dauert das Löschen natürlich etwas.

Gruß
Mathias

MichaelN
Beiträge: 9649
Registriert: 27.04.2020, 10:34
System: CCU
Hat sich bedankt: 697 Mal
Danksagung erhalten: 1617 Mal

Re: Datensätze die mehr als 12 Monate nicht mehr aktualisiert wurden aus Datenbank löschen

Beitrag von MichaelN » 22.01.2022, 10:54

Du nutzt vermutlich keine Einstellungen zur Daten Kompression? Swinging door zum Beispiel
LG, Michael.

Wenn du eine App zur Bedienung brauchst, dann hast du kein Smarthome.

Wettervorhersage über AccuWeather oder OpenWeatherMap+++ Rollladensteuerung 2.0 +++ JSON-API-Ausgaben auswerten +++ undokumentierte Skript-Befehle und Debugging-Tipps +++

JoMass
Beiträge: 316
Registriert: 26.11.2016, 12:52
Hat sich bedankt: 6 Mal
Danksagung erhalten: 11 Mal

Re: Datensätze die mehr als 12 Monate nicht mehr aktualisiert wurden aus Datenbank löschen

Beitrag von JoMass » 22.01.2022, 13:04

Super & Danke Matthias, werde ich in Kürze ausprobieren und dann erneut -recalc und -compact durchführen.

& ja die Skripts zum optimieren der Daten Aufzeichnung habe ich mehrmals verwendet.
JoMass
~200 Geräte; ~70 Programme FW: 3.75.6.20240316 – Odroid N2+ 4GB 64GB-SSD , Homeassistant (latest), - HISTORIAN V3.6.0 auf QNAP; Mediola AIO Creator NEO - Node-RED (Current version: 17.0.10 (3.1.7))

JoMass
Beiträge: 316
Registriert: 26.11.2016, 12:52
Hat sich bedankt: 6 Mal
Danksagung erhalten: 11 Mal

Re: Datensätze die mehr als 12 Monate nicht mehr aktualisiert wurden aus Datenbank löschen

Beitrag von JoMass » 22.01.2022, 16:36

nochmals vielen Dank, hat funktioniert, die Größe ist auf 800MB geschrumpf und die Zeit von 25sec auf 3sec. Hoffe dass es eine Zeitlang nun so bleibt!
JoMass
~200 Geräte; ~70 Programme FW: 3.75.6.20240316 – Odroid N2+ 4GB 64GB-SSD , Homeassistant (latest), - HISTORIAN V3.6.0 auf QNAP; Mediola AIO Creator NEO - Node-RED (Current version: 17.0.10 (3.1.7))

MichaelN
Beiträge: 9649
Registriert: 27.04.2020, 10:34
System: CCU
Hat sich bedankt: 697 Mal
Danksagung erhalten: 1617 Mal

Re: Datensätze die mehr als 12 Monate nicht mehr aktualisiert wurden aus Datenbank löschen

Beitrag von MichaelN » 22.01.2022, 17:13

JoMass hat geschrieben:
22.01.2022, 13:04
die Skripts zum optimieren der Daten Aufzeichnung habe ich mehrmals verwendet.
Und was steht in der Datenpunkt Konfiguration unter 'Vorverarb'? Und hast du die unnötigen Datenpunkte auf inaktiv gesetzt?
LG, Michael.

Wenn du eine App zur Bedienung brauchst, dann hast du kein Smarthome.

Wettervorhersage über AccuWeather oder OpenWeatherMap+++ Rollladensteuerung 2.0 +++ JSON-API-Ausgaben auswerten +++ undokumentierte Skript-Befehle und Debugging-Tipps +++

JoMass
Beiträge: 316
Registriert: 26.11.2016, 12:52
Hat sich bedankt: 6 Mal
Danksagung erhalten: 11 Mal

Re: Datensätze die mehr als 12 Monate nicht mehr aktualisiert wurden aus Datenbank löschen

Beitrag von JoMass » 22.01.2022, 22:29

Danke MichaelN, Natürlich verwende ich die Datenkompression, je nach Sensor und Auswertung entweder DeltaK oder Swinging door. Mein System ist halt gewachsen und hat sehr viele Datensätze die aufgezeichnet werden. Historian läuft am QNAP NAS, Speicher hab ich da genug, nur zuletzt wurde die Graphikerstellung immer langsamer. Aktuell ist die Performance aber wieder super.
Ich finde Historian ist ein sehr gutes Tool! Es läuft und läuft....
JoMass
~200 Geräte; ~70 Programme FW: 3.75.6.20240316 – Odroid N2+ 4GB 64GB-SSD , Homeassistant (latest), - HISTORIAN V3.6.0 auf QNAP; Mediola AIO Creator NEO - Node-RED (Current version: 17.0.10 (3.1.7))

MichaelN
Beiträge: 9649
Registriert: 27.04.2020, 10:34
System: CCU
Hat sich bedankt: 697 Mal
Danksagung erhalten: 1617 Mal

Re: Datensätze die mehr als 12 Monate nicht mehr aktualisiert wurden aus Datenbank löschen

Beitrag von MichaelN » 22.01.2022, 22:51

Das kam bisher nicht so klar rüber
LG, Michael.

Wenn du eine App zur Bedienung brauchst, dann hast du kein Smarthome.

Wettervorhersage über AccuWeather oder OpenWeatherMap+++ Rollladensteuerung 2.0 +++ JSON-API-Ausgaben auswerten +++ undokumentierte Skript-Befehle und Debugging-Tipps +++

Antworten

Zurück zu „CCU-Historian“