Seite 1 von 1

Datensätze die mehr als 12 Monate nicht mehr aktualisiert wurden aus Datenbank löschen

Verfasst: 21.01.2022, 19:34
von JoMass
Hallo Mathias,

Meine Datenbank bläht sich innerhalb weniger Wochen von ca. 400MB auf 3GB auf. Hab erst vor kurzem über Backup und Restore eine kompakte Datenbank generiert. Leider reproduzierbar. Auch -recalc und -compact fürhen zu einem vergleichbaren Ergebnis. Dabei stört mich nicht die Größe sondern die Zeit welche die Graphiken zur Darstellung am Screen benötigen. Die wird proportional länger und beträgt schon wieder >25 sec für die 24h Darstellung der Daten von 10 Temperatursensoren.

Über Die letzten Jahre gab es halt etliche Veränderungen/Tausch von Geräten die sicherlich als Ballast in der Datenbank noch enthalten sind aber nicht mehr benötigt werden.

Nun wollte ich mit Export und Import die Datenbank auf die letzten 24Monate beschränken. Leider funktioniert für mich dieser Weg nicht weil beim Import alle ID's der Datensätze neu vergeben werden. Es funktionieren damit leider keine Diagramme in Fernbedienungen, Homeassistant und Browser Bookmarks mehr.

Super wäre da ein Script mit dem ich alle Datensätze die länger als z.B. 12 Monate nicht mehr aktualisiert wurden aus der Datenbank entfernen könnte.

oder falls die Import/Export Funktion bleibt wie sie ist, als alternative eine Funktion welche die Daten in Datensätzen die älter als 24 Monate sind einfach löscht.

Ist jetzt nichts Dringliches aber vielleicht könntest Du diesen Wunsch mal bedenken und ggf. in die Roadmap mit aufnehmen. Danke

Re: Datensätze die mehr als 12 Monate nicht mehr aktualisiert wurden aus Datenbank löschen

Verfasst: 22.01.2022, 10:25
von Mathias
Das kann mit einem Skript (s.a. Skriptumgebung) bewerkstelligt werden. Ich habe mal kurz eins für diesen Zweck erstellt. Du findest es im Wiki unter Skripte.

Je nach Größe der Datenbank, dauert das Löschen natürlich etwas.

Gruß
Mathias

Re: Datensätze die mehr als 12 Monate nicht mehr aktualisiert wurden aus Datenbank löschen

Verfasst: 22.01.2022, 10:54
von MichaelN
Du nutzt vermutlich keine Einstellungen zur Daten Kompression? Swinging door zum Beispiel

Re: Datensätze die mehr als 12 Monate nicht mehr aktualisiert wurden aus Datenbank löschen

Verfasst: 22.01.2022, 13:04
von JoMass
Super & Danke Matthias, werde ich in Kürze ausprobieren und dann erneut -recalc und -compact durchführen.

& ja die Skripts zum optimieren der Daten Aufzeichnung habe ich mehrmals verwendet.

Re: Datensätze die mehr als 12 Monate nicht mehr aktualisiert wurden aus Datenbank löschen

Verfasst: 22.01.2022, 16:36
von JoMass
nochmals vielen Dank, hat funktioniert, die Größe ist auf 800MB geschrumpf und die Zeit von 25sec auf 3sec. Hoffe dass es eine Zeitlang nun so bleibt!

Re: Datensätze die mehr als 12 Monate nicht mehr aktualisiert wurden aus Datenbank löschen

Verfasst: 22.01.2022, 17:13
von MichaelN
JoMass hat geschrieben:
22.01.2022, 13:04
die Skripts zum optimieren der Daten Aufzeichnung habe ich mehrmals verwendet.
Und was steht in der Datenpunkt Konfiguration unter 'Vorverarb'? Und hast du die unnötigen Datenpunkte auf inaktiv gesetzt?

Re: Datensätze die mehr als 12 Monate nicht mehr aktualisiert wurden aus Datenbank löschen

Verfasst: 22.01.2022, 22:29
von JoMass
Danke MichaelN, Natürlich verwende ich die Datenkompression, je nach Sensor und Auswertung entweder DeltaK oder Swinging door. Mein System ist halt gewachsen und hat sehr viele Datensätze die aufgezeichnet werden. Historian läuft am QNAP NAS, Speicher hab ich da genug, nur zuletzt wurde die Graphikerstellung immer langsamer. Aktuell ist die Performance aber wieder super.
Ich finde Historian ist ein sehr gutes Tool! Es läuft und läuft....

Re: Datensätze die mehr als 12 Monate nicht mehr aktualisiert wurden aus Datenbank löschen

Verfasst: 22.01.2022, 22:51
von MichaelN
Das kam bisher nicht so klar rüber