Hallo Mathias,
Meine Datenbank bläht sich innerhalb weniger Wochen von ca. 400MB auf 3GB auf. Hab erst vor kurzem über Backup und Restore eine kompakte Datenbank generiert. Leider reproduzierbar. Auch -recalc und -compact fürhen zu einem vergleichbaren Ergebnis. Dabei stört mich nicht die Größe sondern die Zeit welche die Graphiken zur Darstellung am Screen benötigen. Die wird proportional länger und beträgt schon wieder >25 sec für die 24h Darstellung der Daten von 10 Temperatursensoren.
Über Die letzten Jahre gab es halt etliche Veränderungen/Tausch von Geräten die sicherlich als Ballast in der Datenbank noch enthalten sind aber nicht mehr benötigt werden.
Nun wollte ich mit Export und Import die Datenbank auf die letzten 24Monate beschränken. Leider funktioniert für mich dieser Weg nicht weil beim Import alle ID's der Datensätze neu vergeben werden. Es funktionieren damit leider keine Diagramme in Fernbedienungen, Homeassistant und Browser Bookmarks mehr.
Super wäre da ein Script mit dem ich alle Datensätze die länger als z.B. 12 Monate nicht mehr aktualisiert wurden aus der Datenbank entfernen könnte.
oder falls die Import/Export Funktion bleibt wie sie ist, als alternative eine Funktion welche die Daten in Datensätzen die älter als 24 Monate sind einfach löscht.
Ist jetzt nichts Dringliches aber vielleicht könntest Du diesen Wunsch mal bedenken und ggf. in die Roadmap mit aufnehmen. Danke
Datensätze die mehr als 12 Monate nicht mehr aktualisiert wurden aus Datenbank löschen
Moderator: Co-Administratoren
-
- Beiträge: 316
- Registriert: 26.11.2016, 12:52
- Hat sich bedankt: 6 Mal
- Danksagung erhalten: 11 Mal
Datensätze die mehr als 12 Monate nicht mehr aktualisiert wurden aus Datenbank löschen
JoMass
~200 Geräte; ~70 Programme FW: 3.75.6.20240316 – Odroid N2+ 4GB 64GB-SSD , Homeassistant (latest), - HISTORIAN V3.6.0 auf QNAP; Mediola AIO Creator NEO - Node-RED (Current version: 17.0.10 (3.1.7))
~200 Geräte; ~70 Programme FW: 3.75.6.20240316 – Odroid N2+ 4GB 64GB-SSD , Homeassistant (latest), - HISTORIAN V3.6.0 auf QNAP; Mediola AIO Creator NEO - Node-RED (Current version: 17.0.10 (3.1.7))
-
- Beiträge: 1781
- Registriert: 03.11.2010, 10:25
- System: CCU
- Wohnort: Aachen
- Hat sich bedankt: 58 Mal
- Danksagung erhalten: 258 Mal
- Kontaktdaten:
Re: Datensätze die mehr als 12 Monate nicht mehr aktualisiert wurden aus Datenbank löschen
Das kann mit einem Skript (s.a. Skriptumgebung) bewerkstelligt werden. Ich habe mal kurz eins für diesen Zweck erstellt. Du findest es im Wiki unter Skripte.
Je nach Größe der Datenbank, dauert das Löschen natürlich etwas.
Gruß
Mathias
Je nach Größe der Datenbank, dauert das Löschen natürlich etwas.
Gruß
Mathias
-
- Beiträge: 9649
- Registriert: 27.04.2020, 10:34
- System: CCU
- Hat sich bedankt: 697 Mal
- Danksagung erhalten: 1617 Mal
Re: Datensätze die mehr als 12 Monate nicht mehr aktualisiert wurden aus Datenbank löschen
Du nutzt vermutlich keine Einstellungen zur Daten Kompression? Swinging door zum Beispiel
LG, Michael.
Wenn du eine App zur Bedienung brauchst, dann hast du kein Smarthome.
Wettervorhersage über AccuWeather oder OpenWeatherMap+++ Rollladensteuerung 2.0 +++ JSON-API-Ausgaben auswerten +++ undokumentierte Skript-Befehle und Debugging-Tipps +++
Wenn du eine App zur Bedienung brauchst, dann hast du kein Smarthome.
Wettervorhersage über AccuWeather oder OpenWeatherMap+++ Rollladensteuerung 2.0 +++ JSON-API-Ausgaben auswerten +++ undokumentierte Skript-Befehle und Debugging-Tipps +++
-
- Beiträge: 316
- Registriert: 26.11.2016, 12:52
- Hat sich bedankt: 6 Mal
- Danksagung erhalten: 11 Mal
Re: Datensätze die mehr als 12 Monate nicht mehr aktualisiert wurden aus Datenbank löschen
Super & Danke Matthias, werde ich in Kürze ausprobieren und dann erneut -recalc und -compact durchführen.
& ja die Skripts zum optimieren der Daten Aufzeichnung habe ich mehrmals verwendet.
& ja die Skripts zum optimieren der Daten Aufzeichnung habe ich mehrmals verwendet.
JoMass
~200 Geräte; ~70 Programme FW: 3.75.6.20240316 – Odroid N2+ 4GB 64GB-SSD , Homeassistant (latest), - HISTORIAN V3.6.0 auf QNAP; Mediola AIO Creator NEO - Node-RED (Current version: 17.0.10 (3.1.7))
~200 Geräte; ~70 Programme FW: 3.75.6.20240316 – Odroid N2+ 4GB 64GB-SSD , Homeassistant (latest), - HISTORIAN V3.6.0 auf QNAP; Mediola AIO Creator NEO - Node-RED (Current version: 17.0.10 (3.1.7))
-
- Beiträge: 316
- Registriert: 26.11.2016, 12:52
- Hat sich bedankt: 6 Mal
- Danksagung erhalten: 11 Mal
Re: Datensätze die mehr als 12 Monate nicht mehr aktualisiert wurden aus Datenbank löschen
nochmals vielen Dank, hat funktioniert, die Größe ist auf 800MB geschrumpf und die Zeit von 25sec auf 3sec. Hoffe dass es eine Zeitlang nun so bleibt!
JoMass
~200 Geräte; ~70 Programme FW: 3.75.6.20240316 – Odroid N2+ 4GB 64GB-SSD , Homeassistant (latest), - HISTORIAN V3.6.0 auf QNAP; Mediola AIO Creator NEO - Node-RED (Current version: 17.0.10 (3.1.7))
~200 Geräte; ~70 Programme FW: 3.75.6.20240316 – Odroid N2+ 4GB 64GB-SSD , Homeassistant (latest), - HISTORIAN V3.6.0 auf QNAP; Mediola AIO Creator NEO - Node-RED (Current version: 17.0.10 (3.1.7))
-
- Beiträge: 9649
- Registriert: 27.04.2020, 10:34
- System: CCU
- Hat sich bedankt: 697 Mal
- Danksagung erhalten: 1617 Mal
Re: Datensätze die mehr als 12 Monate nicht mehr aktualisiert wurden aus Datenbank löschen
Und was steht in der Datenpunkt Konfiguration unter 'Vorverarb'? Und hast du die unnötigen Datenpunkte auf inaktiv gesetzt?
LG, Michael.
Wenn du eine App zur Bedienung brauchst, dann hast du kein Smarthome.
Wettervorhersage über AccuWeather oder OpenWeatherMap+++ Rollladensteuerung 2.0 +++ JSON-API-Ausgaben auswerten +++ undokumentierte Skript-Befehle und Debugging-Tipps +++
Wenn du eine App zur Bedienung brauchst, dann hast du kein Smarthome.
Wettervorhersage über AccuWeather oder OpenWeatherMap+++ Rollladensteuerung 2.0 +++ JSON-API-Ausgaben auswerten +++ undokumentierte Skript-Befehle und Debugging-Tipps +++
-
- Beiträge: 316
- Registriert: 26.11.2016, 12:52
- Hat sich bedankt: 6 Mal
- Danksagung erhalten: 11 Mal
Re: Datensätze die mehr als 12 Monate nicht mehr aktualisiert wurden aus Datenbank löschen
Danke MichaelN, Natürlich verwende ich die Datenkompression, je nach Sensor und Auswertung entweder DeltaK oder Swinging door. Mein System ist halt gewachsen und hat sehr viele Datensätze die aufgezeichnet werden. Historian läuft am QNAP NAS, Speicher hab ich da genug, nur zuletzt wurde die Graphikerstellung immer langsamer. Aktuell ist die Performance aber wieder super.
Ich finde Historian ist ein sehr gutes Tool! Es läuft und läuft....
Ich finde Historian ist ein sehr gutes Tool! Es läuft und läuft....
JoMass
~200 Geräte; ~70 Programme FW: 3.75.6.20240316 – Odroid N2+ 4GB 64GB-SSD , Homeassistant (latest), - HISTORIAN V3.6.0 auf QNAP; Mediola AIO Creator NEO - Node-RED (Current version: 17.0.10 (3.1.7))
~200 Geräte; ~70 Programme FW: 3.75.6.20240316 – Odroid N2+ 4GB 64GB-SSD , Homeassistant (latest), - HISTORIAN V3.6.0 auf QNAP; Mediola AIO Creator NEO - Node-RED (Current version: 17.0.10 (3.1.7))
-
- Beiträge: 9649
- Registriert: 27.04.2020, 10:34
- System: CCU
- Hat sich bedankt: 697 Mal
- Danksagung erhalten: 1617 Mal
Re: Datensätze die mehr als 12 Monate nicht mehr aktualisiert wurden aus Datenbank löschen
Das kam bisher nicht so klar rüber
LG, Michael.
Wenn du eine App zur Bedienung brauchst, dann hast du kein Smarthome.
Wettervorhersage über AccuWeather oder OpenWeatherMap+++ Rollladensteuerung 2.0 +++ JSON-API-Ausgaben auswerten +++ undokumentierte Skript-Befehle und Debugging-Tipps +++
Wenn du eine App zur Bedienung brauchst, dann hast du kein Smarthome.
Wettervorhersage über AccuWeather oder OpenWeatherMap+++ Rollladensteuerung 2.0 +++ JSON-API-Ausgaben auswerten +++ undokumentierte Skript-Befehle und Debugging-Tipps +++