Backuperstellung multithreaded
Moderator: Co-Administratoren
-
- Beiträge: 80
- Registriert: 19.08.2017, 13:43
- Hat sich bedankt: 4 Mal
- Danksagung erhalten: 1 Mal
Backuperstellung multithreaded
Hallo,
könnte man bitte die Backup-Erstellung innerhalb der CCU multithreaded machen?
gzip lastet nur einen der vier Kerne des Pi4 aus.
Das ginge z.B. mit pigz statt gzip.
Das würde die Backup-Erstellung deutlich beschleunigen.
Danke
könnte man bitte die Backup-Erstellung innerhalb der CCU multithreaded machen?
gzip lastet nur einen der vier Kerne des Pi4 aus.
Das ginge z.B. mit pigz statt gzip.
Das würde die Backup-Erstellung deutlich beschleunigen.
Danke
- deimos
- Beiträge: 5396
- Registriert: 20.06.2017, 10:38
- System: Alternative CCU (auf Basis OCCU)
- Wohnort: Leimersheim
- Hat sich bedankt: 121 Mal
- Danksagung erhalten: 957 Mal
- Kontaktdaten:
Re: Backuperstellung multithreaded
Hi,
nein, weil ich da nicht damit nicht sicher gehen kann, dass die Backups wirklich kompatibel bleiben.
Viele Grüße
Alex
nein, weil ich da nicht damit nicht sicher gehen kann, dass die Backups wirklich kompatibel bleiben.
Viele Grüße
Alex
-
- Beiträge: 80
- Registriert: 19.08.2017, 13:43
- Hat sich bedankt: 4 Mal
- Danksagung erhalten: 1 Mal
Re: Backuperstellung multithreaded
Hast Du das bereits getestet?
Lt. Entwickler von pigz ist es nahezu ein 1:1 replacement.
Evtl dann eine Bugmeldung wenn es in einem speziellen Punkt doch nicht geht?
Lt. Entwickler von pigz ist es nahezu ein 1:1 replacement.
Evtl dann eine Bugmeldung wenn es in einem speziellen Punkt doch nicht geht?
- deimos
- Beiträge: 5396
- Registriert: 20.06.2017, 10:38
- System: Alternative CCU (auf Basis OCCU)
- Wohnort: Leimersheim
- Hat sich bedankt: 121 Mal
- Danksagung erhalten: 957 Mal
- Kontaktdaten:
Re: Backuperstellung multithreaded
Hi,
nein, ich habe es nicht probiert, aber das theoretische Risiko reicht mir an der Stelle, den Aufwand nicht zu treiben.
Viele Grüße
Alex
nein, ich habe es nicht probiert, aber das theoretische Risiko reicht mir an der Stelle, den Aufwand nicht zu treiben.
Viele Grüße
Alex
- eiGelbGeek
- Beiträge: 979
- Registriert: 24.07.2014, 17:46
- Wohnort: Ruhrpottrandgebiet
- Hat sich bedankt: 105 Mal
- Danksagung erhalten: 19 Mal
Re: Backuperstellung multithreaded
Also ganz ehrlich ... ich würde dort auch keine Experimente machen ....
Wie oft machst du denn tatsächlich ein CCU BackUP ? sicherlich nicht stündlich? wenn einmal in der Woche der PI für paar Minuten voll ausgelastet ist , weil er das BackUp auf nur einen Kern zieht .... naja ... dann ist das eben so ... Hauptsache ist doch das es zu 100% Kompatibel ist im Ernstfall ... was bringen dir Monatelange BackUps , wenn im Ernstfall keins mehr funktioniert aber dafür der RPi nie ausgelastet war
Wie oft machst du denn tatsächlich ein CCU BackUP ? sicherlich nicht stündlich? wenn einmal in der Woche der PI für paar Minuten voll ausgelastet ist , weil er das BackUp auf nur einen Kern zieht .... naja ... dann ist das eben so ... Hauptsache ist doch das es zu 100% Kompatibel ist im Ernstfall ... was bringen dir Monatelange BackUps , wenn im Ernstfall keins mehr funktioniert aber dafür der RPi nie ausgelastet war
Nur weil es nicht geht, muss es nicht kaputt sein ^^
Apple for Work, Linux for Network, iOS for Mobility and still Windows for Solitaire
Apple for Work, Linux for Network, iOS for Mobility and still Windows for Solitaire
-
- Beiträge: 3974
- Registriert: 24.03.2011, 04:32
- System: Alternative CCU (auf Basis OCCU)
- Hat sich bedankt: 110 Mal
- Danksagung erhalten: 71 Mal
Re: Backuperstellung multithreaded
Ich mache jede Nacht ein Backup wegen der Verbrauchsdaten.
Mein Opi arbeitet in einem recht schlecht belüfteten Gehäuse. Ich monitore die CCU Temp. Die bewegt springt den ganzen Tag um ca. 4K. Während der Backupzeit ist das auch nicht anders. Ich könnte aufgrund der Temp Aufzeichnung nicht sagen, wann Backup Zeit ist. Wenn ich das Backup manuell starte, dauert das nur ein paar Sekunden.
Eine Notwendigkeit zur Optimierung sehe ich bei meinem System nicht.
Und volle (Backup-) Kompatibilität ist die Kerneigenschaft der piVCCU, mithin also ein extrem hohes Gut.
Mein Opi arbeitet in einem recht schlecht belüfteten Gehäuse. Ich monitore die CCU Temp. Die bewegt springt den ganzen Tag um ca. 4K. Während der Backupzeit ist das auch nicht anders. Ich könnte aufgrund der Temp Aufzeichnung nicht sagen, wann Backup Zeit ist. Wenn ich das Backup manuell starte, dauert das nur ein paar Sekunden.
Eine Notwendigkeit zur Optimierung sehe ich bei meinem System nicht.
Und volle (Backup-) Kompatibilität ist die Kerneigenschaft der piVCCU, mithin also ein extrem hohes Gut.
- eiGelbGeek
- Beiträge: 979
- Registriert: 24.07.2014, 17:46
- Wohnort: Ruhrpottrandgebiet
- Hat sich bedankt: 105 Mal
- Danksagung erhalten: 19 Mal
Re: Backuperstellung multithreaded
Für die Temperatur würd ich mir aber ein anderes Szenario bauen ....
Meine Logikschicht liegt in Openhab ..... ich nutze folgendes Script um die Temperatur per MQTT an openhab zu übertragen .... in openhab kann ich mit den Wert natürlich weiter arbeiten ... z.b. wenn eine zu hohe Temp erreicht wird, wird ein Alarm ausgeben.
Das ganze geht natürlich auch CCU Intern .... man muss sich nur das Script anpassen....
Meine Logikschicht liegt in Openhab ..... ich nutze folgendes Script um die Temperatur per MQTT an openhab zu übertragen .... in openhab kann ich mit den Wert natürlich weiter arbeiten ... z.b. wenn eine zu hohe Temp erreicht wird, wird ein Alarm ausgeben.
Code: Alles auswählen
#!/bin/bash
mqtt_broker_ip="xxx.xxx.xxx.xxx"
mqtt_broker_port="1883"
mqtt_topic="/topic/rpi/temp/"
mqtt_item="RPi_CPU_temperature"
Temperature=$(/opt/vc/bin/vcgencmd measure_temp|awk -F "=" '{print $2}'| awk -F "\'" '{print $1}' 2>/dev/null)
mosquitto_pub -h $mqtt_broker_ip -p $mqtt_broker_port -t $mqtt_topic$mqtt_item/status -m $Temperature
Nur weil es nicht geht, muss es nicht kaputt sein ^^
Apple for Work, Linux for Network, iOS for Mobility and still Windows for Solitaire
Apple for Work, Linux for Network, iOS for Mobility and still Windows for Solitaire
-
- Beiträge: 3974
- Registriert: 24.03.2011, 04:32
- System: Alternative CCU (auf Basis OCCU)
- Hat sich bedankt: 110 Mal
- Danksagung erhalten: 71 Mal
Re: Backuperstellung multithreaded
[Teil-OT]
Und diese Systemvariable erscheint dann automatisch im ioBroker. Dort kann ich sie loggen, plotten und könnte sie bei Bedarf verarbeiten.
Meines wird wohl noch einfacher sein, ganz ohne MQTT. Die Temp in der piVCCU zyklisch in eine Systemvariable schreibeneiGelbGeek hat geschrieben: ↑30.09.2019, 16:10Für die Temperatur würd ich mir aber ein anderes Szenario bauen ....
Code: Alles auswählen
string stdout;
string stderr;
system.Exec("cat /sys/class/thermal/thermal_zone0/temp", &stdout, &strerr);
var temp = stdout.ToFloat() / 1000;
dom.GetObject("Temperatur_PiVCCU").State(temp);
- eiGelbGeek
- Beiträge: 979
- Registriert: 24.07.2014, 17:46
- Wohnort: Ruhrpottrandgebiet
- Hat sich bedankt: 105 Mal
- Danksagung erhalten: 19 Mal
Re: Backuperstellung multithreaded
So kann man es natürlich auch machen, aber ich habe MQTT eh am laufen ... und will nicht auch noch Scripte in der CCU haben meine komplette Logik liegt in openHAB .... ist vermutlich alles nur Geschmacksache .....klassisch hat geschrieben: ↑30.09.2019, 20:48[Teil-OT]Meines wird wohl noch einfacher sein, ganz ohne MQTT. Die Temp in der piVCCU zyklisch in eine Systemvariable schreibeneiGelbGeek hat geschrieben: ↑30.09.2019, 16:10Für die Temperatur würd ich mir aber ein anderes Szenario bauen ....Und diese Systemvariable erscheint dann automatisch im ioBroker. Dort kann ich sie loggen, plotten und könnte sie bei Bedarf verarbeiten.Code: Alles auswählen
string stdout; string stderr; system.Exec("cat /sys/class/thermal/thermal_zone0/temp", &stdout, &strerr); var temp = stdout.ToFloat() / 1000; dom.GetObject("Temperatur_PiVCCU").State(temp);
Vorteil ist ich brauche immer nur ein BackUp der CCU wenn neue Geräte dazu kommen ..... ändert sich ja sonst nichts
Nur weil es nicht geht, muss es nicht kaputt sein ^^
Apple for Work, Linux for Network, iOS for Mobility and still Windows for Solitaire
Apple for Work, Linux for Network, iOS for Mobility and still Windows for Solitaire
-
- Beiträge: 80
- Registriert: 19.08.2017, 13:43
- Hat sich bedankt: 4 Mal
- Danksagung erhalten: 1 Mal
Re: Backuperstellung multithreaded
Wieder aus dem Kurzurlaub zurück.
Bei mir dauert die Backuperstellung ca. 15-20 Minuten und das Backup hat dann um die 900MB. Gut 3/4 der Zeit geht für gzip drauf. Also da wäre multithreaded gzip schon sehr schön zu haben.
Aber klar, für ein kleines Backup lohnt sich das dann nicht. Bei solchen größeren Backups wie bei mir wäre es aber doch schön zu haben.
Bei mir dauert die Backuperstellung ca. 15-20 Minuten und das Backup hat dann um die 900MB. Gut 3/4 der Zeit geht für gzip drauf. Also da wäre multithreaded gzip schon sehr schön zu haben.
Aber klar, für ein kleines Backup lohnt sich das dann nicht. Bei solchen größeren Backups wie bei mir wäre es aber doch schön zu haben.