Backuperstellung multithreaded

Virtualisierte CCU für Raspberry Pi und Clones

Moderator: Co-Administratoren

Antworten
Troubadix
Beiträge: 80
Registriert: 19.08.2017, 13:43
Hat sich bedankt: 4 Mal
Danksagung erhalten: 1 Mal

Backuperstellung multithreaded

Beitrag von Troubadix » 28.09.2019, 22:01

Hallo,

könnte man bitte die Backup-Erstellung innerhalb der CCU multithreaded machen?
gzip lastet nur einen der vier Kerne des Pi4 aus.
Das ginge z.B. mit pigz statt gzip.

Das würde die Backup-Erstellung deutlich beschleunigen.

Danke

Benutzeravatar
deimos
Beiträge: 5396
Registriert: 20.06.2017, 10:38
System: Alternative CCU (auf Basis OCCU)
Wohnort: Leimersheim
Hat sich bedankt: 121 Mal
Danksagung erhalten: 957 Mal
Kontaktdaten:

Re: Backuperstellung multithreaded

Beitrag von deimos » 28.09.2019, 22:15

Hi,

nein, weil ich da nicht damit nicht sicher gehen kann, dass die Backups wirklich kompatibel bleiben.

Viele Grüße
Alex

Troubadix
Beiträge: 80
Registriert: 19.08.2017, 13:43
Hat sich bedankt: 4 Mal
Danksagung erhalten: 1 Mal

Re: Backuperstellung multithreaded

Beitrag von Troubadix » 29.09.2019, 20:35

Hast Du das bereits getestet?
Lt. Entwickler von pigz ist es nahezu ein 1:1 replacement.
Evtl dann eine Bugmeldung wenn es in einem speziellen Punkt doch nicht geht?

Benutzeravatar
deimos
Beiträge: 5396
Registriert: 20.06.2017, 10:38
System: Alternative CCU (auf Basis OCCU)
Wohnort: Leimersheim
Hat sich bedankt: 121 Mal
Danksagung erhalten: 957 Mal
Kontaktdaten:

Re: Backuperstellung multithreaded

Beitrag von deimos » 29.09.2019, 20:41

Hi,

nein, ich habe es nicht probiert, aber das theoretische Risiko reicht mir an der Stelle, den Aufwand nicht zu treiben.

Viele Grüße
Alex

Benutzeravatar
eiGelbGeek
Beiträge: 979
Registriert: 24.07.2014, 17:46
Wohnort: Ruhrpottrandgebiet
Hat sich bedankt: 105 Mal
Danksagung erhalten: 19 Mal

Re: Backuperstellung multithreaded

Beitrag von eiGelbGeek » 29.09.2019, 23:56

Also ganz ehrlich ... ich würde dort auch keine Experimente machen ....

Wie oft machst du denn tatsächlich ein CCU BackUP ? sicherlich nicht stündlich? ;-) wenn einmal in der Woche der PI für paar Minuten voll ausgelastet ist , weil er das BackUp auf nur einen Kern zieht .... naja ... dann ist das eben so ... Hauptsache ist doch das es zu 100% Kompatibel ist im Ernstfall ... was bringen dir Monatelange BackUps , wenn im Ernstfall keins mehr funktioniert ;-) aber dafür der RPi nie ausgelastet war :mrgreen:
Nur weil es nicht geht, muss es nicht kaputt sein ^^

Apple for Work, Linux for Network, iOS for Mobility and still Windows for Solitaire

klassisch
Beiträge: 3974
Registriert: 24.03.2011, 04:32
System: Alternative CCU (auf Basis OCCU)
Hat sich bedankt: 110 Mal
Danksagung erhalten: 71 Mal

Re: Backuperstellung multithreaded

Beitrag von klassisch » 30.09.2019, 05:48

Ich mache jede Nacht ein Backup wegen der Verbrauchsdaten.
Mein Opi arbeitet in einem recht schlecht belüfteten Gehäuse. Ich monitore die CCU Temp. Die bewegt springt den ganzen Tag um ca. 4K. Während der Backupzeit ist das auch nicht anders. Ich könnte aufgrund der Temp Aufzeichnung nicht sagen, wann Backup Zeit ist. Wenn ich das Backup manuell starte, dauert das nur ein paar Sekunden.
Eine Notwendigkeit zur Optimierung sehe ich bei meinem System nicht.
Und volle (Backup-) Kompatibilität ist die Kerneigenschaft der piVCCU, mithin also ein extrem hohes Gut.

Benutzeravatar
eiGelbGeek
Beiträge: 979
Registriert: 24.07.2014, 17:46
Wohnort: Ruhrpottrandgebiet
Hat sich bedankt: 105 Mal
Danksagung erhalten: 19 Mal

Re: Backuperstellung multithreaded

Beitrag von eiGelbGeek » 30.09.2019, 16:10

Für die Temperatur würd ich mir aber ein anderes Szenario bauen ....

Meine Logikschicht liegt in Openhab ..... ich nutze folgendes Script um die Temperatur per MQTT an openhab zu übertragen .... in openhab kann ich mit den Wert natürlich weiter arbeiten ... z.b. wenn eine zu hohe Temp erreicht wird, wird ein Alarm ausgeben.

Code: Alles auswählen

#!/bin/bash

mqtt_broker_ip="xxx.xxx.xxx.xxx"
mqtt_broker_port="1883"
mqtt_topic="/topic/rpi/temp/"
mqtt_item="RPi_CPU_temperature"

Temperature=$(/opt/vc/bin/vcgencmd measure_temp|awk -F "=" '{print $2}'| awk -F "\'" '{print $1}' 2>/dev/null)
mosquitto_pub -h $mqtt_broker_ip -p $mqtt_broker_port -t $mqtt_topic$mqtt_item/status -m $Temperature
Das ganze geht natürlich auch CCU Intern .... man muss sich nur das Script anpassen....
Nur weil es nicht geht, muss es nicht kaputt sein ^^

Apple for Work, Linux for Network, iOS for Mobility and still Windows for Solitaire

klassisch
Beiträge: 3974
Registriert: 24.03.2011, 04:32
System: Alternative CCU (auf Basis OCCU)
Hat sich bedankt: 110 Mal
Danksagung erhalten: 71 Mal

Re: Backuperstellung multithreaded

Beitrag von klassisch » 30.09.2019, 20:48

[Teil-OT]
eiGelbGeek hat geschrieben:
30.09.2019, 16:10
Für die Temperatur würd ich mir aber ein anderes Szenario bauen ....
Meines wird wohl noch einfacher sein, ganz ohne MQTT. Die Temp in der piVCCU zyklisch in eine Systemvariable schreiben

Code: Alles auswählen

string stdout;
string stderr;
system.Exec("cat /sys/class/thermal/thermal_zone0/temp", &stdout, &strerr);
var temp = stdout.ToFloat() / 1000;
dom.GetObject("Temperatur_PiVCCU").State(temp);
Und diese Systemvariable erscheint dann automatisch im ioBroker. Dort kann ich sie loggen, plotten und könnte sie bei Bedarf verarbeiten.

Benutzeravatar
eiGelbGeek
Beiträge: 979
Registriert: 24.07.2014, 17:46
Wohnort: Ruhrpottrandgebiet
Hat sich bedankt: 105 Mal
Danksagung erhalten: 19 Mal

Re: Backuperstellung multithreaded

Beitrag von eiGelbGeek » 01.10.2019, 02:56

klassisch hat geschrieben:
30.09.2019, 20:48
[Teil-OT]
eiGelbGeek hat geschrieben:
30.09.2019, 16:10
Für die Temperatur würd ich mir aber ein anderes Szenario bauen ....
Meines wird wohl noch einfacher sein, ganz ohne MQTT. Die Temp in der piVCCU zyklisch in eine Systemvariable schreiben

Code: Alles auswählen

string stdout;
string stderr;
system.Exec("cat /sys/class/thermal/thermal_zone0/temp", &stdout, &strerr);
var temp = stdout.ToFloat() / 1000;
dom.GetObject("Temperatur_PiVCCU").State(temp);
Und diese Systemvariable erscheint dann automatisch im ioBroker. Dort kann ich sie loggen, plotten und könnte sie bei Bedarf verarbeiten.
So kann man es natürlich auch machen, aber ich habe MQTT eh am laufen ... und will nicht auch noch Scripte in der CCU haben ;-) meine komplette Logik liegt in openHAB .... ist vermutlich alles nur Geschmacksache ..... :mrgreen: :mrgreen: :mrgreen:

Vorteil ist ich brauche immer nur ein BackUp der CCU wenn neue Geräte dazu kommen ..... ;-) ändert sich ja sonst nichts :mrgreen:
Nur weil es nicht geht, muss es nicht kaputt sein ^^

Apple for Work, Linux for Network, iOS for Mobility and still Windows for Solitaire

Troubadix
Beiträge: 80
Registriert: 19.08.2017, 13:43
Hat sich bedankt: 4 Mal
Danksagung erhalten: 1 Mal

Re: Backuperstellung multithreaded

Beitrag von Troubadix » 05.10.2019, 22:23

Wieder aus dem Kurzurlaub zurück.

Bei mir dauert die Backuperstellung ca. 15-20 Minuten und das Backup hat dann um die 900MB. Gut 3/4 der Zeit geht für gzip drauf. Also da wäre multithreaded gzip schon sehr schön zu haben.
Aber klar, für ein kleines Backup lohnt sich das dann nicht. Bei solchen größeren Backups wie bei mir wäre es aber doch schön zu haben.

Antworten

Zurück zu „piVCCU“