CUxD-Highcharts --> Excel export

Anbindung von FS20-Komponenten, ELV-Wetterstationen, EnOcean und DMX an HomeMatic

Moderator: Co-Administratoren

Segway
Beiträge: 241
Registriert: 07.12.2014, 12:23
Hat sich bedankt: 15 Mal
Danksagung erhalten: 4 Mal

CUxD-Highcharts --> Excel export

Beitrag von Segway » 06.02.2016, 11:34

Hallo,
ich recherchiere gerade wie ich an die Daten von CUxD-Highcharts komme um sie zB in Excel zu öffnen und andere Auswertungen / Berechnungen zu tätigen.
Habe dort nicht wirklich was gefunden außer dass es ein sog. Plugin gibt welches sich EXPORT-CSV nennt. Aber wie installiere ich das ? Habe dies (mal wieder) nicht verstanden. Oder bin ich da auf dem Holzweg ? Gibt es eine andere Alternative.

Ich habe auf dem RaPi auch noch CCU-Historian laufen, da gibt es ja solche export Funktionen aber das funktioniert mal überhaupt nicht !

Bin für jeden Tip dankbar.

---------------------------------------------------------
Intel NUC6CAYH mit Debian & Proxmox und IoB als VM unter Debian
CCU2 (aktuell FW 2.31.25) mit CUxD, E-mail Addon, Highcharts, HQ WebUI alles in eine SQL-DB; MAX7219 DotMatrix Display mit WeMos D1R2 in Vorbereitung
Komponenten aktuell: viele

Benutzeravatar
uwe111
Beiträge: 4820
Registriert: 26.02.2011, 22:22
Hat sich bedankt: 3 Mal
Danksagung erhalten: 246 Mal
Kontaktdaten:

Re: CUxD-Highcharts --> Excel export

Beitrag von uwe111 » 06.02.2016, 12:51

Segway hat geschrieben:ich recherchiere gerade wie ich an die Daten von CUxD-Highcharts komme um sie zB in Excel zu öffnen und andere Auswertungen / Berechnungen zu tätigen.
Die CUxD-DEVLOGFILEs kannst Du Dir einfach von der CCU runterladen. Eine Exportfunktion brauchst Du da eigentlich nicht.

Viele Grüße

Uwe
Alle sagten: Das geht nicht. Dann kam einer, der wußte das nicht und hat's einfach gemacht.
SPENDEN :wink: Download: CUxD 2.11, SSH KeyDir

Segway
Beiträge: 241
Registriert: 07.12.2014, 12:23
Hat sich bedankt: 15 Mal
Danksagung erhalten: 4 Mal

Re: CUxD-Highcharts --> Excel export

Beitrag von Segway » 06.02.2016, 12:56

Ja, das habe ich auch schon gesehen allerdings hat ein Tag ein File (*.txt)
dann müsste ich jedes File einzeln öffnen bzw in einer Excel zusammenfassen --> bei einem Jahr dauert das oder aber zusammenfügen aber das scheitert wieder an meinen Programmierkenntnissen :-(

---------------------------------------------------------
Intel NUC6CAYH mit Debian & Proxmox und IoB als VM unter Debian
CCU2 (aktuell FW 2.31.25) mit CUxD, E-mail Addon, Highcharts, HQ WebUI alles in eine SQL-DB; MAX7219 DotMatrix Display mit WeMos D1R2 in Vorbereitung
Komponenten aktuell: viele

Segway
Beiträge: 241
Registriert: 07.12.2014, 12:23
Hat sich bedankt: 15 Mal
Danksagung erhalten: 4 Mal

Re: CUxD-Highcharts --> Excel export

Beitrag von Segway » 06.02.2016, 18:24

Mhhh die Loesung heisst wohl

Kommandozeile und Copy-Befehl !


Gesendet von iPhone mit Tapatalk

---------------------------------------------------------
Intel NUC6CAYH mit Debian & Proxmox und IoB als VM unter Debian
CCU2 (aktuell FW 2.31.25) mit CUxD, E-mail Addon, Highcharts, HQ WebUI alles in eine SQL-DB; MAX7219 DotMatrix Display mit WeMos D1R2 in Vorbereitung
Komponenten aktuell: viele

Bulli
Beiträge: 494
Registriert: 29.04.2014, 18:38
Hat sich bedankt: 2 Mal
Danksagung erhalten: 9 Mal

Re: CUxD-Highcharts --> Excel export

Beitrag von Bulli » 07.02.2016, 06:08

Hallo Segway

Ein for und cat sind dein Freund. Aber Vorsicht die Datei könnte groß werten. Auf der CCU dauert das dann bestimmt sehr lange.

Befehl
for i in log*;do cat $i; done >>output.csv

Code: Alles auswählen

# ll
total 16000
  13374      4 drwxrwxr-x    2 root     users         4096 Feb  7 05:57 .
  12266     32 drwxrwxr-x    3 root     users        32768 Feb  7 05:54 ..
  13376   4280 -rwxrwxr-x    1 root     users      4382720 Feb  7 05:56 logi.20141201-0000
  13378   5836 -rwxrwxr-x    1 root     users      5973302 Feb  7 05:58 logi.20141230-0000
  13377   5848 -rwxrwxr-x    1 root     users      5986516 Feb  7 05:57 logi.20141231-0000
# for i in log*;do cat $i; done >>output.csv
# ll
total 31960
  13374      4 drwxrwxr-x    2 root     users         4096 Feb  7 06:00 .
  12266     32 drwxrwxr-x    3 root     users        32768 Feb  7 05:54 ..
  13376   4280 -rwxrwxr-x    1 root     users      4382720 Feb  7 05:56 logi.20141201-0000
  13378   5836 -rwxrwxr-x    1 root     users      5973302 Feb  7 05:58 logi.20141230-0000
  13377   5848 -rwxrwxr-x    1 root     users      5986516 Feb  7 05:57 logi.20141231-0000
  13379  15960 -rwxrwxr-x    1 root     users     16342538 Feb  7 06:02 output.csv

Segway
Beiträge: 241
Registriert: 07.12.2014, 12:23
Hat sich bedankt: 15 Mal
Danksagung erhalten: 4 Mal

Re: CUxD-Highcharts --> Excel export

Beitrag von Segway » 07.02.2016, 10:51

Bulli hat geschrieben: Befehl
for i in log*;do cat $i; done >>output.csv
Hab das grad mal mit 10 Dateien auf dem Pi2 probiert.....superschnell und ruckzuck erzeugt.
Bei 365 Dateien auf der CCU2 ..... mhhhhh.....da traue ich mich mal grad nicht :-)

Leider sind da natürlich alle Sensoren / Aktoren drin so dass man dass erstmal korrekt importieren muss sowie entsprechend filtern. Aber das geht schon alles. Über die XML-Api bekommt man ja so ziemlich alle Infos der Komponenten und kann diese dann dort implementieren.
zwar Aufwand aber egal....besser als gar nix :-)

Ergänzung:
Man kann immer nur einen Monat importieren, denn sonst reichen die Zeilen / Spalten in Excel nicht aus :-)

---------------------------------------------------------
Intel NUC6CAYH mit Debian & Proxmox und IoB als VM unter Debian
CCU2 (aktuell FW 2.31.25) mit CUxD, E-mail Addon, Highcharts, HQ WebUI alles in eine SQL-DB; MAX7219 DotMatrix Display mit WeMos D1R2 in Vorbereitung
Komponenten aktuell: viele

Bulli
Beiträge: 494
Registriert: 29.04.2014, 18:38
Hat sich bedankt: 2 Mal
Danksagung erhalten: 9 Mal

Re: CUxD-Highcharts --> Excel export

Beitrag von Bulli » 07.02.2016, 16:35

helau oder alaaf

wenn du nur 2 bis vielleicht 5 Datenpunkte haben willst kannst du folgendes machen. Das könnte dann auch für ein Jahr gehen ohne die 65000 Zeilen von Excel zu sprengen :-) Natürlich nur wenn die Datenpunkte nicht alle x Minuten geloggt werden.

Code: Alles auswählen

# grep "CUX1300001:1" * >> jahresoutput.csv
# grep "CUX1300002:1" * >> jahresoutput.csv
# grep "CUX1300003:1" * >> jahresoutput.csv
# ll jahresoutput.csv
  13381   1292 -rwxrwxr-x    1 root     users      1323008 Feb  7 16:30 jahresoutput.csv
Mit wc -l kannst du gleich die Zeilenanzahl sehen.

Code: Alles auswählen

# wc -l jahresoutput.csv
17875 jahresoutput.csv

Familienvater
Beiträge: 7151
Registriert: 31.12.2006, 15:18
System: Alternative CCU (auf Basis OCCU)
Wohnort: Rhein-Main
Danksagung erhalten: 34 Mal

Re: CUxD-Highcharts --> Excel export

Beitrag von Familienvater » 07.02.2016, 17:45

Hi,
Bulli hat geschrieben:Das könnte dann auch für ein Jahr gehen ohne die 65000 Zeilen von Excel zu sprengen :-)
also seit Version 2010? hat Excel da selbst in der 32bit Version keine Probleme mehr, und es sind 16,7 Mio Zeilen möglich...

Der Familienvater

Bulli
Beiträge: 494
Registriert: 29.04.2014, 18:38
Hat sich bedankt: 2 Mal
Danksagung erhalten: 9 Mal

Re: CUxD-Highcharts --> Excel export

Beitrag von Bulli » 07.02.2016, 22:05

Familienvater hat geschrieben:Hi,
Bulli hat geschrieben:Das könnte dann auch für ein Jahr gehen ohne die 65000 Zeilen von Excel zu sprengen :-)
also seit Version 2010? hat Excel da selbst in der 32bit Version keine Probleme mehr, und es sind 16,7 Mio Zeilen möglich...

Der Familienvater
Hallo
stimmt zwar auch nicht ganz, aber seit Excel 2007 sind es schon 1 Mio Zeilen. Ohne es geprüft zu haben glaube ich jetzt mal wikipedia :-)
Seit Excel 2007 kann ein Tabellenblatt 1.048.576 Zeilen und 16.384 Spalten (A bis XFD), also 17.179.869.184 Zellen umfassen. Davor war die Größe auf 65.536 Zeilen und 256 Spalten (A bis IV), also 16.777.216 Zellen, begrenzt. Ist in jedem dieser Felder eine Ziffer eingetragen, so hat eine Datei in Office 2003 eine Größe von 227 MB, in Office 2013 eine Größe von 1382,4 MB also 1,35 GB.
Aber darum geht es für mich doch gar nicht. Ab einer gewissen Datenmenge ist Excel unbrauchbar. Deswegen die ganzen Warnhinwiese. Und wie es "segway" schon geschrieben hat.
Ergänzung:
Man kann immer nur einen Monat importieren, denn sonst reichen die Zeilen / Spalten in Excel nicht aus
Eigentlich sollte mal lieber mySQL Oracle mongoDB oder was auch immer für größere Datenbestände nutzen. Das schlimme ich benutze OpenOffice Calc auch um z.B meinen rechnerischen Verbrauch der Ölheizung zu sehen. Aber das ist ein Datenpunkt und wie schon geschrieben nicht x mit > 20 mal am Tag.
oel_2015.jpg
Gruss
Bulli

Familienvater
Beiträge: 7151
Registriert: 31.12.2006, 15:18
System: Alternative CCU (auf Basis OCCU)
Wohnort: Rhein-Main
Danksagung erhalten: 34 Mal

Re: CUxD-Highcharts --> Excel export

Beitrag von Familienvater » 07.02.2016, 22:43

Hi,

ok, überredet. Aber zumindest ist da irgendwo in dem ganzen Zahlenwust 16,7 Mio gewesen.
Aber da ich meine Daten auf einen SQL-Server fließen lasse, ist es mir eben auch egal, der hat aktuell in der größten Tabelle 15,3 Mio Datensätze seit Juni 2011...

Der Familienvater

Antworten

Zurück zu „CUxD“