Daten aus LOG-File visualisieren

Ich wir möchte Daten aus einem (mit einem µC erzeugten und auf SD-Karte geschrieben) Log-File visualisieren.
Es werden pro Jahr ca. 250.000 Zeilen erzeugt: Das LogFile ist so aufgebaut, alle Einträge im ASCII hex:
0000000;0F07150F33003C362C30330000FF
0000001;0F07150F34003C3A2D30330000FF
0000002;0F07150F35003C3A2F2F320000FF
....
Fortlaufende Nummer, Zeitstempel (yyMMddhhmm), dazu 4x 8Bit-Int-Werte und Statusinformationen.
Wir haben begonnen, das Thema in Visual C# 2010 Express zu bearbeiten, haben jedoch erhebliche Performance Probleme...
Letztendlich möchten wir aus diesen regelmäßig ausgelesenen Daten, einen Zeitraum (aus den gewonnenen Zeitstempeln) auswählen und diesen dann mit Charting darstellen.
Da ich kein (Windows= Programmierer bin und ich mit diesen Datenmengen keinerlei Erfahrung habe, suche ich Unterstützung.
Ich bin bereit, den Aufwand den man noch genauer abstimmen müsste zu vergüten.
Wer kann mir helfen?

Hallo,

was ist den das Ziel ? Diagramme zu erhalten oder ein Programm zu schreiben ?

Wenn es darum geht Diagramme aus sehr großen Datensätzen zu extrahieren, ist eine spezielle Diagrammsoftware besser geeignet. Weit verbreitet ist z.B. Origin
http://www.originlab.com/
Das hat selber eine Makrosprache eingebaut, kann aber auch aus C# gesteuert werden.

Die vorhandenen Daten sollen visualisiert werden. Das funtioniert auch schon, aber eben nur sehr stockend bzw. nur bei kleinen Datenmengen vernünftig.
Habe eine Version die mit 100 Einträgen =(Zeilen) noch fertig wird, bei 500000 wird es dann zäh....
Zum Beispiel ist es problematisch (für mich) den Zeitstempel aus dem String zu erzeugen. Mit DateTimeParse dauert es bei den 500000 Zeilen ewig....
Den nächste Schritt, die Daten aus dem DataTable in eine Graph mit Zoom und dem genzen Krempel zu bringen, habe ich vor diesem Hintergrund noch gar nicht weiter verfolgt.

Zitat:

---

Zitat von indeas

Die vorhandenen Daten sollen visualisiert werden.

---

Eine wirkliche Antwort auf meine Frage ist das nicht.

Wenn man ein Programm haben will, muss man wohl erstmal ordentliche Grafikkomponenten kaufen. Mit den Bordmitteln von Visual Studio wird das sicher schwer.

Will man nur Diagramme, z.B. als PDF sollte das mit dem genannten Programm kein Problem sein. Origin kann Tabellen mit 90 Millionen Zeilen und 65000 Spalten bearbeiten. Die Programmierung ist auch auf solche Datenmengen ausgelegt und basiert auf C.
http://www.originlab.com/index.aspx?...amming/OriginC
Man kann dort auch mit Visual C++ geschriebene DLLs einbinden.

Hallo,

willst du es auf PC oder einem Display direkt am µC anzeigen
Das kann man ,mit dem für privaten Gebrauch kostenlosen Qlikview, machen. Uneingeschränkte Funktionalität, bis auf die Dokumentenweitergabe.
Kann ich nur empfehlen steile Lernkurve und schnelle Umsetzung solcher kleinen Auswertungen.
BIRT ginge vermutlich auch damit kenne ich mich aber nicht aus.


gruß
Macros

Mir ist klar, dass dies mit den C# eigenen "Bordmitteln" nur schlecht geht; habe mir mal Nevron und ZedGraph angesehen.
Jetzt suche ich aber auch noch jemanden, der die Aufgabe in Verbindung mit C# löst (gerne mit Origin, Nevron, ZedGraph,....)
Dass dieses Add-On auch Geld kostet, ist mir klar ;-)
Das ganze soll auf dem PC passieren.

Hallo,
würde es etwas helfen, die Daten zunächst in ein anderes Format zu konvertieren (csv, xml ... ?), wo Datum und Messwerte in einem lesbaren Format drin stünden?
Man könnte auch bestimmte Zeiträume auf mehrere Dateien aufteilen, z.B. pro Tag/Woche/Monat eine Datei, um beim Suchen nach einem Zeitraum schneller fündig zu werden.
Grüße, Bernhard

Einer der Gründe für die Verlangsamung bei großen Datenmengen dürfte ineffizienter Umgang mit Strings sein. In .net sind Strings unveränderlich, wenn man das Zerlegen der Zeilen falsch macht, entstehen sehr viele Stringobjekte, die der Garbage Collector dann wieder aufräumen mus.

Ob es hier Freiberufler gibt, die solche Aufträge annehmen, bezweifle ich etwas. Aber vielleicht schaut mal jemand vorbei. Wenn das jemand macht, der sein Geld damit verdient, wird das aber nicht ganz billig.

Der Umgang mit Strings bremst mich gar nicht so sehr aus.
Ich kann alle Integers aus jeder der 500.000 Zeilen innerhalb <1s auslesen.
Ich kann auch die strings im Zeitstempel-Format erzeugen, auch das geht noch flott (<2s):
timestring = (year + 2000).ToString("0000") + month.ToString("00") + day.ToString("00") + hour.ToString("00") + minute.ToString("00") + "00";
Das ist nicht das zentrale Problem. Das wäre absolut OK.

Wenn ich dann aber die Zeitstempel im DateTime-Format jeder Zeile erzeugen möchte, dann wird alles langsam:
Egal ob so: TimeStamp = new DateTime(year, month, day, hour, minute, 0);
Oder aus einem aus den einzelnen Variablen zusammengesetzen string den ich dann parse, es ist dann super-langsam.

Würde gerne das DateTime Format nehmen, damit ich über eine TimeSpan nachher alles sauber selektieren kann.
Zur Visualisierung kommen wir dann erst später...Die sollte dann alle Werte zwischen zwei Zeitstempeln liefern.

Im Grunde genommen möchte ich das alles nicht unbedingt selber machen, sondern lieber jemand dafür bezahlen der so etwas kann und schon öfters gemacht hat.

Du könntest auch dem Einlesen der Daten die Umwandung in TimeStamps in mehrer Threads auslagen.

Einlesen -> (0-50.000 -> Thread 1 ) (50.000-100.000 -> Thread 2) ,...
So könnten man bei 10 Threads die Zeit auf ein Zehntel reduzieren.