da mir heute wieder langweilig in meiner vorlesung war hat sich mir folgendes problem gestellt:

ich programmiere ( von der programmstruktur her ) relative einfache Programme.
z.Bsp. möchte ich Zahlen faktorisieren.
Bei relativ großen Zahlen wird die entstehende Rechenlast relativ groß.
Wenn ich dieses Programm auf meinem rechner mit dual core prozessor ausführ verteilt das programm die entstehende rechenlast nicht gleichmäßig auf beide prozessorkerne.
Daher ist die frage nun: was muss ich beim programmdesign beachten um entstehende rechenlast gleichmäßig auf 2 od. 4 bzw später auch mal mehr kerne zu verteilen.

danke schon im vorab!

[edit]Hier noch ein Link zum oben erwähnten Buch.
http://www.sci.utah.edu/books/parallel_scicomp/[edit]

Im Zweifelsfall bitte auch folgende Hinweise beachten:
C/C++ Forum :: FAQ - Sonstiges :: Wohin mit meiner Frage?

Dieses Posting wurde automatisch erzeugt.

Verteiltes Rechner bedarf doch schon eher mehrere Computer.

Um Multicore-CPUs ausnutzen zu können, reicht es multithread-fähige Programme zu schreiben.

Eben nicht Klar ein signle-threaded programm kann mit 4 kernen nichts anfangen, aber wenn du das effizient machen willst kommen noch einige andere sachen dazu. Allen den Fakt, dass sich die kerne den selben L2 cache teilen kann man sehr gut ausnutzen, oder eben nicht und halt nur 120% statt 200% aus deinem code raus hohlen wegen das ständigen cache-misses.

Wenns dir darum geht dein programm multicore fit zu machen muß du wissen man aufgaben paralellisiert, aber fast genau so wichtig ist zu wissen wie man die 2 kerne auch effizient ausnutzt. Gibt dazu eingie docs von intel (glaub habe auch ein paar von AMD gesehen), einfach auf der intel/amd page ewas stöbern

Allen den Fakt, dass sich die kerne den selben L2 cache teilen kann man sehr gut ausnutzen, oder eben nicht und halt nur 120% statt 200% aus deinem code raus hohlen wegen das ständigen cache-misses.

Ich glaube nicht, dass man das direkt ausnutzen sollte. Und zwar, weil dieses Architekturdetail nur auf eine Teilmenge der momentan erhältlichen 2-Kern-CPUs zutrifft. Das ist nur bei den Core 2 Duos der Fall. Bei den Prozessoren von AMD ist das nicht der Fall, beim Pentium D ist das nicht der Fall und beim neuen 4-Kern Prozessor von Intel ist das auch nur zur Hälfte der Fall. Wenn man soetwas direkt ausnutzt, dann stellt sich doch die Frage, welche Auswirkungen das bei Prozessoren hat, bei denen die Kerne keinen gemeinsamen L2 Cache haben.

Aber abgesehen davon: Mir ist eh nicht ganz klar, wie Du das genau ausnutzen willst. Wie würde denn eine entsprechende Optimierung aussehen, die Du bei getrennten L2 Caches nicht machen würdest. Und warum würdest Du diese Optimierung da nicht machen.

Ich sehe den gemeinsamen L2 Cache der Kerne eigentlich als Bonus, der sich völlig unabhängig von der Software positiv auswirkt: Man hat einfach effektiv mehr Cache im Prozessor. Wenn man da ein Programm mit nur einem Thread nutzt, dann hat dieses den doppelten Cache zur Verfügung und wenn man mehrere Threads nutzt, dann werden Daten zumindestnicht mehrmals im Cache gespeichert, wodurch man letztendlich auch wieder mehr Cache zur Verfügung hat.

Mehrere Cores und ein L2 Cache sorgt dafür, das besonders Anwendungen, die viel aus dem Speicher lesen (eben oft den Cache brauchen) und sich schlecht parallelisieren lassen (also von mehreren Prozessen nicht so viel profitieren), mit einem Core schneller sind, als mit allen Vieren.

Das kann ich erstmal nicht nachvollziehen. Ich kann mir vorstellen, dass diese Anwendungen durch mehrere Kerne nicht beschleunigt werden können, aber ich kann erstmal nicht nachvollziehen, dass sie dann plötzlich langsamer sein sollen. Erklär das mal.

Abgesehen davon: Was genau hat das mit speziellen Optimierungen für einen gemeinsamen L2 Cache aller Kerne zu tun?

rüdiger schrieb:

Mehrere Cores und ein L2 Cache sorgt dafür, das besonders Anwendungen, die viel aus dem Speicher lesen (eben oft den Cache brauchen) und sich schlecht parallelisieren lassen (also von mehreren Prozessen nicht so viel profitieren), mit einem Core schneller sind, als mit allen Vieren.

Das kann ich erstmal nicht nachvollziehen. Ich kann mir vorstellen, dass diese Anwendungen durch mehrere Kerne nicht beschleunigt werden können, aber ich kann erstmal nicht nachvollziehen, dass sie dann plötzlich langsamer sein sollen. Erklär das mal.

Sie sind eben schneller, wenn sie einen großen L2-Cache haben, als einen Cache der von 4 Prozessen geteilt wird. Ich habe da mal so Benchmarks gesehen, als IBM damals die Multicore-Prozessoren eingeführt hat (das war afair ein paar Jahre vor Intel/AMD). Ich werde mich mal auf die Suche gehen.

Sie sind eben schneller, wenn sie einen großen L2-Cache haben, als einen Cache der von 4 Prozessen geteilt wird. Ich habe da mal so Benchmarks gesehen, als IBM damals die Multicore-Prozessoren eingeführt hat (das war afair ein paar Jahre vor Intel/AMD). Ich werde mich mal auf die Suche gehen.

Das glaube ich gerne. Brauchst gar nicht suchen, das nehme ich Dir auch so ab. Und mir ist auch klar, dass ein gemeinsamer Cache für mehrere Kerne von Vorteil ist. IMHO ging es aber gar nicht darum. Ich glaube, wir haben da etwas aneinander vorbeigeredet: Mir ging es eigentlich um Optimierungen der Software für einen gemeinsamen bzw. getrennte Caches. Vielleicht sollten wir das einfach so beenden.

Mal ganz allgemein gefragt (von OpenMP weiss ich nur soviel, wie ich gerade im dt. Wikipedia ueberflogen hab):
wenn ihr ein Programm schreiben wollt, welches von Mehr-Kerne Prozessoren profitieren soll, verwendet ihr dann Threads oder greift ihr zu Methoden des Parallel Computing? Was sind die Vorteile der jeweiligen Vorgehensweisen?

Also: Wenn Zeit wirklich eine Rolle spielt und man so viel wie möglich Leistung aus dem Rechner holen will und man auch noch relativ einfach damit Programmieren will, dann führt IMHO an OpenMP nichts vorbei.
Alle anderen mir bekannten Ansätze sind wesentlich komplexer und bieten für ein (nicht verteiltes) PC-System keinen Vorteil.

Das kann ich erstmal nicht nachvollziehen. Ich kann mir vorstellen, dass diese Anwendungen durch mehrere Kerne nicht beschleunigt werden können, aber ich kann erstmal nicht nachvollziehen, dass sie dann plötzlich langsamer sein sollen. Erklär das mal.

das kann viele ursachen haben beim p4HT z.b. cache trashing, oder pipeline-loops/stalling . dazu gibt es so einige paper, manche leider nicht public. am ende verhaellt sich eh jede cpu-art anders und man muss fuer diese dann optimieren.

grundsaetzlich sollte man eine neuere cpu haben (p4HT ist suboptimal), dann nur die daten die read only sind zwischen threads sharen, ansonsten die daten mehrfach anlegen. am besten ist natuerlich wenn aus shared-readonly daten neue daten generiert werden ohne das auf vorherige daten aufgebaut wird z.b. beim rendern eines bildes kann man perfekt das bild in unabhaengige stuecke aufteilen.

Daher ist die frage nun: was muss ich beim programmdesign beachten um entstehende rechenlast gleichmäßig auf 2 od. 4 bzw später auch mal mehr kerne zu verteilen.

Cluster Computing | ISBN: 3540422994

Das Buch ist einfach nur geil!
Es geht aber nicht speziell auf Dual-/Quadprozessoren ein, sondern generelle CPU Architekturen, Lastverteilung und Kommunikation!

cu
P84